AWS Machine Learning Blog· Claudio Mazzoni·· 4 小时前精选AI 评分78
Amazon Bedrock 上使用 OpenAI 模型的智能体提示词缓存模式
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
Amazon Bedrock 上的 OpenAI 模型可利用隐式与显式提示词缓存，复用智能体的工具、指令和历史上下文，减少重复输入成本。文中提供多轮工具调用、工具变更、子智能体并行及新会话的代码模式；可缓存前缀至少需 1,024 tokens，缓存有效期至少为 30 分钟。
推荐理由
文章提供可迁移的智能体提示词缓存实现模式，覆盖隐式与显式边界、工具变更、子智能体并行及成本监测。
来源：AWS Machine Learning Blog · aws.amazon.com