AWS Machine Learning Blog· Claudio Mazzoni·· 2 小时前精选AI 评分66
AI 智能体的土拨鼠日：在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
在 Amazon Bedrock 上为 OpenAI 模型配置提示词缓存时，可把共享工具和指令放在稳定前缀，并用隐式或显式缓存边界复用对话历史。GPT-6 Astra 的六轮示例中，隐式缓存比不缓存降低约 62% 输入成本，显式滚动断点降低约 61%。文章还覆盖新增工具、子智能体和跨会话复用缓存。
推荐理由
原文给出隐式与显式缓存边界、稳定前缀要求和 GPT-6 Astra 成本实测，可迁移到智能体循环降低输入成本。
来源：AWS Machine Learning Blog · aws.amazon.com