AWS Machine Learning Blog· Claudio Mazzoni·· 9 小时前精选AI 评分74
AI 智能体在 Amazon Bedrock 上使用 OpenAI 模型的提示缓存模式
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
在 Amazon Bedrock 上运行 OpenAI 模型的 AI 智能体时，可用显式与隐式提示缓存复用工具、指令和会话前缀，降低重复输入成本。代码示例覆盖滚动断点、工具变更、并行子智能体和跨会话复用，并给出前缀至少 1,024 tokens、TTL 至少 30 分钟等约束。
推荐理由
文章用 Python 示例拆解显式与隐式缓存、滚动断点及子智能体共享前缀，为多轮智能体复用稳定前缀和测量成本提供了可落地步骤。
来源：AWS Machine Learning Blog · aws.amazon.com