AWS Machine Learning Blog· Claudio Mazzoni·· 2 天前AI 评分53
在 Amazon Bedrock 上为 OpenAI 模型智能体使用提示词缓存
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
AWS 介绍智能体每次启动都要重读全部上下文的问题，以及在 Bedrock 上使用 OpenAI 模型时的提示词缓存模式，让智能体无需重复输入相同上下文。
来源：AWS Machine Learning Blog · aws.amazon.com