AWS 博客讲解 Bedrock 四项推理成本参数

AWS 在机器学习博客中说明，Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 四项请求级设置，会在不改模型和提示词的情况下影响推理账单，并给出从响应元数据、日志和账单数据核对这些设置效果的方法。 以 Claude Sonnet 5 为例，5 分钟缓存写入按输入价的 1.25 倍计费，1 小时写入按 2 倍计费，缓存读取按 0.1 倍计费；1 小时缓存需每小时至少 3 次请求才划算。博客称，对不支持的模型发起 Flex 请求会返回 ValidationException，而不会静默按 Standard 运行；Nova 2 Lite 在 us-west-2 的 Flex 公布费率为 Standard 的一半，其账单也反映了这一点。 博客还提到，对支持的模型，Bedrock 提供隐式提示缓存，无需请求中的缓存控制即可尝试复用符合条件的提示前缀。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。