Airbnb以单任务成本在Bedrock运营编码Agent
热点事件持续更新
Airbnb以单任务成本在Bedrock运营编码Agent
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Airbnb 通过自建 LLM 网关,将 AirChat 编码智能体的模型请求接入 Amazon Bedrock,并以“每任务成本”作为模型选型指标。其评估体系对每个模型和每档推理强度同时测量任务得分与每任务成本,据此设定默认模型和推理强度上限。 上线后,Airbnb 将 CloudWatch 的延迟、限流和 token 消耗指标与评估结果对照,判断何时调整默认配置。 AWS 在介绍该方法时提示,模型调用日志默认关闭,需在调用的每个 AWS Region 手动开启,且开启前不回溯此前成本;缓存读取不计入配额,因此请求可能配额消耗低但账单费用高。
AI 根据报道生成 · 2 小时前更新
最新进展11月19日 05:48
Airbnb 如何用每任务成本在 Amazon Bedrock 上运营编码智能体报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AWS Machine Learning BlogAirbnb 如何用每任务成本在 Amazon Bedrock 上运营编码智能体
Airbnb 通过自建 LLM 网关将 AirChat 编码智能体的模型请求接入 Amazon Bedrock,并用“每任务成本”指标指导模型选型。其评估体系为每个模型和每档推理强度同时测量任务得分与每任务成本,据此设定默认模型和推理强度上限。上线后结合 CloudWatch 的延迟、限流和 token 消耗指标与评估结果对照,判断何时调整默认配置。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。