研究量化前缀缓存下编码智能体上下文增删成本
热点事件持续更新
研究量化前缀缓存下编码智能体上下文增删成本
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Zerui Yang等作者发表研究,在SWE-bench Verified、SWE-bench和Loc-Bench上对开源模型进行超过2万次运行,测量LLM编程智能体在前缀缓存下增删上下文时的成本,分别统计未缓存输入、缓存输入和输出token成本。 该研究将上下文增删视为可测量的成本问题,而非仅关注任务表现,为评估编码智能体的上下文管理策略提供了按token类型拆分的数据。
AI 根据报道生成 · 1 小时前更新
最新进展11月18日 13:00
上下文有代价:前缀缓存下 LLM 编程智能体的上下文增删研究报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI上下文有代价:前缀缓存下 LLM 编程智能体的上下文增删研究
研究在 SWE-bench Verified、SWE-bench 和 Loc-Bench 上对开源模型进行超 2 万次运行,分别统计未缓存输入、缓存输入和输出 token 成本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。