跳到正文
热点事件持续更新

研究量化前缀缓存下编码智能体上下文增删成本

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Zerui Yang等作者发表研究,在SWE-bench Verified、SWE-bench和Loc-Bench上对开源模型进行超过2万次运行,测量LLM编程智能体在前缀缓存下增删上下文时的成本,分别统计未缓存输入、缓存输入和输出token成本。 该研究将上下文增删视为可测量的成本问题,而非仅关注任务表现,为评估编码智能体的上下文管理策略提供了按token类型拆分的数据。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    上下文有代价:前缀缓存下 LLM 编程智能体的上下文增删研究

    研究在 SWE-bench Verified、SWE-bench 和 Loc-Bench 上对开源模型进行超 2 万次运行,分别统计未缓存输入、缓存输入和输出 token 成本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。