RadarAI· X：Rohan Paul (@rohanpaul_ai)·· 3 小时前AI 评分58
NVIDIA 论文：智能体频繁压缩历史可在短上下文下几乎不损精度
AI 导读
NVIDIA 一篇新论文发现，AI 智能体通过频繁压缩历史保持短上下文时，精度几乎不下降。在 6 个长周期基准上，每个模型 22 种压缩设置中最多 5 种比完整历史低超过 2 分；每步动作后都压缩时，Claude Opus 4.5 在 SWE-bench Verified 上为 70.2%，完整历史为 70.0%。
正文 · AI 翻译
Rohan Paul· @rohanpaul_ai · X·2026-11-05 02:20· 37 分钟前AI 评分63
AI 导读
NVIDIA 论文发现，AI 智能体通过频繁压缩历史保持短上下文时精度几乎不降。服务 256K 上下文窗口比 16K 的每 token 生成成本高 3.6 倍到 7 倍。
正文 · 原文
NVIDIA 新论文发现，AI 智能体通过频繁压缩历史来保持短上下文时，精度几乎不损失。
随着上下文增长，每生成一个新 token 的成本都会上升。以 256K 上下文窗口而非 16K 服务开放模型时，每生成一个 token 的成本高出 3.6 倍到 7 倍。
他们让智能体在达到设定上限时停止，写一条简短的交接说明，然后仅凭任务和该说明重新开始。对于长文档，智能体使用 Bash 工具搜索文件，而不是一次性读取全部内容。
在 6 个长时程基准测试中，每个模型 22 种压缩设置中最多有 5 种相比完整历史损失超过 2 分。每次操作后都压缩，使 Claude Opus 4.5 在 SWE-bench Verified 上保持 70.2%，而完整历史为 70.0%。
在为长上下文付费之前，先给智能体一份结构化的交接说明和文件搜索工具，然后检查短上下文能否达到你的精度要求。
来源：Rohan Paul · x.com
来源：RadarAI · aihot.news