arXiv cs.CL· Yiwei Zha, Qingyu Meng, Herbert Bos, Min Chen·· 10 小时前AI 评分47
ARCBench：智能体上下文压缩后还能遵守规则吗？
Do Agents Still Follow the Rules? Benchmarking Rule Compliance under Agent Context Compaction
AI 导读
研究者提出 ARCBench，一个基于开源 pi agent harness 的可配置基准，通过工具调用智能体循环从执行动作中测量规则遵守情况。结果显示压缩很少直接删除规则，多数违规发生在规则仍保留在压缩历史中时，智能体把后续请求当作许可而忽略规则；最强的针对压缩器的攻击通过在摘要中篡改规则使违规增加一倍以上，而保留规则的压缩运行违规频率仍是完整历史运行的两倍以上。
正文 · AI 翻译
摘要：LLM 智能体会压缩长历史记录以适配其上下文窗口，但压缩后的上下文仍须承载约束后续操作的行为规则。已有研究表明，压缩后违规行为会增多，但这些研究是在完整的智能体框架之外衡量合规性，且未识别每项违规的来源。我们提出 ARCBench（Agent Rule Compliance Benchmark，智能体规则合规基准），这是一个基于开源 pi 智能体框架构建的可配置基准。其工具调用智能体循环让我们能够根据执行期间采取的操作来衡量规则合规性，使评估更贴近实际部署的智能体工作流。借助 ARCBench，我们考察压缩后违规行为的来源，以及不同的压缩配置和对抗性设置如何改变这些来源。我们发现，压缩很少删除规则：压缩后的大多数违规发生在规则仍保留在压缩历史中的情况下，智能体将后续请求视为许可，无视规则并继续执行。违规来源取决于配置：规则的传递方式决定了智能体是否即使没有压缩也会违反规则，而压缩策略和预算则决定规则能否保留。最强的针对压缩器的攻击通过在摘要中破坏规则并改变智能体的行为，使违规增加一倍以上，而最强的防御在大多数摘要中恢复了规则，但仍会出现违规。最后，保留规则并不能保证合规：保留规则的压缩运行比使用完整历史的运行违规频率高出一倍以上。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.03223 [cs.CR] |
| （或 arXiv:2611.03223v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.03223 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yiwei Zha [查看电子邮件]
[v1]
2026年11月2日星期一 14:45:36 UTC（146 KB）
来源：arXiv cs.CL · arxiv.org