跳到正文
arXiv cs.AI· Yiheng Sun, Huifei Wang, Yancheng Zhu, Zhenyu Li, Zebin Zhao, Yifan Yuan·· 3 天前AI 评分48

LLM 智能体交接中工作流约束的侵蚀:当"必须"变成"也许"

When "Must" Becomes "Maybe": Erosion of Workflow Constraints in LLM Agent Handoffs

AI 导读

研究发现 LLM 智能体通过摘要、计划等中间产物交接任务时,上游已确立的判断会被侵蚀——原本"必须满足"的前置条件降级为下游可忽略的提醒。实验中所有权转移导致 76.7% 的阻断条件失效,多跳压缩达 97.2%;固定产物回放中恢复完整阻断描述可将识别率从 6.2% 提升至 99.2%,禁止动作从 85.2% 降至 0.0%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)智能体通过摘要、计划和其他中间产物在彼此的工作基础上继续推进。这些记录让下游智能体无需重新审视完整的上游上下文即可继续工作。我们揭示了这一过程中隐藏的损失:交接可以将任务向前推进,同时却侵蚀了上游已经确立的判断。一个在行动前必须满足的要求,变成了下一个智能体可以承认并搁置的注意事项。问题仍然可见,但其角色已经改变。我们将操作状态保持定义为保留已确立判断在约束下游行动中的作用。安全阻断器提供了一个具体实例:未解决的前置条件会限制可允许的行动,直到该条件被解决。在我们的实验中,我们确认了正确的上游检测,保持源权限固定,并改变提供给局部视图执行器的交接内容。直接状态控制保留了每一个阻断器,而压缩、计划同化、收敛、所有权延迟和先例替换则反复削弱它们。所有权延迟导致 76.7% 的阻断器失活;多跳压缩导致 97.2%。将传输状态与端点行动分开测量,揭示了行为恢复的两条路径。在固定产物重放中,恢复完整的阻断器描述使识别率从 6.2% 提升到 99.2%,并将禁止行动从 85.2% 降低到 0.0%。而授权检查提示则将禁止行动降低到 1.6%,同时使产物失活率保持在 95.3%。因此,成功的端点可能掩盖了受损的交接。这些发现使维护早期判断成为可靠协作的核心能力:每个阶段都必须同时传递早期工作所确立的内容以及它对后续行动的要求。语义可用性并不保证操作保持。
评论: 16 页,4 幅图。修订了标题、摘要和阐述;扩展了讨论并重新组织了附录
主题: 人工智能(cs.AI);多智能体系统(cs.MA)
引用为: arXiv:2608.24569 [cs.AI]
  (或 arXiv:2608.24569v2 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2608.24569

arXiv 颁发的 DOI,通过 DataCite

提交历史

来自:Yiheng Sun [查看电子邮件]
[v1] 2026 年 8 月 25 日星期二 13:51:52 UTC(585 KB)
[v2] 2026 年 10 月 13 日星期二 14:57:23 UTC(4,814 KB)

来源:arXiv cs.AI · arxiv.org