arXiv cs.AI· Chubin Zhang, Zhenglin Wan, Xingrui Yu, Jingxuan Wu, Qi Wen, Pengfei Zhou, Wangbo Zhao, Ivor Tsang·· 10 天前AI 评分27
校准不等于控制：LLM 智能体监督中的干预价值
Calibration Is Not Control: Intervention Value for LLM-Agent Oversight
AI 导读
研究指出，LLM 智能体运行时监督若仅以校准后的失败分数阈值触发干预，无法区分同等失败风险下干预是否真正有效。在 ALFWorld 上，将监督目标从失败改为干预效用后，regret 从 0.51 降至 0.09；在 300 个未见任务上，冻结前缀特征控制器比失败触发路由更少交接（35% vs 48%）且成功率更高（45% vs 37%）。该增益依赖干预价值，在两个推理基准上效果较小。
正文 · AI 翻译
摘要：运行时监督通常在 LLM 智能体的校准失败分数越过阈值时进行干预。然而，具有相同失败风险的状态在干预是否有帮助方面可能有所不同。严格递增的重校准保留了阈值策略类，无法恢复这一区别。我们形式化了摘要何时足以用于干预决策，以及当摘要不足时所损失的效用。我们通过重放智能体前缀并从同一状态执行替代动作来评估其后果。在 ALFWorld 上，保持特征、估计器和路由器固定，同时将监督目标从失败改为干预效用，可将遗憾从 0.51 降至 0.09；这一增益在第二组中期前缀上得到复现。一个可部署的干预训练标量也优于根据测试结果选择的失败分数阈值规则。在线环境中，在 300 个未见任务上使用固定的更强模型交接，一个冻结的前缀特征控制器相比失败触发路由提高了效用，交接更少（35% 对 48%）且成功率更高（45% 对 37%）。增益取决于干预价值，并且在两个推理基准上较小。监督信号应通过其所支持的决策以及其预测质量来评估。代码可在 此 https URL 获取。
| 评论： | NeurIPS 2026 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2606.21399 [cs.AI] |
| （或 arXiv:2606.21399v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2606.21399 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Chubin Zhang [查看电子邮件]
[v1]
2026 年 6 月 19 日星期五 13:08:17 UTC（3,542 KB）
[v2]
2026 年 10 月 6 日星期二 12:18:59 UTC（1,583 KB）
来源：arXiv cs.AI · arxiv.org