arXiv cs.MA· Veronique Ziegler·· 10 天前AI 评分21
当监管者成为干扰源：受控工具调用智能体中控制引发的干扰与成本感知退避
When the Governor Becomes the Disturbance: Control-Generated Disturbance and Cost-Aware Backoff in Governed Tool-Using Agents
AI 导读
研究发现在受控文件恢复环境中，监管强度提升会触发工具故障，成本盲目的监管者会将故障转化为持续阻塞导致任务无法完成。采用基于已知诱发事件移动平均的自适应退避规则可降低干预概率，在 Gemini 2.5 Flash 的 576 个回合、6 项任务实验中减少了阻塞并提升完成率，中等退避强度取得最高聚合成功率。
正文 · AI 翻译
摘要：监督型治理者可能干扰其所监管的工具使用型智能体。我们在一个受控的文件恢复环境中研究这种可能性，其中监管强度的增加会触发实验性施加的工具故障。一个不计成本的治理者可以将这些故障转化为持续阻塞，从而阻止任务完成。我们将该治理者与一种退避规则进行比较，该规则利用已知诱发事件的移动平均值来降低干预概率。在一个手工编码的随机策略智能体上，该故障模式在结果替换和执行损坏的工具参数两种情况下均会出现。对于持续型策略，自适应退避相对于干预频率大致匹配的固定弱治理者提高了完成率。一项包含 6 个任务、共 576 个回合的 Gemini 2.5 Flash 实验也显示，退避下阻塞减少且完成率提高；在测试的设置中，中等退避强度取得了观察到的最高总体成功率。这些结果揭示了干预成本与持续动作阻塞之间的相互作用，以及一种可能的缓解措施。成本机制是人为施加的，其诱发事件对退避规则可直接观测；其在此受控环境之外的适用性仍是一个实证问题。
| 评论： | 包含辅助实验数据和用于复现数值摘要的 Python 脚本。代码：this https URL |
| 学科： | 人工智能（cs.AI）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.09037 [cs.AI] |
| （或 arXiv:2610.09037v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.09037 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Veronique Ziegler [查看电子邮件]
[v1]
2026年10月6日星期二 19:39:24 UTC（27 KB）
来源：arXiv cs.MA · arxiv.org