arXiv cs.MA· Fuad Ali·· 10 小时前AI 评分31
谁有权否决智能体？LLM 评审机制中的证据门控权限
Who May Overrule the Agent? Evidence-Gated Authority in LLM Review Institutions
AI 导读
研究将多智能体系统中的评审者越权问题定义为"机构管辖权"问题：在相同提案、任务信息、模型与评审输出下，评审者何时有权让自己的建议具有约束力。在 Qwen 与 Mistral 两个本地开源权重模型、96 个空间政策任务及 96 任务组合迁移基准上，要求评审者先给出机械可验证的约束违反记录与合规修复的证据门控，大幅减少对正确提案的破坏，同时保留多数违规修复。
正文 · AI 翻译
摘要：多智能体语言模型系统通常会加入一个审查者，以改进上游智能体的决策。然而，审查者既能修复错误，也可能替换掉本已正确的决策。我们将此视为一个制度管辖权问题：在相同的提案、任务信息、模型和审查输出条件下，审查者何时有权使其建议具有约束力？我们比较了宽泛的推翻权限与一种证据门控机制——只有当审查者产出机械有效的约束违反记录及合规修复后，才允许替换。在两个本地运行的开源权重模型、96 个空间策略任务以及一个 96 任务的投资组合迁移基准上，该门控机制大幅减少了对正确提案的破坏，同时保留了大多数违规修复。这一权衡的方向部分由规则本身决定；其幅度取决于审查者状态转换和上游提案状态。随后一项前瞻性验证赋予审查者明确的选择：保留、替换或上报。这消除了 Qwen 对正确提案的破坏，但 Mistral 仍替换了全部 48 个正确提案；Qwen 还拒绝了 Mistral 频繁尝试的所有仅涉及福利的修复。因此，接口设计会改变审查者行为，但并非独立于模型的安全保障。结果并非表明受限审查普遍更优，而是表明审查者能力、动作接口与约束管辖权共同决定了纠正域与破坏面。
| 评论： | 11 页，3 幅图，3 张表。代码、冻结输出及复现说明：此 https URL |
| 主题： | 人工智能（cs.AI）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2611.05390 [cs.AI] |
| （或 arXiv:2611.05390v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.05390 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Fuad Ali [查看电子邮件]
[v1]
2026 年 9 月 12 日星期六 17:58:39 UTC（125 KB）
来源：arXiv cs.MA · arxiv.org