arXiv cs.AI· Ryan Tran, YueMing Zhang, Lingfeng Tao, Nan Yang, Shengjie Xu, Yu Yin, Shuai Xu, Wenlu Zhang, Hailu Xu·· 11 小时前AI 评分38
Structured Authority Injection:通过类型化 MCP 覆盖实现 LLM 智能体的持久人类控制
Structured Authority Injection: Persistent Human Control for LLM Agents via Typed MCP Overrides
AI 导读
研究者提出 Structured Authority Injection(SAI)协议,将操作者指令通过类型化、schema 校验的 MCP 工具调用注入,并在每次 LLM 提示词前维护排序后的权威上下文,使人类指令跨规划周期持续生效。
正文 · AI 翻译
摘要:基于 LLM 的智能体正越来越多地被用作分布式和多智能体系统中的自主编排器,但仍存在一个控制缺口:没有任何协议级机制允许人类操作员注入能够在规划周期之间持续存在的约束性指令。自由文本覆盖因缺乏模式验证而存在解释歧义,并且随着操作员指令在累积的上下文中影响力下降而出现权威侵蚀。我们提出结构化权威注入(SAI),该协议通过类型化、经模式验证的模型上下文协议(MCP)工具调用路由操作员修正,并维护一个置于每个 LLM 提示之前的排序权威上下文,从而解决这些问题。SAI 定义了三种覆盖类别(约束、优先级和策略),具有不同的持久性语义,并通过规划过程无法访问的定向权威通道强制执行明确的优先级顺序。该方法无需模型微调或访问模型权重,适用于支持 MCP 工具使用的指令微调 LLM。在针对智能体故障模式的九个 LLM 和八个场景上的评估表明,模糊指令解释减少,跨规划迭代的权威衰减得到缓解,在最强模型中提示开销更低(取决于模型和场景,最高可达 38%),不过收益在不同模型之间差异很大。SAI 为需要明确且持久的人类控制的智能体系统提供了一种通用设计模式。
| 学科: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.22373 [cs.AI] |
| (或 arXiv:2610.22373v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.22373 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Hailu Xu [查看电子邮件]
[v1]
2026年7月27日星期一 03:38:01 UTC(536 KB)
来源:arXiv cs.AI · arxiv.org