arXiv cs.AI· Ziyuan Wang, Genliang Zhu, Xiaobo Chen, Chu Wang·· 10 小时前AI 评分42
Intent Contracts:让规划模型不持有工具的 LLM 智能体授权机制
Intent Contracts: Taking Tools Away from Agents
AI 导读
研究者提出 Intent Contracts,一种让规划模型不持有任何工具的 LLM 智能体授权接口:每步提交含目标、用户原话引用和范围字段的合约,由代码校验、小型可信模型核对并自行写出工具调用。
正文 · AI 翻译
摘要:意图契约是一种授权接口,适用于使用工具的 LLM 智能体,其中规划模型不持有任何工具。对于每一步,它提交一份简短的、被记录的契约:一个目标、一段对用户原话的逐字引用,以及范围字段。代码验证该契约,一个小型可信模型依据用户的原话对其进行检查,并自行编写工具调用。只要验证与调度代码正确,每一次执行的调用都由可信模型编写,规划器对调用的影响仅限于在其之前记录的契约,而由可信方决定执行请求中的多少内容。我们将契约与两种对规划器所写命令的审查者进行比较:一种只看到用户原话和命令,即推理盲权限分类器的信息边界;另一种还能看到规划器的目标和一段经过核验的引用。以 gpt-6.1-terra 作为规划器、GLM-5.3-Flash 作为可信模型,在三个 AmPermBench 任务族上,契约下被更改的每一个对象都在产生该更改的契约目标中被点名;而在审查模式下,规划器在其命令中点名对象,却很少在其目标中点名。当规划器添加用户从未要求的工作时,契约在 27/30 次运行中完成用户的任务,而意图可见的审查者在 16/30 次运行中完成,因为审查者只能拒绝整条命令。契约并不能减少未授权操作。它们与盲审查无法区分,并且一旦澄清基准的环境术语,在那些运行中,每一个改变状态的条件都有 40-49% 命中错误目标。该错误是规划器为歧义引用选择对象所致,而此处的任何可信模型都无法看到环境来检查这一点;告诉执行器在不确定时拒绝并不会改变这一点。我们仅用一对模型评估良性越界,而非对抗性规划器。我们发布插件和运行记录。
| 评论: | 10 页,1 幅图,7 张表。代码与数据:此 https URL |
| 主题: | 密码学与安全(cs.CR);人工智能(cs.AI) |
| 引用为: | arXiv:2611.24025 [cs.CR] |
| (或 arXiv:2611.24025v1 [cs.CR] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.24025 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Ziyuan Wang [查看电子邮件]
[v1]
2026 年 11 月 18 日星期三 08:14:22 UTC(21 KB)
来源:arXiv cs.AI · arxiv.org