arXiv cs.AI· Yanyan Zhang, Fei Shen, Ting Yan, Hao Zhang·· 13 小时前AI 评分31
CASEL：面向可靠长程工具调用智能体的后果感知选择性执行层
CASEL: Consequence-Aware Selective Execution for Reliable Long-Horizon Tool-Using Agents
AI 导读
CASEL 是一种模型无关的运行时分配策略，综合校准后的失败概率、状态相关后果、可逆性、歧义与证据新鲜度，为每次工具调用在直接执行、验证、沙箱、澄清、审批与弃权间择优。
正文 · AI 翻译
摘要：使用工具的语言智能体越来越多地修改外部系统，然而大多数运行时防护措施依据通用不确定性分数或粗粒度变更启发式来分配审查力度。我们提出 CASEL（后果感知选择性执行层），一种与模型无关的运行时分配策略，它结合校准后的失败概率、状态相关后果、可逆性、歧义性和证据新鲜度，通过最小化每种模式的成本，为每个提议的工具调用在直接执行、验证、沙箱化、澄清、审批和弃权之间进行选择。我们将直接执行形式化为选择性预测，并陈述和检验有限样本阈值与轨迹风险账本的有效性条件。在 20 个种子、每个 120,000 个测试动作的受控模拟中（所有方法具有相同的干预菜单和相同的计算成本），CASEL 将有害副作用轨迹从不确定性排序门控的 14.75% 降至 7.02%，并将平均归一化危害从 0.184 降至 0.123。按失败概率与后果乘积排序的门控达到相似的危害（5.82%，0.120），但将 45% 更多的动作送交人工审批，而去除可逆性感知路由会使该比率升至 15.53%。相比之下，轨迹级风险预算在同等成本下增加了危害（11.82%）。干预有效性是假设的，而非测量的：结果仅在模拟器假设下对分配规则进行排序，并不确立部署有效性。
| 评论： | 6 页，4 幅图。已被 2026 年第五届云计算、大数据应用与软件工程国际会议（CBASE 2026）接收 |
| 主题： | 人工智能（cs.AI）；密码学与安全（cs.CR）；软件工程（cs.SE） |
| 引用为： | arXiv:2610.36570 [cs.AI] |
| （或 arXiv:2610.36570v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36570 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ting Yan [查看邮箱]
[v1]
2026 年 10 月 27 日星期二 03:19:41 UTC（154 KB）
来源：arXiv cs.AI · arxiv.org