arXiv cs.AI· Khadim Lo, Soukaina Alaoui Ismaili, Jean-S\'{e}bastien Dessureault·· 14 小时前AI 评分31
智能体系统的责任边界：概率智能体编程（PAP）的比较评估
Responsibility Boundaries for Agentic Systems: A Comparative Evaluation of Probabilistic Agentic Programming
AI 导读
研究提出概率智能体编程（PAP），用编程抽象显式连接授权、权限、效果与证据，并引入中介内核在工具执行前做检查、操作绑定审批与资源限制。在7个商业案例、3家提供商的7个模型、5种方法各重复5次的探索性研究中，共获得1,225条评估观测；Native Touba在6个模型上完成全部35条观测、剩余模型完成30条，结构化Touba为21至35条。
正文 · AI 翻译
摘要：语言模型智能体将推理、工具、记忆、委托和外部效应结合在一起。权限往往分散在提示词、宿主代码、配置和日志中。概率智能体编程（PAP）将责任边界明确为连接授权、权限、效应和证据的编程抽象。我们从七个维度将 PAP 与编程范式、面向智能体和 BDI 系统、工作流与策略语言以及 LLM 工具使用框架进行比较。一个中介内核形式化了工具执行前的检查、操作绑定的审批、资源限制和证据。归纳证明在假设守卫正确且中介完整的前提下，确立了针对任意模型响应的条件安全性。反向模拟在定义的顺序 Touba 子集中将图执行与源执行相匹配。其人工检查点释放程序延续；操作绑定的审批仍是独立的内核契约。有限状态探索检查该模型。脚本化执行测试检验选定的拒绝路径和允许的控制。一项探索性研究结合了七个业务案例，包括两个三智能体工作流、来自三个提供商的七个模型、五种方法，以及每个案例和方法的五次重复。共享的英文指令和对存储结果的精确检查产生了 1,225 条评估观察。原生 Touba 在六个模型上完成全部 35 条观察，在剩余模型上完成 30 条；结构化 Touba 的范围为 21 至 35。原生在每个模型上都达到观察到的最高计数，包括与框架并列。所有配对案例区间均包含零。这些观察到的计数描述了所评估的任务；运行时权限边界保持固定。结果将责任契约、执行规则和证据联系起来。
| 评论： | 43 页，8 幅图，9 张表 |
| 主题： | 软件工程（cs.SE）；人工智能（cs.AI）；编程语言（cs.PL） |
| 引用为： | arXiv:2610.33312 [cs.SE] |
| （或 arXiv:2610.33312v1 [cs.SE] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.33312 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Khadim Lo Bamba [查看电子邮件]
[v1]
2026 年 10 月 23 日星期五 21:31:12 UTC（52 KB）
来源：arXiv cs.AI · arxiv.org