arXiv cs.AI· Yue Zhao, Jiate Li, Li Li, Yi Nian, Jinbo Liu, Xiaolin Zhou, Xiyang Hu·· 10 天前AI 评分24
如何让 AI 智能体的声明可审计
Auditable Claims about AI Agents
AI 导读
针对组织对 AI 智能体所作声明（如每封外发邮件均经人工批准、每次操作均有日志）难以核查的问题，研究者提出声明可审计需在裁决前固定策略、范围、可定论记录及记录者与判定规则。
正文 · AI 翻译
摘要：组织会对其 AI 智能体作出各种声明：每封对外邮件都有人审批，每个操作都有日志记录，某项评估表明该智能体可以安全部署。欧盟《人工智能法案》第 12 条要求高风险系统能够自动记录事件，但并未说明哪些记录才能证实某项声明。本文的立场只有一句话：要能被核查，关于智能体的声明必须首先指明其策略、适用范围、可用于证实该声明的记录，以及由谁撰写这些记录。借鉴鉴证业务的前提条件，我们将这样的声明称为可审计声明：这些要素和一条判定规则在任何结论作出之前就已确定，且记录可以获取。这将我们可审计智能体框架中的策略可核查性维度从单一操作扩展到声明。智能体还带来三个附加条件：由独立记录覆盖、授权与每个操作的参数绑定，以及超越完整性的完备性。在一个显式模型下，我们证明：只要其假设成立，缺少其中任何一项，支持都是不可能的。一张声明核查表将该方法应用于六种常见声明，并以当前的 NIST、IETF 和 OWASP 草案为依据。一个实例分析追踪了某一项声明在五种证据状态下的情况。最后，我们给出一个实践要点框，以及面向运营者、采购方、审计师和标准制定者的步骤。
| 学科： | 人工智能（cs.AI）；计算与语言（cs.CL）；计算机与社会（cs.CY）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.07459 [cs.AI] |
| （或 arXiv:2610.07459v1 [cs.AI] 为本版本） | |
| https://doi.org/10.48550/arXiv.2610.07459 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Xiyang Hu [查看邮箱]
[v1]
2026年10月5日星期一 22:11:11 UTC（945 KB）
来源：arXiv cs.AI · arxiv.org