arXiv cs.AI· Yuval Kainan, Carmit Hershman·· 13 小时前AI 评分38
Agentic Process Evidence：为 AI 智能体过程提供可追溯的签名存证
Agentic process evidence
AI 导读
研究者提出 Agentic Process Evidence（APE），一种针对 AI 智能体过程的签名、防篡改、机器可读存证，将智能体会话与其产出结果关联，实现过程感知日志。APE 支持 in-toto 风格存证框架，并可通过 Policy-as-Code 对智能体过程进行管控，仅在需要时引入人工介入。该工作针对智能体编码带来的供应链风险、政策合规与任务对齐三类程序性问题。
正文 · AI 翻译
摘要：软件的构建方式正在发生剧烈变化。AI 智能体现在会在整个软件开发生命周期（SDLC）中创建拉取请求、选择依赖项、重构代码库、解读测试失败并执行基础设施变更。AI 智能体是自主的团队成员，但与人类工程师不同，它们是短暂的——其推理、决策和工具调用在会话结束的那一刻便消失无踪。涉及意图不匹配或注入的现代安全事件正变得越来越普遍——迫使我们把 AI 智能体视为内部威胁。目前尚无被广泛采用的标准能够实现智能体溯源与治理，而显而易见的是，你无法对一个短暂存在的流程问责。git log 是为人类提交而设计的。它显示发生了什么变化，却不显示 AI 智能体做了什么、使用了哪个模型、调用了哪些工具，或者是否有人对结果负责。SDLC 中的每一个治理框架、每一条审计轨迹、每一项合规控制，都建立在同一个假设之上：决策由人做出。这一假设已不再成立。这一转变带来了三个主要的流程性问题（不涉及规模问题）——供应链向量——智能体编码器是软件，因此构成供应链安全风险。策略护栏——如何确保智能体编码器符合组织的策略。任务对齐——如何让智能体编码器与其任务和目标保持一致。我们提出智能体流程证据（APE），一种针对智能体流程的、已签名、防篡改、机器可读的证明，将各会话与其结果关联起来（流程感知日志）。APE 支持对智能体流程进行策略即代码（Policy-as-Code）控制，仅在需要时引入人工介入。我们支持 in-toto 风格的证明框架，且该协议与相关法规保持一致
| 主题： | 人工智能（cs.AI）；软件工程（cs.SE）；系统与控制（eess.SY） |
| 引用为： | arXiv:2610.40071 [cs.AI] |
| （或 arXiv:2610.40071v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.40071 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yuval Kainan [查看邮箱]
[v1]
2026年10月29日 星期四 13:50:54 UTC（27 KB）
来源：arXiv cs.AI · arxiv.org