arXiv cs.AI· Fabio Orazio Mirto, Luca D'Agati, Giuseppe Tricomi, Stefano Silvestri, Francesco Longo, Antonio Puliafito, Giovanni Merlino·· 9 天前AI 评分29
超越组件测试：如何验证智能体 AI 系统
Beyond Component Testing: Validating Agentic AI Systems
AI 导读
一项系统性映射研究综合 262 篇论文，指出智能体 AI 的验证需从组件测试转向对多步轨迹的上下文验证。研究围绕行为、安全、时序、监管与多智能体五个维度构建分类体系，发现文献集中于行为评估（262 篇中 105 篇），时序有效性最薄弱（仅 14 篇）。论文提出以有限自主规范、对抗性轨迹生成、运行时监控和可审计证据结构为核心的生命周期研究议程。
正文 · AI 翻译
摘要：智能体 AI 系统通过结合规划、工具使用、记忆、交互和适应的多步轨迹来行动。这种行为使验证实践超出了组件测试和一次性输入输出评估的范畴，因为可接受的系统行为现在取决于决策如何随时间推移以及在不断变化的环境条件下展开。这项系统性映射研究综合了 262 篇论文，涵盖智能体评估、软件保障、信息物理系统、运行时监控和监管指南，以刻画智能体系统的验证问题。该综述围绕一个涵盖行为、安全、时间、监管和多智能体关切的五维分类法组织，并利用该分类法来映射当前方法，识别方法与维度之间密集和稀疏的配对。由此得到的地图显示，文献集中在行为评估（262 篇论文中的 105 篇），而在时间有效性方面最为薄弱（14 篇论文）；监管工作主要依赖于保障案例和监管分析，大多来自 IEEE 索引的会议场所，多智能体工作主要依赖于基准测试。三个跨领域案例研究（医疗护理、工业运营、智能出行系统）提供了操作层面的例证，说明这五个分类维度如何在安全关键环境中反复出现，其动机来自所综述文献中记录的失效模式。论文最后提出了一个面向生命周期的研究议程，聚焦于有界自主规范、对抗性轨迹生成、运行时监控和可供审计的证据结构。核心主张是，智能体 AI 的可信部署取决于在情境中验证轨迹，而不是仅评估孤立的组件。
| 评论： | 61 页，3 幅图，修订版，已提交至 Artificial Intelligence Review |
| 主题： | 人工智能（cs.AI）；多智能体系统（cs.MA）；软件工程（cs.SE） |
| ACM 分类： | A.1；I.2；D.2；D.2.5 |
| 引用为： | arXiv:2607.29405 [cs.AI] |
| （或 arXiv:2607.29405v2 [cs.AI] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2607.29405 arXiv 通过 DataCite 颁发的 DOI |
提交历史
来自：Fabio Orazio Mirto [查看电子邮件]
[v1]
2026 年 7 月 31 日星期五 13:24:34 UTC（1,128 KB）
[v2]
2026 年 10 月 8 日星期四 10:46:38 UTC（281 KB）
来源：arXiv cs.AI · arxiv.org