arXiv cs.AI· Rong Pan, Yili Hong, Min Xie·· 10 小时前AI 评分34
面向 AI 系统的可靠性工程：挑战、方法与方向
Reliability Engineering for AI Systems: Challenges, Methods, and Directions
AI 导读
一篇 arXiv 论文将传统可靠性工程方法（失效定义、运行包络、FMEA、加速测试、现场监控、可靠性增长）迁移到 AI 系统，提出按组件、运行回路、智能体行为、网络与治理划分的四级故障诊断框架。
正文 · AI 翻译
摘要：AI 可靠性关注的是：在明确证据支持下，AI 系统能否在规定的时间段和规定的运行条件下可靠地执行其预期功能。随着这些系统变得更加自主，这一功能不应仅限于输出正确。检索、记忆、工具使用、权限、人工监督以及系统之间的交互都必须一致且安全地运行；对于生成式 AI 而言，产生输出的推理过程也必须如此。平均基准准确率只能衡量系统能力，并不能量化这一更广泛的可靠性主张。本文改编既有的可靠性工程方法，从故障定义和运行包线到 FMEA、加速测试、现场监测和可靠性增长，将其应用于 AI 系统。一个四级诊断框架将故障分类为组件故障、运行环路故障、智能体行为故障或网络与治理故障。测试、评估、验证与确认（TEVV）、顺序监测和 FRACAS 用于创建并刷新证据。SMART 框架为测量、分析、评估和测试规划提供统计指导，NIST 的 AI 风险管理框架则为治理、评估、监测和缓解提供组织指导。文中讨论了三个案例以说明这些方案。研究表明，虽然既有的可靠性工程原则仍能提供可用的基础，但由于这些系统正以快速步伐自我演化，迫切需要新的测量方法和安全护栏。
| 学科： | 人工智能（cs.AI）；应用（stat.AP） |
| MSC 分类号： | 86T05, 86T01 |
| ACM 分类号： | A.1; I.2 |
| 引用格式： | arXiv:2609.35316 [cs.AI] |
| （或本版本的 arXiv:2609.35316v3 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2609.35316 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Rong Pan [查看邮箱]
[v1]
2026年9月28日星期一 14:48:59 UTC（56 KB）
[v2]
2026年11月1日星期日 03:01:54 UTC（812 KB）
[v3]
2026年11月3日星期二 22:27:19 UTC（812 KB）
来源：arXiv cs.AI · arxiv.org