arXiv cs.AI· Johann Maximilian Christensen, Elena Hoemann, Frank K\"oster, Sven Hallerbach·· 13 小时前AI 评分26
基于数据事后定义安全关键 AI 系统运行条件的方法
Defining Operational Conditions for Safety-Critical AI-Based Systems from Data
AI 导读
该论文提出一种基于多维核表示的方法，可从已采集数据中事后定义 AI 系统的运行设计域（ODD），并在合成基准与真实航空用例上完成验证。该方法给出 ODD 相似性定义（在 Lebesgue 零测输入集上输出相同）并证明校准表示的体积收敛性，其表示完全自动导出、置换稳定、构造有界，且在逐维归一化下对单位选择不变。
正文 · AI 翻译
摘要：人工智能（AI）在许多领域日益兴起，包括众多安全关键型应用。然而，对于现实世界中的复杂系统，定义基于 AI 的系统必须运行于其中的底层环境条件——即运行设计域（ODD）——极具挑战性。这往往导致对 ODD 的描述不完整，与许多领域对基于 AI 的系统进行认证的要求形成反差。传统上，ODD 是在开发过程的早期阶段创建的，依托于复杂的专家知识和相关标准。本文提出了一种新方法，利用基于多维核的表示，从先前收集的数据中事后定义 ODD。该方法通过合成基准和真实航空用例得到了验证。此外，本文定义了两个 ODD 的相似性：若它们生成的输出在相差 Lebesgue 零测集的意义下相同，则视为相似，并证明了在校准表示在所述假设下体积收敛。这种新颖的、安全设计（safety-by-design）、确定性的基于核的 ODD 表示在给定有据可查的保证输入的情况下可完全自动导出，具有置换稳定性、构造上有界，并且在仿射等变逐维归一化下对单位选择不变。利用所提出的 ODD 表示，可支持未来对数据驱动的安全关键型基于 AI 的系统进行认证。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2601.22118 [cs.AI] |
| （或本版本使用 arXiv:2601.22118v4 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2601.22118 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Johann Christensen [查看邮箱]
[v1]
2026年1月29日 周四 18:46:02 UTC（161 KB）
[v2]
2026年5月6日 周三 12:23:08 UTC（140 KB）
[v3]
2026年8月31日 周一 08:25:06 UTC（227 KB）
[v4]
2026年10月28日 周三 09:35:21 UTC（373 KB）
来源：arXiv cs.AI · arxiv.org