arXiv cs.AI· Uma Kalkar, Rumman Chowdhury, Reva Schwartz, Gabriella Waters·· 10 小时前AI 评分31
如何设计有效的 AI 独立验证组织：关键制度考量
Key Institutional Considerations for Designing Effective Independent Verification Organizations
AI 导读
一篇 arXiv 论文指出，AI 独立验证组织（IVO）的设计应覆盖模型、系统与应用三个层面，服务对象需同时包括前沿模型公司与企业及 AI 采用机构，而非仅聚焦模型层面的灾难性风险评估。
正文 · AI 翻译
摘要：独立验证组织（IVO）已成为一种广受欢迎、获得两党支持的解决方案，用于促进对 AI 技术进行高质量的独立评估。但发展势头正超越设计本身：对于稳健 IVO 所必需的运营条件，各方正在形成共识，但对于确保这些条件得到满足的制度和政策规范，却鲜有讨论。目前，IVO 主要被设想为一种在 AI 前沿和模型层面运作、用于评估灾难性风险的机制。关于如何建立或执行一个能够处理多种风险（即灾难性风险之外的风险）、并在 AI 生命周期的部署和使用阶段于系统和应用层面运作的 IVO 生态系统，目前所做的工作还很少。本文认为，IVO 的设计应确保具备在具体情境中评估 AI 模型、系统和应用的能力，既服务于前沿公司，也服务于企业公司和采用 AI 的组织。此外，本文提出了早期考量，以推动 IVO 的讨论从规范性走向可操作性，从生存性风险走向日常风险。借鉴金融服务、教育、公共卫生和科学领域的现有制度构架，我们概述了关于以下方面的关键考量：IVO 为谁服务、需要何种访问权限、如何与外部治理结构互动、如何获得资金，以及如何融入更广泛的保障生态系统。整体设计 IVO 及其生态系统所需的许多结构和知识尚不存在，尽管各公司正急于与其选定的评估方签署协议。
| 评论： | 37 页，3 张表格 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.10168 [cs.AI] |
| （或 arXiv:2611.10168v2 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.10168 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Uma Kalkar [查看电子邮件]
[v1]
2026 年 11 月 6 日星期五 19:46:09 UTC（44 KB）
[v2]
2026 年 11 月 10 日星期二 04:11:48 UTC（44 KB）
来源：arXiv cs.AI · arxiv.org