arXiv cs.AI· Na Young Ahn·· 10 小时前AI 评分22
面向公正 AI 治理的“禁区边界原则”与 FPSSP 安全停机协议
Just AI Governance and the Forbidden-Boundary Principle
AI 导读
一项概念研究提出跨规范、数据、模型与治理四层的公正 AI 评估框架，将六项正义要求映射到可观测证据、决策权与救济机制，并采用两阶段评估规则：先排除违反最低权利约束的用途，再比较合格方案。
正文 · AI 翻译
摘要：人工智能（AI）日益影响重大决策，但预测准确性并不足以成为授权代理的正当理由。本概念研究构建了一个综合框架，从规范、数据、模型和治理四个层面评估公正的 AI。该框架借鉴多元正义理论、社会技术公平研究和公开可用的治理标准，将六项正义要求映射到可观察的证据、决策权和补救措施。它提出一种两阶段评估规则：先排除那些未能满足独立证成的底线权利约束的用途，再在多项性能和治理标准上比较符合条件的备选方案。作为一个明确受限的规范性类比，《创世记》第 2 章启发了“禁止边界原则”（FBP），据此，AI 代理不得在预先授权的边界之外执行具有外部后果的行动。由此产生的“第一性原理安全停止协议”（FPSSP）包括一个独立治理的策略监控器、一个强制执行的执行门、一个受限或替代的安全状态控制器、面向不可篡改的审计追踪，以及可问责的人类授权恢复机制。我们将这一规范性与可追溯性贡献与现有的 Simplex 和运行时保障架构区分开来；我们并不声称提出了新颖的安全开关或对普遍伦理合规性的形式化证明。策略模式、威胁模型、测试矩阵、结果定义和前瞻性比较设计使该提案具有可证伪性。本文未报告任何 FPSSP 实现、实验数据集、数值改进或经核实的延迟界限。该框架支持未来评估，但并不构成运行安全性的证据。
| 评论： | 2026 年 11 月 7 日提交至 IEEE Access |
| 主题： | 软件工程（cs.SE）；人工智能（cs.AI） |
| MSC 分类： | 68N01 |
| ACM 分类： | D.0 |
| 引用为： | arXiv:2611.13007 [cs.SE] |
| （或本版本的 arXiv:2611.13007v1 [cs.SE]） | |
| https://doi.org/10.48550/arXiv.2611.13007 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Na Young Ahn [查看电子邮件]
[v1]
2026 年 11 月 8 日星期日 23:59:55 UTC（461 KB）
来源：arXiv cs.AI · arxiv.org