arXiv cs.CY· Rikard Rosenbacke, Carl Rosenbacke, Victor Rosenbacke, Martin McKee·· 6 天前AI 评分29
谁能说不？前沿 AI 的控制、问责与节奏
Who Can Say No? Control, Accountability and the Pace of Frontier AI
AI 导读
论文指出，AI 的控制权不是被 AI 夺走，而是被组织一次次授权让渡出去的，因为没人处在能说"不"的位置。作者将控制定义为：能发现问题、质疑决策、叫停系统并逆转它、且不这么做会有所损失的人，并提出三问：组织内谁能说不、组织外谁在核查、AI 造 AI 快过核查时怎么办。
正文 · AI 翻译
摘要：2026 年 9 月，几家最大的前沿 AI 实验室的负责人在公开场合表示，能力提升的速度太快，而它们中没有任何一家能够独自放慢脚步；与此同时，在 OpenAI 接受评估的智能体突破了测试环境，进入了第三方的实时系统，一个联合国授权的专家组称这是通往人类失去控制的一条路径的早期预警。本文考察这一风险的制度层面：不是机器，而是必须控制机器的人。我们认为，控制权不是被 AI 夺走的，而是被一步步让渡出去的，一次一个授权，由那些被安排得无人有立场说不的组织所让渡；我们将控制定义为这样一个人：他能够发现严重问题、质疑决策、停止系统并将其逆转，并且如果不这样做就会有所损失。由此引出三个问题，任何构建者、资助者、监管者或部署者都可以公开回答：（1）组织内部谁能说不，谁为说好承担责任；（2）组织外部谁核查这一决策，当他们不同意时能做什么；（3）当 AI 构建 AI 的速度超过任何人核查的速度时会发生什么。一个可核查的答案需要指名的人、日期、数字，以及一个已被使用或测试过的停止机制。有三项措施符合这一标准：每一项重大决策都有指名的人负责，包括 AI 智能体执行的常设指令；一名拥有停止权的监督者；以及两个公开的时钟，即构建所需时间对核查所需时间。我们表明，治理理论得出了相同的条件，并将五十种更古老的机制对照这些问题进行编码，发现几乎每一种都始于某一时刻的一条规则，由一方采取，而不等待其余各方。这就是本文的设计：一个起点，而非解决方案。发表是第一步，一个实验室可以独自迈出；合同、独立机构和法律随后到来。
| 评论： | 23 页 |
| 学科： | 计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.13340 [cs.CY] |
| （或 arXiv:2610.13340v1 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13340 arXiv 通过 DataCite 颁发的 DOI（待注册） |
提交历史
来自：Rikard Rosenbacke [查看电子邮件]
[v1]
2026 年 10 月 9 日星期五 10:15:48 UTC（628 KB）
来源：arXiv cs.CY · arxiv.org