arXiv cs.CY· Miko{\l}aj Sienicki, Krzysztof Sienicki·· 10 天前AI 评分27
AI 如何导致人类灭绝？一项文明风险的失效模式分析
How Could AI Eliminate Humanity? A Failure-Mode Analysis of Civilizational Risk
AI 导读
一篇 83 页论文提出失效模式框架，分析先进 AI 如何可能导致人类灭绝、不可逆的文明崩溃或人类永久失能。论文认为灾难性 AI 风险不需要意识、敌意或明确的伤害意图，而可能来自自主失准、人类恶意使用、组织失效和竞争性部署等相互作用的路径。风险严重程度取决于能力、自主性、外部访问、持续性、机构保障和恢复能力等因素。
正文 · AI 翻译
摘要：本文提出了一个失效模式框架，用于分析先进人工智能如何可能导致人类灭绝、不可逆的文明崩溃或人类的永久性失能。核心论点是，灾难性的人工智能风险并不需要意识、敌意或明确的伤害人类的意图。相反，风险可能通过若干不同但相互作用的路径产生，包括自主性失准、人类的有害使用、组织失效和竞争性部署。这些路径的严重程度取决于能力、自主性、外部访问、持续性、制度保障以及恢复能力的保留等因素。该分析刻意保持非操作性：它识别的是因果条件、可实证处理的中间量以及防御性研究问题，而非造成伤害的程序。
| 评论： | 83 页，20 个章节，35 篇参考文献 |
| 主题： | 人工智能（cs.AI）；计算机与社会（cs.CY）；人机交互（cs.HC） |
| 引用为： | arXiv:2610.08878 [cs.AI] |
| （或 arXiv:2610.08878v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.08878 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Kris Sienicki [查看电子邮件]
[v1]
2026年10月6日星期二 07:28:29 UTC（81 KB）
来源：arXiv cs.CY · arxiv.org