arXiv cs.CY· Li Gan·· 9 天前AI 评分22
风险上限与开发截止日期：安全生产力不确定下如何为 AI 定节奏
Risk Ceilings and Development Deadlines: Pacing AI under Uncertain Safety Productivity
AI 导读
一项研究探讨监管者能否在安全生产力未知时同时承诺风险上限与开发截止日期：若最终模型未受保护的风险高于上限，就必须具备最低限度的安全知识储备，因此两项承诺只有在排除弱研究的前提下才成立。在仅含状态风险、安全产出恒定且知识完全迁移的校准设定下，先学习再重放开发、并把多余算力留给安全，所需生产力仅比必要边界高 3.3%。固定算力分配的规则锁定的是日期而非风险。
正文 · AI 翻译
摘要：当安全生产力未知时，监管者能否同时承诺风险上限和开发截止日期？若上限低于最终模型未受保护的风险，则需要最低限度的安全知识储备，因此只有当无法排除薄弱研究时，这两项承诺才能成立。先学习再重放开发，并在安全方面保留备用算力，接近这一最低要求。在仅考虑状态风险、恒定安全产出和完全知识转移的校准中，它所需的生产率仅比必要界限高 3.3%。客户服务为这一保证付出代价。固定算力分配的规则固定的是日期，而非风险。
| 学科： | 一般经济学（econ.GN）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.11093 [econ.GN] |
| （或 arXiv:2610.11093v1 [econ.GN] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.11093 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Li Gan [查看电子邮件]
[v1]
2026年10月8日星期四 02:10:00 UTC（59 KB）
来源：arXiv cs.CY · arxiv.org