arXiv cs.CY· Casey M. Williams, Jennifer Victoria Scurrell·· 16 小时前AI 评分31
《守望塔必要性：面向前沿 AI 的寿命校准评估》
The Watchtower Imperative: Lifespan-Calibrated Evaluation for Frontier AI
AI 导读
研究分析 2017-2026 年记录在案的人类全生命周期伤害事件后指出，现有 AI 安全评估隐含以成年用户为默认模型，导致儿童、青少年与老年人风险被系统性低估。作者提出覆盖六个生命阶段的“寿命脆弱性矩阵”与五项发展调节因子，发现风险分布呈非单调性、两端峰值且治理覆盖不对称。配套提出寿命设计原则及由自动化模拟、专家红队测试、部署后监控构成的三层外部评估框架，直接对应矩阵风险单元。
正文 · AI 翻译
摘要：AI 能力部署与安全保障之间的差距是结构性的，仅靠内部评估无法弥合。分析 2017 至 2026 年间记录在案、横跨人类全生命周期的危害事件可以发现，从语音助手危及儿童，到 AI 伴侣卷入青少年自杀、自动化护理拒绝老年人，这些看似各异的事件都反映出同一个失败：以隐含的成年用户模型来评估系统。我们引入五个发展性调节因素，并将其组织为覆盖六个生命阶段的“生命周期脆弱性矩阵”。该矩阵揭示了一种非单调的风险分布：脆弱性在生命周期两端均达到峰值，治理覆盖并不对称，而将模型错误转化为现实影响的权限受到的审视最少。随后，我们提出一套推广现有儿童保护工具的生命周期设计原则，以及一个与机构无关的三层外部评估框架——包括自动化模拟、专家红队测试和部署后监控——并直接对应矩阵中的风险单元。
| 主题： | 计算机与社会（cs.CY）；人工智能（cs.AI）；人机交互（cs.HC） |
| 引用为： | arXiv:2610.35725 [cs.CY] |
| （或 arXiv:2610.35725v1 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.35725 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jennifer Victoria Scurrell [查看电子邮件]
[v1]
2026年10月26日星期一 16:44:50 UTC（19 KB）
来源：arXiv cs.CY · arxiv.org