arXiv cs.AI· Pratyasha Saha, Yaman Yu, Yang Wang·· 10 天前AI 评分22
SoK：面向青少年的以人为本 AI 安全研究综述
Systemization of Knowledge (SoK): Human-Centered AI Safety for Youth
AI 导读
一项 SoK 系统综述了 100 项涉及儿童与青少年接触 AI 的实证 HCI 研究，覆盖学校、家庭、护理和公共服务场景。研究用 YAIR 风险分类法和 MIT 缓解分类法进行风险—对策映射，发现多数风险仅停留在提出或构想阶段的对策，已实施者少、经过评估者更少，且现有评估多衡量技术性能而非实际保护效果。作者据此指出覆盖空白与未经检验的防护措施，并提出 HCI 研究方向。
正文 · AI 翻译
摘要：尽管 HCI 日益关注面向青少年的 AI 安全，但现有文献缺乏对已识别风险、应对方式以及所提出的保护措施在实践中是否有效的全面认识。我们系统回顾了 100 项实证 HCI 研究，这些研究涉及儿童和青少年在学校、家庭、照护机构和公共服务中与 AI 交互或接触 AI。我们使用 YAIR 风险分类法和 MIT 缓解分类法，梳理了已识别出哪些风险、每项风险是否有对应的缓解措施，以及针对该风险的每项缓解措施是否已实施乃至经过评估。风险—缓解措施映射显示，大多数风险仅与提出/构想的缓解措施相匹配；很少有缓解措施得到实施，经过评估的则更少；而现有评估往往衡量技术性能，而非对伤害的防护。我们指出了覆盖缺失之处、仍未经验证的保障措施，并为 HCI 研究提出了加强青少年 AI 安全的具体方向。
| 学科： | 人机交互（cs.HC）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.08554 [cs.HC] |
| （或 arXiv:2610.08554v1 [cs.HC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.08554 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Pratyasha Saha [查看电子邮件]
[v1]
2026年10月6日星期二 15:40:21 UTC（2,830 KB）
来源：arXiv cs.AI · arxiv.org