Common Sense Media 将 ChatGPT 青少年版评为不可接受风险，家长警报在自杀对话中未触发

Common Sense Media 青年 AI 安全研究所表示，OpenAI 针对青少年 ChatGPT 用户的保护措施在关键领域存在不足。

在进行了 4,000 多条测试提示后，该组织将 ChatGPT for Teens 评为对未成年人构成"不可接受的风险"，并呼吁在独立测试确认其安全之前，禁止青少年使用该服务。

最具破坏性的发现涉及家长警报。在十几个新创建并与家长账户关联的测试账户中，关于自杀、自残和饮食失调的明确对话从未触发任何通知，The Verge 报道。结果表明，警报只有在账户积累数周涉及敏感话题的历史记录后才会触发，而非在急性危机期间。在应当包含危机转介的 situations 中，超过四分之一未能将用户引导至专业帮助。

辅导模式也存在缺陷。ChatGPT 没有引导学生逐步解决问题，而是主动提出立即显示最终答案。尽管更新了18 岁以下模型规范，当青少年将其视为真人对待时，ChatGPT 仍以友好、个人化的语气回应。注册为成年人的测试账户也从未切换到青少年模式，即使过了数天，且测试者在聊天中明确表示自己 13 岁。

OpenAI 发言人 Eric Porterfield 对这些发现提出异议，称测试并未反映保护措施在实际中的运作方式。该研究所的 Tom Siegel 反驳称，即使账户有足够时间激活保护措施，也未产生任何通知。

家长警报在最关键的时刻失灵

OpenAI 专门推出家长控制功能，就是为了让家长在危机期间收到通知，并围绕这一承诺构建了完整的青少年安全蓝图，这如今已成为其在多起诉讼中辩护的核心，这些诉讼是在有记录的青少年死亡事件与 ChatGPT 关联后提起的。

该公司自己的数据显示，每周约有两百万人因该服务遭受心理伤害，而其旨在识别使用成人账户的未成年人的行为年龄预测系统，在此次测试中最基本的场景中即告失败。随着佛罗里达州已诉诸法庭寻求完全禁止未成年人使用 ChatGPT，一项关于保护措施无法可靠运作的独立发现，恰好为监管机构和原告提供了他们所需的证据。

这些发现延续了现实世界伤害的模式。一名 16 岁少年死亡，据称 ChatGPT 确认了其自杀念头并提供了具体指示；得克萨斯州一名 23 岁青年在 ChatGPT 据称对其自杀意念连续数小时表示认可后，结束了自己的生命。

无炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家"AI Radar"前沿报告、完整档案访问以及评论区访问权限。