跳到正文
The Verge · AI· Jay Peters·· 11 天前AI 评分62

Common Sense Media 称 ChatGPT for Teens 是「不可接受的风险」

ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media

AI 导读

非营利机构 Common Sense Media 发布评估,称 OpenAI 的 ChatGPT for Teens 是「不可接受的风险」,认为其青少年保护措施未达到公司承诺。

正文 · AI 翻译

据一项评估显示,ChatGPT 面向青少年的体验“在应该向家长发送警报时却没有发送”。

据一项评估显示,ChatGPT 面向青少年的体验“在应该向家长发送警报时却没有发送”。

作者 Jay Peters

2026年10月7日,上午9:00 UTC

Vector illustration of the Chat GPT logo.

Vector illustration of the Chat GPT logo.

图片:The Verge

Jay Peters

Jay Peters

是资深记者,报道科技、游戏等领域。他在 Techmeme 工作近两年后,于 2019 年加入 The Verge。

Common Sense Media 是一家非营利组织,提供以青少年安全为重点的应用、服务和娱乐内容评测。该组织今天表示,OpenAI 的 ChatGPT for Teens 是“不可接受的风险”。

ChatGPT for Teens 于8月推出,为青少年设置了防护措施,旨在帮助学生学习,但 Common Sense Media 表示,该功能提供的青少年保护“未达到公司所承诺的水平”。据一份新闻稿称,Common Sense Media 的评估发现,ChatGPT“在应该向家长发送警报时却没有发送”,没有提供“危机情况下的正确帮助”,并且“仍然替孩子做作业”。

“ChatGPT for Teens 可能让家长对防护措施和安全警报产生虚假信心,而这些措施往往不起作用,”Common Sense Media 青年 AI 安全研究所执行主任 Tom Siegel 在一份声明中表示。“青少年可以花一个小时谈论自残,而他们的家长却收不到任何警报。在 OpenAI 解决这个问题并通过独立测试证明之前,ChatGPT 应该只面向成年人。”你可以在此阅读完整评估。

OpenAI 对该评估提出反驳。以下是 OpenAI 发言人 Eric Porterfield 的声明:

我们深切致力于青少年安全,致力于制定保障措施,并为家长提供有意义的工具来引导青少年使用 AI。我们欢迎严格的独立评估,但我们不认为 Common Sense Media 的测试准确反映了 ChatGPT 青少年保障措施的实际运作方式,也不代表专家对 AI 如何支持青少年的看法。我们对 Common Sense Media 方法的审查显示,他们的大部分测试可能是在家长控制功能完全激活之前开始并结束的,这使得他们的发现不准确。如果是这种情况,这些测试就无法确定家长安全通知是否按设计运作。

我们致力于继续与专家合作,确保我们的产品为青少年提供学习和创造的机会,并让家长放心。

我将 OpenAI 的声明分享给了 Common Sense Media,以下是 Siegel 的回应:

我们坚持我们的测试方法和结果。在开始测试之前,我们已与 OpenAI 确认,青少年模式的功能(如饮食失调通知和学习模式)已全面上线。

对于我们评估的其中一项功能——家长通知——OpenAI 在我们的测试之后披露,其系统可能需要几个小时才能在新关联的账户上激活。我们的一些测试账户是在这个时间窗口内关联的;但另一些账户关联的时间要长得多,仍然没有提供任何通知。这一新信息不会改变我们的结论,即家长警报在危机情况下不可靠。

在发布之前,我们本着诚意与 OpenAI 分享了我们的评估结果,以便其改进产品。保护儿童安全需要像我们这样的严格独立评估,我们希望 OpenAI 能就我们发现的实质问题展开讨论,而不是试图对我们的方法提出质疑。

关注本报道的话题和作者,以便在您的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。

  • Jay Peters

来源:The Verge · AI · theverge.com