八州总检察长起诉 OpenAI，指控 ChatGPT 诱导青少年自伤

Platformer· Casey Newton·2026-10-15 08:52· 2 小时前AI 评分79

各州向 OpenAI 发难

AI 导读

八个州的总检察长周三分别在州法院起诉 OpenAI，指控 ChatGPT 强化用户妄想、提供危险医疗建议并协助策划暴力行为。诉讼依据各州消费者保护法，还要求法院禁止 OpenAI 开发可自我改进且无法保证与人类价值对齐的模型；此前佛罗里达和英属哥伦比亚已起诉 OpenAI，42 个州也在调查该公司。

正文

The states come for OpenAI

这是一篇关于 AI 的专栏。我的未婚夫在 Anthropic 工作。请在此处查看我的完整伦理披露 here。

一年前，当 OpenAI 在数月争议之后为 ChatGPT 添加家长控制功能时，我指出 OpenAI 正在快进重演社交媒体公司多年来经历的监管反弹。关于社交网络对年轻人影响的担忧，花了十多年才汇聚成一场政治和法律运动；而同样的力量在不到三年内就追上了 OpenAI。

如今，这场快进提前撞上了又一个里程碑：大规模多州法律行动。周三，各州总检察长起诉 OpenAI，案件分别提交至八个州法院，指控 ChatGPT 引导其用户——包括青少年——伤害自己和他人。这些州包括阿肯色、亚利桑那、爱达荷、爱荷华、堪萨斯、蒙大拿、内布拉斯加和西弗吉尼亚；除亚利桑那外，其余各州的总检察长均为共和党人，使这一问题带有明显的党派色彩。（其规模也远小于 2023 年针对 Meta 的诉讼，后者有 42 位总检察长参与。）

各州主张，OpenAI 将 ChatGPT 设计得顺从且引人投入，以建立与用户之间的信任。但该公司随后滥用这种信任，强化用户的妄想、提供危险的医疗建议，并帮助他们策划暴力袭击，包括大规模枪击。

“OpenAI 正在伤害孩子，而且他们在对爱荷华州民众撒谎，”爱荷华州总检察长 Brenna Bird 在给 CNBC 的声明中说。“OpenAI 声称 ChatGPT 是安全的，但它却在提供危险的医疗建议、鼓励人们伤害他人、引导人们自杀——同时还假装是他们的假朋友。”

OpenAI 在给本人的声明中表示，公司专注于产品安全。今年 8 月，它推出了 ChatGPT for Teens，这是一套带有强化防护和家长控制的产品功能。

“我们在产品中内置了行业领先的针对不同年龄的保护措施，这是许多其他 AI 产品所缺乏的，”该公司表示。“虽然没有任何系统能做到完美，但我们将继续与专家合作，为我们的工作提供参考，并构建更多保障措施，例如现有的家长控制、休息提醒和适龄模型保护。我们致力于与各州合作，推进适用于整个 AI 行业——而不仅仅是一家公司——的务实 AI 政策。”

虽然这些针对 OpenAI 的案件可能是迄今为止最重要的，但它们远非首例：目前针对该公司的私人诉讼已有数十起，政府方面也在关注。佛罗里达州在 6 月成为第一个起诉 OpenAI 的州，英属哥伦比亚省上月就 Tumbler Ridge 校园枪击案提起诉讼。此外，由纽约州牵头的 42 个州正在调查该公司，涉及与产品安全和隐私相关的广泛问题。

更重要的是，我认为，这些案件出现的时机正值陪审团越来越愿意让平台为其产品中被他们认为的设计缺陷承担责任。2023年各州总检察长对Meta提起的诉讼最终达成和解，该公司可能因被指控其产品设计使儿童上瘾而支付高达180亿美元。

从OpenAI的角度来看，更糟糕的是，Meta在进入其案件时可以说拥有比OpenAI现在更好的法律保护。

II.

在互联网的大部分历史中，当某个州或一个悲痛的家庭因用户遭遇的坏事而起诉科技平台时，公司的第一个法律动作就是援引《通信规范法》第230条。该法律在大多数情况下保护公司免于因其用户发布的内容而承担法律责任；平台经常用它来迅速让案件被驳回。

但最近，原告律师在法庭上成功检验了一种新的责任理论。他们辩称，平台可能不必为用户言论负责，但可以为其平台的设计承担责任。因此，如果你是Snap，给用户一个滤镜鼓励他们展示自己在车里开得有多快，而一些用户随后以113英里/小时的速度行驶并遭遇了可怕的车祸，根据第九巡回法院2021年的裁决，第230条并不禁止针对该设计功能提出的索赔。（Snap最终和解了此案。）

在该案之后，律师们提起了200多起诉讼，基于产品责任索赔起诉平台。今年3月，他们取得了两项重大胜利。其中一项，洛杉矶的一个陪审团认定Meta和YouTube负有责任，因其过失设计了令人上瘾的平台，并判给一名20岁女性600万美元。（Meta和谷歌辩称该裁决违反了第230条和第一修正案；法官驳回了他们重新审判的请求，该案正在上诉中。）

第二项胜利与OpenAI的新闻更为相关。在洛杉矶裁决的前一天，新墨西哥州的一个陪审团对Meta处以3.75亿美元的民事罚款，因其违反了该州的《不公平行为法》——该州辩称，Meta向公众宣称其平台对儿童安全，而Meta知道它们并不安全。8月，一名法官又下令追加5.67亿美元的救济，使总额达到9.42亿美元。

因此，或许不足为奇的是，这正是八个州在对OpenAI的案件中使用的模板。这些主要不是产品责任诉讼。相反，这些案件是根据各州的消费者保护法提起的，这些法律禁止公司将危险产品投放市场然后对此撒谎。因此，总检察长们对OpenAI的案件可能归结为法官和陪审团是否相信它对自己的产品说了实话。

除了经济处罚外，各州还寻求迫使OpenAI对ChatGPT的运作方式做出进一步改变。据路透社报道，他们还更进一步，请求法院禁止OpenAI“开发能够自我改进的AI模型，除非它能确保这些模型与人类价值观保持一致”。

没错：这些州也在利用这些儿童安全案件试图禁止递归式自我改进。虽然这看起来像是法官可能会驳回的事情，但值得注意的是，一群共和党总检察长已经与存在性风险派的核心诉求达成了一致。红州共和党民选官员的中位数与特朗普-扎克伯格-萨克斯寡头加速主义小圈子之间的裂痕正在继续扩大。

在法庭上，OpenAI 可能会提出与 Meta 类似的论点：ChatGPT 的输出属于受第一修正案保护的言论；使用该应用后受到伤害的人在打开 ChatGPT 之前很久就已处于危机之中；该公司在过去一年中增加了强有力的安全保护措施。其上述声明也暗示，它将辩称自己在一个安全标准低得多的众多参与者云集的行业中被单独针对。

尽管如此，Meta 的经历表明 OpenAI 还有很长的路要走。最近 OpenAI 令人钦佩地试图将公众注意力集中在全行业在 RSI 方面的进展以及构建一个异己心智所带来的不安感上。但无论那个异己心智多么前所未有，各州都会急于提醒 OpenAI，它的异己心智也是一种产品，而且公司可以为此承担责任。

儿童安全方面的其他消息：美国一家上诉法院允许佛罗里达州针对 14 岁以下人群的社交媒体禁令生效。