MIT 教授 Deb Roy 发文呼吁：AI 生成文本也需有人负责

MIT News· Peter Dizikes | MIT News·2026-10-13 12:00· 58 分钟前AI 评分50

问答：在公民对话中，为我们的言论——以及 AI 的言论——建立问责机制

AI 导读

MIT 媒体艺术与科学教授、MIT 建设性传播中心（CCC）主任 Deb Roy 在《原子科学家公报》发表题为《谁站在文字背后？》的文章，呼吁在 AI 参与公民对话时重建传播的责任与"可问责性"。

正文

当政府官员制定政策时，通常会有公众反馈的评论期。立法者长期以来不得不甄别那些为影响政策而批量制造的虚假反馈，但他们通常已经习惯了识别这些内容。然而，有了人工智能，人们可以提交看似真实的评论，这些评论更难被当作没有真实个人在背后的捏造内容而不予理会。这仅仅是 AI 在公民对话中被用来生成文本和言论、却无人可被追究责任的一种方式。

这一问题以及其他相关问题引起了 Deb Roy 的关注，他是 MIT 媒体艺术与科学教授，也是 MIT 建设性传播中心（CCC）主任。在《原子科学家公报》上发表的一篇题为《谁站在文字背后？》的新文章中，Roy 呼吁重新强调传播中的责任，主张即使使用 AI 来撰写文本，也需要有问责和"可问责性"。

建立更好的群体对话以产生更多公众信任，是 CCC 工作的核心部分。该中心与 Roy 共同创立的、关系密切的非营利组织 Cortico 一起，在许多场景中帮助促进了关于重要议题的群体讨论——包括公民会议、学校、审议大会和私人组织——并使用包括 AI 在内的技术工具来帮助发现评论中的主题等。但该中心在设计这一流程时，也让参与者能够在每个关键步骤检查和推翻基于技术的输出。最终，每一条公众评论都由一个人负责。MIT News就这篇文章和该中心的工作采访了 Roy。

问：你已经指出了 AI 生成文字背后缺乏问责这一问题。你最早是什么时候真正注意到这一点的？

答：当 Chat-GPT（由大型语言模型，即 LLM 驱动）推出时，这一点变得清晰起来。至于我自己与语言模型的渊源，我的博士研究探索的是我们现在可能称之为 PLM 的东西——微小语言模型（Puny Language Models）——所以我对语言模型相当熟悉，也一直关注该领域的快速演变。但 Chat-GPT 实现了一个转折。两件事同时发生了变化：模型的深度及其知识，以及你与它互动的方式。

我变得痴迷于试图找出它能做什么的极限。我觉得无论我多么努力地张开双臂去拥抱它，我都无法做到。我在麻省理工学院的终身教职案例是建立在语言基础之上的——即人工智能系统仅仅处理大量词语和其他符号是不够的。我相信，要理解词语的含义，你实际上需要将物理身体和生活经历作为过程的一部分。因此，我重新审视了我曾经沉浸其中的人工智能哲学文献，这些文献探讨的是，大型语言模型以极其先进的形式所例证的那种系统，与我们所人类从事的那种处理方式之间，根本区别是什么。我给我的研究生做了几次演讲，试图论证，尽管人工智能看起来如此智能，但它实际上在种类上是不同的——但我无法说服他们。 

我想，我知道区别所在，但我甚至难以说服自己那是什么。这让我问道：“等等：有没有某个人或某种东西站在词语背后，一个对人类所说的话负责的人？”这就是这个非凡的新语言机器所没有的东西。 

这些系统是否真正理解语言，目前正激烈争论。但即使你赋予它们你所愿意的任何理解力，它们仍然缺乏立场。责任不能停留在一个东西、一个软件系统上，因为它没有什么可失去的。

问：《公报》那篇文章中有这些有趣的公民反馈论坛例子，看起来像是真人在说话，但实际上却是一连串来自人工智能的评论。你是如何在社会中找到这些其他例子的，事情以这种方式偏离正轨？ 

答： 在ChatGPT发布后，我开始听到政府内部审查拟议规则公众评论的人们的担忧：怀疑并非所有评论都是人类写的。

我的反应是：这会使得这个公众反馈渠道失去合法性。那是几年前的事了，但现在每个人都知道这正在发生。公众评论是民主的支柱。你不能只是把新规则强加于人。人们需要在规则强加于他们之前有发言权，并感到自己被倾听。如果你跳过这一步，人们就不会接受规则的合法性。这就是为什么这个过程被融入美国运作方式的原因。而那根支柱刚刚裂开了，到现在，在我看来，它已经倒下了。有人注意到了吗？我的感觉是，接收这些评论的人们已经悄悄地调整了他们对公众评论的重视程度。它从来都不是完美的，但天哪，现在它的许多价值正在被一扫而空。 

我在文章开头用了这个例子：2017年，联邦通信委员会收到了超过2200万条公众评论，关于其废除网络中立规则的提案，而纽约总检察长后来发现其中近1800万条是假的。正如我在文章中所写，“那场欺诈之所以被抓住，是因为它留下了指纹：模板化文本、重复的措辞。”但大型语言模型抹去了指纹。现在每条评论都可以流畅而不同，审查者再也无法分辨哪些表达了真实人们形成并支持的看法。

如果你有足够多的假东西——那些没有切身利害关系的人真正会为之负责的言论——它就会让你对真实的东西变得麻木。这又会反过来影响公众，人们会意识到：如果我花时间去表达自己，他们根本都不再听了。

问：您能否再稍微展开谈谈您的观点，即我们需要有“资格”（standing）、会为所有文本内容承担“责任”（accountability）的人，即使这些文本是由 AI 生成的？ 

答：在法律体系中，资格是一个正式的概念：有时案件不被受理，是因为提起诉讼的人不具备资格。但在非正式场合，我们一直在使用这个词。我并不是试图把日常生活中的资格正式化。相反，我想问的是： 从法律术语中借来的这个非正式含义，是我们现在需要更加关注的什么？在新英格兰这里，想想开放式镇民大会：站起来发言的人通常被期望具备资格，即作为该镇的人，对将要决定的事情有切身利害关系。如果是一个从全州各地或外州开车来的陌生人，大家都会想：等等，那是谁？他们不是这附近的人。总的来说，出现在一个你实际上没有资格的地方，总会有足够的摩擦，代价也足够高，所以这种事不常发生。

如今，LLM 和当前的数字网络环境打破了这些边界。我们一直理所当然地认为，如果某人有发言权，那是因为他们有资格。他们有某种被倾听的依据。我们需要关注这一点，并真正思考如何设计系统，让有资格的人成为被倾听的人。 

我试图展开的另一个概念是“可问责性”（answerability）。它没有在法律中正式化，但已融入法律程序之中。如果你有作证的资格，你就在那里，准备好接受交叉询问。你必须能够为你所说的话作出回答。如果你对某人提出具体指控，你必须愿意用事实来支撑它。 资格和可问责性必须同行：被倾听的权利伴随着为你所说的话作出回答的义务。

这并不意味着每个人都必须在所有东西上署名。我在《Bulletin》的文章中写道：“隐私和可问责性并非对立。……一个机构可以验证一个人的身份，并为他们的言论背书，而不必暴露他们。”要表达一种观点，你只需要表明是一个明确的、符合条件的人在说话。而一项指控要求更多：某个受信任的人，比如记者，必须能够知道说话的人是谁。正如我所说：“披露义务应随权力而增加，身份保护应随脆弱性而增加。”

这一切都不意味着 AI 帮不上忙。AI 可以在问责链条内部完成大量工作——起草、总结、发现模式。如果某个对某项规则有切身利害关系的人用 AI 起草了一份评论，将其采纳为自己的，并准备好为此作出回答，那么在这个语境下，这是正当的。AI 做不到的是锚定这条链条。最终必须有一个为这些话背书的人。

在这篇文章中，我提出了构建这一体系的四项设计原则：“可归属的作者身份”、“可分解且可检查的过程”、将“溯源作为基础设施”来使用，以及“扩大参与资格而非将其集中”。正如我所写的，“核心规则是允许自主，但不允许不负责任。”而最重要的衡量标准，不是通过移除人类所获得的效率，而是AI将多少人置于能够为其行为负责的角色之中。

问： 在建设性传播中心的文件中有一句话，说我们需要让事情以“信任的速度”推进，而不是以“技术的速度”推进。这意味着要真正思考如何构建这些系统。您能否再多谈一谈这句话对您意味着什么？

答：我是在威斯康星州阿普尔顿学到这句话的，当时我和长期合作者、威斯康星大学的凯瑟琳·克莱默在一起，与当地正在组织“跨越分歧的对话”的社区组织者交谈。他们有数百人参与其中。我以为我开发技术工具正是为了同样的目的，看到这些非常兴奋。我问那个组织的一位负责人：“你们多快实现了规模化？”他停顿了一下，然后说：“以信任的速度。” 

我起初把这理解为“慢”。后来我意识到他是在说：对你来说慢，因为你还没有赢得我们的信任。此后我了解到，当你确实拥有信任时，事情可以推进得很快。所以引入技术实际上是一个参与的过程。说“相信我们，我们这样做是因为我们认为这对你们有好处”是行不通的。人们会转向他们已经信任的人，问：“这对我们有好处吗？”如果那个人说“有”，事情就可以快速推进。

看看AI与社会交汇处正在发生什么：AI的速度和民主的速度运行在不同的时钟上。和从事民主实践的人交谈，他们会说：“AI必须慢下来，因为民主无法那么快。”和AI领域的人交谈，他们会说：“AI不能慢下来，民主需要加速。”如果我们不能让这两个时间尺度同步，我们就会走向一种脱节局面，即AI的部署速度快于民主进程能够回应的速度，决策在公众缺席的情况下作出。这种情况现在已经开始发生。 

问： 我们需要人们积极行动来构建对话，并弄清楚技术工具如何与之互动。在建设性传播中心，你们已经对该中心的Real Talk倡议进行了几轮迭代，以构建公民对话，还在学校环境中开展了Youth Voices倡议，目前你们正在推进New Social Forms项目。您能否简单谈谈这些项目？ 

A：Real Talk 项目是这项工作中持续时间最长的脉络。我们工作的一个重点一直是开发更好的相互倾听方式。我们营造一种始终小规模的环境——在这里小即是美——让人们愿意真诚地分享。我们拥有知情同意架构和技术，能够揭示更大的模式，然后将其分享出去。我们已在全国数百个社区开展了这项工作。在更贴近我们的地方，我们通过 realtalk@MIT 项目将同样的方法带到了 MIT 校园，并得到了校长办公室和教务长办公室的支持，以帮助我们的社区围绕对话和倾听建立一种文化。 

我要强调的第二点是，我们在协商过程和公民大会方面做了越来越多的工作，也在研究如何让它们更易于参与。如果一群高中生说：“我们的手机政策确实有问题”，那该怎么办？假设你想举办一场大会，把学生、教师和管理人员聚在一起，不仅倾听人们的关切，还要提出政策建议。我们就这样做了。中心与纽约市的一所高中合作，在那里技术帮助人们揭示自己的偏好和分歧，并相互倾听。

我们还在把可问责性融入技术之中。我们团队中的博士生 Cassandra Overney 开发了一个名为 VoiceTrace 的原型，它将每一条输出陈述——倾听过程中所听到内容的摘要，或协商中产生的建议——与其背后的具体声音联系起来，因此任何主张都可以追溯到它所来源的对话。

新社会形态项目涉及世界各地工作场所中出现的一种非常有趣的模式，当然也包括与我们有关联的那些工作场所。AI 是赋能个人的非凡工具，但用我们在 Google Experience Institute 的一位合作者的话说，人们正在“挖隧道”。他们深入其中，利用 AI 发展出精细的想法，但当他们浮出水面时，他们的想法已经与队友的想法产生了分歧。因此，试图与 AI 一起协作的群体和团队面临着一个人类协调问题。

我们将扩大与 Google 已开始的初步工作，因为人们对集体沟通、信任以及试图合作的人之间的互动有着浓厚的兴趣。 

那么这是一种公民语境吗？这是工作场所，但工作场所也是公民空间。 它们支配着人们的日常生活，是我们许多人培养公民技能、学习跨越差异进行合作的地方，而且公民生活有着植根于共同工作的悠久传统。 我们都是试图彼此互动的人类。这些是同样的问题。路易斯·布兰代斯大法官曾用“工业民主”一词来概括这一点。当工作场所缺乏某些类型的公民程序和文明——这两个词有趣地相互关联——劳资纠纷曾经会演变为暴力。程序正义、调解者以及人们相互倾听在工作场所同样必要。归根结底，一切都关乎人。 倾听彼此身上的人性，是民主所依赖的，也是社区和组织运转所同样必需的。

来源：MIT News · news.mit.edu