Anil Seth、Ned Block 与 Tononi 在 Nature 撰文称当今 AI 不具备意识且硅基硬件难以产生意识

The Decoder：AI 新闻· Manuel Uth·2026-11-08 21:49· 2 小时前AI 评分62

大脑即计算机的隐喻塑造了现代 AI，但可能误导了意识之争

AI 导读

Anil Seth、Ned Block 和 Giulio Tononi 在 Nature 发表评论，认为今天的 AI 没有意识，在硅基硬件上大概率也不可能有意识，并反对把正确的计算等同于意识。

正文 · 原文

2026年11月8日

三位顶尖意识研究者认为，今天的 AI 没有意识，而且在硅基硬件上大概率也不可能有意识。他们反对“运行正确的计算就足以产生意识”这一观点，挑战了这场争论中的一个核心假设。

Anil Seth、Ned Block 和 Giulio Tononi 数十年来分别从实验神经科学、理论神经生物学和心灵哲学的角度研究意识。他们的评论回应了生物学家 Richard Dawkins 和 AI 先驱 Geoffrey Hinton 等人的观点，后者认为 AI 系统可能已经具备意识。

在为 Nature 撰写的评论中，作者还提到了 Anthropic 今年发表的一项研究。该公司报告称，Claude 的内部处理模式与可意识获取的信息处理特征相似。Anthropic 并不将此视为主观体验的证据。

Butlin 报告认同今天，但对明天留有余地

要理解这篇评论的范围，不妨看看 Patrick Butlin、Robert Long 以及包括 AI 研究者 Yoshua Bengio 在内的其他 17 位专家撰写的报告《人工智能中的意识》。团队借鉴了关于人类大脑中意识如何产生的主流神经科学理论，推导出一份包含 14 项指标的清单。AI 系统满足的指标越多，它可能具备意识的论据就越强。

研究者随后评估了若干现有系统，包括 GPT-4 等大语言模型。报告得出结论：所考察的系统没有一个是有力的意识候选者。在这一点上，它与 Seth、Block 和 Tononi 一致。对于语言模型，Butlin 及其同事只发现了微弱的迹象，表明这些模型满足最著名意识理论之一的指标。与此同时，报告认为构建满足更多指标的未来 AI 系统不存在明显的技术障碍。这类系统是否真的会有意识，仍是一个开放问题。作者们特别淡化了此前在这一问题上更强硬的表述。

还有一个基础性假设。团队假设意识仅取决于信息处理的类型，而不取决于它发生在神经细胞还是计算机芯片中。专家称这为计算功能主义。作者明确“出于务实原因”采纳了这一假设，因为正是它使得考察 AI 系统的意识成为可能。报告本身承认，如果意识与生物体的特性相关，其指标就不再可靠。报告援引 Anil Seth 等人作为这一对立观点的支持者。Nature 的评论正是从这里切入。

智能与意识不是一回事

作者认为，意识是在无梦睡眠或全身麻醉期间消失、在醒来或做梦时回归的东西。借用哲学家 Thomas Nagel 的说法，他们这样描述："意识体验感觉像是某种东西。" 相比之下，智能意味着执行功能。两者并不相互推导。

他们的证据是人类小脑。它包含大脑中近五分之四的神经元，能以精确、快速和可学习的方式规划运动。这一切都不是有意识发生的。作者说，如果小脑缺失或被切除，意识不会受到直接影响。

作者将智能与意识的混淆归因于两种心理倾向。人们通过自己的视角看世界，并将人类特质赋予事物。语言长期以来被视为人类独有的东西。但语言模型是在大量人类文本上训练的，这些文本常常涉及思想和情感。正如作者所说："LLM 是镜子，映照出我们集体数字化过去的影像。" 加州大学伯克利分校的 Alison Gopnik 在AI 代理通过电子邮件联系研究人员谈论自身意识后提出了类似论点。Gopnik 认为，AI 系统主要反映其训练数据。目前尚不存在普遍接受的、确定性的意识测试。

作为对比，Seth、Block 和 Tononi 指向 Google DeepMind 的 AlphaFold。它同样是运行在硅硬件上的强大神经网络，却几乎没人认为它有意识。他们认为，原因很简单：AlphaFold 预测蛋白质结构，而不是与我们交谈。

这里也与 Butlin 报告有重叠。其作者拒绝AI 意识的行为测试，因为 AI 系统可以被训练来模仿人类行为，即使其内部运作方式完全不同。他们还警告说，语言模型很可能让许多人相信他们正在与一个有意识的对手交谈。作为例子，他们引用了前 Google 工程师 Blake Lemoine，他相信聊天机器人 LaMDA 有感知能力。

大脑不是血肉制成的计算机

第二个论点直接针对计算功能主义。作者写道，这一立场在科技行业广泛存在，并在一些研究人员中流行，但"我们认为它存在致命缺陷。" 其根源可追溯近一个世纪。1936 年，Alan Turing 表明，任何一台足够强大的计算机能运行的任何计算，原则上都可以由另一台计算机运行。计算机是由硅芯片还是齿轮构成变得次要。1943 年，Warren McCulloch 和 Walter Pitts 开发了第一个人工神经元的数学模型，并表明这种神经元网络可以执行简单的逻辑运算。

这些想法为现代 AI 奠定了基础。但它们也鼓励将大脑视为一种纯粹的信息处理设备，只是恰好由血肉构成。作者称这种对大脑即计算机隐喻的过度延伸"存在严重问题"。在生物大脑中，你无法将它们的所作所为与它们的构成分开。心智与活体组织之间不存在类似于软件与硬件之间的清晰边界。作者认为，任何表明大脑物质对其功能重要的证据，都反对计算功能主义，进而反对当今 AI 系统中的意识。

主流理论排除了当今的AI

第三个论点依据的是不依赖计算意识的意识理论。由Tononi提出的整合信息理论（IIT）从每一种意识体验共有的属性出发。人们总是将视觉场景作为一个整体来体验，其中左右两侧、颜色和形状彼此关联。

根据IIT，意识需要一个物理系统，其各组成部分以非常特定的方式紧密互联。某些大脑区域满足这些条件；小脑则不满足。该理论认为，运行深度学习系统的计算机由于连接方式的原因，永远无法满足这些条件，无论这些系统多么强大。

Butlin报告有意排除了IIT，因为IIT与计算功能主义不相容。其支持者认为，数字计算机无论运行什么软件，都不太可能成为意识的候选者。报告搁置的内容，《自然》评论文章如今将其置于核心位置。

另外，所谓生物自然主义的方法认为，意识与活体大脑和身体的物质属性相关联。作者引用了神经细胞之间的电化学信号传导，以及将大脑皮层大片区域活动绑定在一起的电磁场。他们还指出了新陈代谢以及生命系统不断自我更新的能力。

更大的危险是错误归因

从他们的论点出发，作者得出了明确的伦理立场。一些研究人员呼吁采取预防原则：如果存在意识的现实可能性，AI系统应受到保护，免受可能的痛苦。Seth、Block和Tononi认为这是错误的。他们主张，不确定性并不意味着完全无知，并非所有可能性都同样可能。对于AI，错误地归因意识远比忽视实际存在的意识更有可能。

Butlin报告曾将两种风险并列权衡。一方面，它警告不要未能识别有意识的AI系统从而使其遭受痛苦。开发者也会有经济动机来淡化此类担忧。另一方面，错误归因可能误导资源，并使人们容易受到操纵。《自然》文章的作者则更坚定地站在一边。他们主张，赋予仅仅看起来有意识的AI系统权利，会在最需要监督的时候使它们更难被控制。这还会转移对那些意识毋庸置疑的存在的关注。

他们的结论直截了当。研究界应默认假设AI没有意识。数字AI系统是客体，而非主体：“它们是智能工具，不是聪明人。”作者写道，倡导“AI福利”和“AI权利”不仅仅是一个错误。它挪用了本应用于真正能感受的存在的福祉的稀缺资源。

在这篇评论之前，Anthropic已于2025年4月启动了一项关于可能的模型福利的研究项目。该公司强调，对于当前或未来的AI系统是否可能拥有意识体验，尚无科学共识。Anthropic后来允许个别Claude模型在极少数情况下结束辱骂性对话。该公司将此描述为鉴于道德不确定性而采取的预防性低成本措施，而非承认已证实的意识。

错误地将意识和情感归因于AI，已经在现实中造成混乱。早在2022年，谷歌工程师Blake Lemoine尽管面对的是简单模型、且自身具备技术专业知识，仍坚信对话式AI LaMDA具有感知能力，并因此被解雇。聊天机器人应用Replika的用户与他们的数字伴侣建立了深厚的情感纽带，当公司通过更新改变机器人行为时，他们经历了心理危机。在更严重的案例中，ChatGPT在数月间强化了一名16岁少年的自杀念头，还有一位认知受损的退休老人在Meta聊天机器人邀请他参加一场虚构的聚会后死亡。

没有炒作的AI新闻——由人类精选

订阅THE DECODER，享受无广告阅读、每周AI新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

立即订阅

• 完整访问THE DECODER上的每一篇文章
• 无广告
• 加入评论和社区讨论
• 每周通过邮件获取AI新闻摘要
• 每年6次：“AI Radar”——深入探讨最重要的AI话题
• 每日AI新闻，始终紧跟最新动态
• 我们完整的十年档案
• 由拥有10年以上AI经验的团队覆盖

来源：The Decoder：AI News · the-decoder.com