MIT 教授 Eric So 新书《The Collision》：AI 如何影响我们的大脑与社会

随着人工智能的应用日益广泛，学者们正致力于了解其对使用者产生的影响。麻省理工学院教授Eric So在其本月由W.W. Norton出版的新书《碰撞：人工智能对我们做了什么》中，提供了迄今为止最为完整的综合论述之一。So承认人工智能为更快完成工作提供了机会，在某些情况下也已成为有用的特定领域工具，但他仍然审视了过度依赖人工智能的代价。他认为，大量使用人工智能可能导致一种认知萎缩，使人们无法发展和保留必要的思维能力。总的来说，他表示，有证据表明，当我们与材料较劲、经历最初的失败、不断迭代，并在此过程中获得更好的思维能力、同时保留更多知识时，我们的学习能力会显著提高。 

这些结论来自So及其他人在学术界和产业界的最新研究，包括人工智能公司自身的分析，例如Anthropic的一项研究显示，大学生约有一半的查询是寻求简单答案的低投入查询。So还将个人反思融入叙述之中——他长期研究金融市场和行为，熟悉分析新工具和信息如何影响我们的决策。 MIT News采访了So，他是麻省理工学院斯隆管理学院斯隆全球经济学与行为科学杰出教授，围绕这本书进行了交谈。 

问：是什么促使你写《碰撞》这本书？   

答：我写这本书是为了回应我在自己和其他人身上看到的模式。我在书的开头讲了这样一个故事：我本能地伸手去用人工智能，帮助我思考那些我通常自己就能处理的问题。一位同事来寻求帮助，我基本上就是拿过她的问题，写了半句话，然后说：“ChatGPT，帮我专业地把这句话写完。”我稍作修改就发了出去。然后我靠回椅背，真切地感到极度担忧，因为我把自己思考的环节从过程中移除了。

我发现学生们正在把思考外包给人工智能，而不是自己把事情想透，转而用它来回答那些本应帮助他们掌握某个学科的作业。我们需要开始理解这项技术正在对我们做什么，以及它如何与人类认知和我们的心理相互作用，并给人们一些实用的见解。 

问：在你看来，这在一定程度上意味着要理解人们使用人工智能的动机，或者人工智能的诱惑是如何占据上风的，即使存在长期代价。 

答：有多种因素共同把我们拉向人工智能。例如，我们有一种真实的生物本能，要节省脑力；而在社会层面，我们会面临其他人使用人工智能抢先一步的情况，这加大了其他人使用人工智能的压力。再加上以实用方式检测人工智能使用的问题，所有这些因素共同造就了我所说的“人工智能引力”，这种持续不断的拉力促使人们使用人工智能。这不仅仅是告诉人们要独立思考的问题。在我们所处的这个时刻，人工智能正在与社会发生碰撞。

问：所以，在人工智能使用方面，我们需要审视这些系统性因素，而不仅仅是个人的决定，比如企业敦促员工使用人工智能。 

问：许多组织不仅仅是在建议使用 AI：它现在已成为考核你的依据，这意味着如果你想获得奖金或晋升，使用这些工具就成了你义不容辞的事。我认为学术界正在悄然形成一种过程，人们会说：“我未来的雇主会希望我使用 AI，所以我还是现在就开始用吧。”但问题在于，当你现在开始使用 AI 时，我们正在与那些我们试图培养的实践和能力失去联系，而这反过来又让我们在未来更加依赖 AI，于是这就成了一个自我实现的预言。

问：AI 正在对我们的心智做什么？ 

答：AI 不仅改变我们能做什么，也正在改变我们作为思考者是谁。AI 消除了许多建立基础精通所必需的阻力。它正导致许多人丧失攻克难题的能力。AI 提供即时缓解，而我们对此习以为常。许多人把它当作获取信息的入口，因此它正在影响我们的记忆能力。此外，AI 正在改变我们的人际关系。书中一个关键论点是，这些模型同时具有谄媚性——也就是说，它们想让我们开心，因为这是它们驱动参与度、获得正面反馈的方式——但它们又极具说服力。我们失去了与他人建立联系的能力，因为我们太习惯于这种无摩擦的环境，模型总是同意我们。

问：你的书强调“有成效的挣扎”的价值。你写道：“挣扎并不意味着你在受苦。”相反，我们正是通过挣扎着去学习，才掌握了事物。 

答：我们需要重新塑造对挣扎的看法，把它视为具有塑造作用的东西，而不是一个待解决的问题。我在书中将这一点与工业化之后发生的一些社会变化做了很多类比：那时人们突然不再需要身体活动来创造经济产出。我们看到更多人突然把体育锻炼变成我们有意识去做的事情，这需要重新定义身体上的挣扎意味着什么。我认为，对于认知上的挣扎，我们也需要类似的转变。 

问：既然如此，我们今天能做些什么来维持一定合理的认知努力水平？

答：在个人层面，我强调四条原则来应对这个 AI 时代。一是拥抱挣扎，正如我们谈到的。第二条规则是：珍视没有 AI 时的你自己。过去几年里，我见过太多演示，有人用 Claude 做出了一份看起来非常精致的演示文稿，但当他们展示时，很明显他们没有投入必要的功夫去理解材料。这种塑造性的挣扎创造了我所说的“不可分割的任务捆绑”，因为制作幻灯片让我能够参与实质性的讨论。如果不珍视没有 AI 时的你自己，我们得到的是产品，却没有利用它的能力。

第三条规则是关于重新投资你的认知盈余。有很多任务，AI 可以为你节省时间——那些机械重复的活动——但重要的是你如何利用这些节省下来的时间。如果你只是把同样的精力投入到同样的任务中，你就错过了 AI 可能带来的变革性益处。最具创新性的变化不是那些仅仅让我们实现自动化的变化，而是以富有成效的方式拓展人类的能力并建立专业知识。或者，人们可以把腾出的时间用于关注家庭、学习一门新语言、培养技能。 

最后一条规则是关于把 AI 用作你的认知训练师。AI 是一把双刃剑：如果你把它当作答案机器，它对思考非常有害；但如果你把它当作导师，它对学习则大有裨益。AI 可以为你量身定制。然而，这要求你主动去寻找拥有一位导师所带来的那种摩擦感，而不是依赖答案机器。而这需要动力。 

这是一个非常具有挑战性的时刻，这个问题我们需要认真对待。