跳到正文
Hacker News· nip·· 10 天前AI 评分22

为什么 AI 越聪明,通才的优势反而越大

The Genius with a Goldfish Memory

AI 导读

作者用"金鱼记忆的天才"比喻 LLM:每次对话都是全新开始,GPT-3 时代像 10 岁天才,如今 SOTA 模型则像诺奖级多博士天才,却需要你提醒才"知道"。因此关键在于上下文管理,用"poka-yoke""Chesterton's fence""红队"等词作为上下文捷径调用整块知识,AI 越强,博学多识的通才优势越明显。

正文 · AI 翻译

这就是我向尚未在工作中使用 AI 的人解释 AI 的方式。这也是我在 GPT-3 问世时第一次接触 LLM 时的第一个想法。

每一次对话都是一次全新的开始,你可以与一个敏锐的头脑讨论和交流,只不过他们并不真正知道这一点,也不记得它。

有了最新的 SOTA 模型,这一点更加令人震撼:GPT-3 时代那个大约 10 岁的天才,如今已是一位菲尔兹奖得主/诺贝尔奖得主、拥有多个博士学位的 30 岁左右的天才,而他们并不真正知道这一点,直到你提醒他们,或向他们提出具体的问题。

我发现这种拟人化的说法很有用,因为它帮助我把 AI 引入人们的工作流程,并指导人们更好地使用 AI。

这种框架也有助于认识到一切都关乎上下文:在合适的时机提醒 AI 合适的事情,并通过到处放置虚拟便利贴来帮助它们导航工作:“这里可以找到 X,这里可以找到 Y”。

而美妙之处在于,你可以利用这位天才糟糕的记忆力:进行对抗性评审,把你交给别人(一个 AI)完成的工作交给这位新出炉的天才,询问他们的意见:他们初来乍到,对现有工作没有依附,也不了解其历史,你一定能获得有趣的洞见。

或者用这样的提示词:“你是一位屡获殊荣的动态设计师,厌恶使用 AI,并且一眼就能看出 AI 的痕迹”,来调整你用 Opus 5.5 制作的、在你看来 AI 味有点太浓的视频。

有了这种随取随用的智能,任何冷僻或深奥的知识都可以通过提醒这位天才来获取(他们可能会自己做一些研究),显而易见,见多识广、有文化修养、善于表达就成了一种显著的优势。

有时一个词(一个概念、一个文化梗)就足以唤起一整套知识。我称之为上下文捷径。

在设计系统时提到 poka-yoke,你就引入了一整套防错哲学。

让这位天才表现得像《办公室》里的 Dwight,你就有了一个迂腐的同事,会对你说的一切吹毛求疵。

要求以 Dieter Rams 的风格重新设计你的办公室、UI 或房子,就能唤起功能性的简约。

让这位天才扮演 red team 来审计你的工作,你就有了一个积极寻找你系统中弱点的评审者。

让这位天才尊重 Chesterton's fence,迫使它在提出改变之前先理解某事物为何存在。

于是就有了这样一个非常有趣的悖论:AI 越聪明,作为博学者/有求知欲的通才的优势就越大。

激动人心的时代。答案越来越触手可及:你只需要知道如何提问。当然,还有如何处理这些答案。

来源:Hacker News · bendersej.com