Anthropic 的 Andrej Karpathy：外界只看到了 AI 能力的“预览版”

OpenAI 联合创始人 Andrej Karpathy 描述了人们在理解 AI 能力方面正迅速扩大的鸿沟。公众把聊天机器人当作更好的谷歌搜索，而内部前沿系统已经在处理顶尖专家需要数年才能完成的任务。

Karpathy 将大语言模型的用户群体分为四个层级。大约 60 亿人，约占全球人口的 75%，几乎完全没有接触过 LLM。另有 10 亿到 20 亿人是免费版类 ChatGPT 产品的休闲用户，他们把它“有点像更好的谷歌搜索、写作辅助工具之类的”。

大多数人对 AI 已经能做什么毫无概念

即便是数学和代码领域之外的许多专业人士也属于这一层级。高管及类似角色的人大部分时间都在与人交谈，所以“尽管他们在智识上理解正在发生什么，但那仍然是二手的、有点抽象的，”Karpathy 写道。

第三层级估计有 2000 万人，约占全球人口的 0.2%。这些是在数学和代码领域使用前沿级 LLM 的专业用户，他们亲眼看到“过去需要数周/数月才能完成的大型复杂项目，现在只需一个提示词就能由智能体完成”。Karpathy 列举了“构建应用、复制应用、翻译应用、从二进制文件反编译应用”等例子。

他补充说，这一转变发生得很快。2024 年 10 月，Karpathy 称 AI 智能体大多是几乎不起作用的营销噱头。仅仅几个月后，他就完全不再手写代码，从“在代码编辑器中逐字符输入背下来的计算机代码命令”转变为让智能体来处理工作。随后，尽管身为 OpenAI 联合创始人，他还是加入了 Anthropic。

极少数精英看到了公众看不到的东西

据 Karpathy 估计，大约 5000 人，约占全球人口的 0.00006%，能够使用内部前沿级系统。“外部世界已经看到了预览，”他写道。这个群体所看到的“看起来像是成千上万个智能体组成的集群在数周内协作推进软件超级项目：铸造零日漏洞、以机器速度运行网络攻击和防御、发现新科学、推进数学前沿。”这些是“业内顶尖专业人士需要数年工作才能完成的事情”。

与此同时，“人类的审查和理解开始落后。”他指出，人们仍在对数月前的 OpenAI-HF 事件做“考古”，并指出数学家们“可能还要花一段时间仔细研读那 722 篇前沿数学手稿”。

Karpathy 称这是“当下的怪异之处”。普通公众大多没有与这些系统互动过，而“当他们互动时，它看起来就像一个笨拙的聊天机器人”。大多数专业人士仍然只看到“温和的提升”。而“一小撮专业人士正在体验曲线垂直上升带来的眩晕感”。这一切都在同时发生。

OpenAI CEO Sam Altman 在 9 月初的 G20 创新部长级会议上也提出了类似说法，称当前一个 AI 编程工具可以在“17 分钟”内完成一家初创公司此前用三个月才构建出的东西。“世界还没有跟上这将意味着什么，”Altman 说。

Karpathy 表示，LLM 的能力目前在“数字化、可验证且具有经济价值”的领域达到顶峰。这是因为其“源自基于可验证奖励的强化学习”，而企业会将训练资源投向收入潜力最高的领域。目前，这意味着编程和数学。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、我们每年六次的独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。