跳到正文
RadarAI· The Decoder:AI News(RSS)·· 4 小时前AI 评分38

前 DeepMind 研究员 Thore Graepel 创办 Metis Reasoning,欲借 AlphaGo 思路解决模型幻觉

AI 导读

前 DeepMind 研究员 Thore Graepel 创办 Metis Reasoning,在 Nvidia GTC 柏林大会上公布一套借鉴 AlphaGo 的通用推理方案:用显式知识账本记录已知内容、置信度和未解问题,由独立模块对照计算、形式证明或经验证据检验每个结论。

正文 · AI 翻译

The Decoder:AI 新闻· Jonathan Kemper·2026-10-27 21:55· 2 小时前AI 评分50

前 DeepMind 研究员认为 AlphaGo 的策略可以治愈 AI 幻觉

AI 导读

前 DeepMind 研究员 Thore Graepel 在 Nvidia GTC 柏林大会上介绍其新公司 Metis Reasoning 的方法,把 AlphaGo 的搜索思路搬到通用推理,用显式知识账本记录已知内容、置信度和未解问题,由独立模块对照计算、形式证明或经验证据检验每个结论。

正文 · 原文

前 DeepMind 研究员 Thore Graepel 希望构建能够追踪自身所知、并对照证据检验每一个结论的 AI 系统。他的团队表示,更大的语言模型无法解决这个问题。

Thore Graepel 认为,正是让 AlphaGo 在 2016 年击败围棋职业棋手李世石的那个理念,可以让 AI 系统变得更可靠,包括在机器人领域。这位前 DeepMind 研究员创立了 Metis Reasoning,并在 Nvidia 于柏林举行的 GTC 大会上阐述了这一方法。这家芯片制造商一直在扩展其面向机器人和物理 AI 的平台,目标是把机器人技术的数据问题转化为算力问题。

用知识账本取代固化在模型权重中的知识

据 Metis 称,如今的语言模型仅相当于 AlphaGo 的预测网络,负责给出可能的落子建议。AlphaGo 将该网络与对棋局的系统性搜索相结合,发现了著名的第 37 手——这一手若由人类棋手来下,该网络给出的概率大约只有万分之一。Metis 希望将这类搜索引入通用推理。

Tabelle ordnet neun Elementen eines Spiels wie Position, Zug, Übergangsregel, Ziel, Policy, Value, Suche, Erfahrung und Spielende jeweils ihre Rolle im Reasoning-System zu.
Metis Reasoning 将 AlphaGo 的构建模块应用于通用推理,由显式的知识状态扮演棋盘的角​​色。| 图片:Metis

要做到这一点,需要该公司论文中所称的显式知识账本,其作用相当于棋盘。类似的想法已经存在:微软的 GraphRAG 在知识图谱中将知识组织在模型权重之外,谷歌的 AlphaGeometry2 则将语言模型与一个验证数学证明的符号引擎配对。Metis 希望将这些原则扩展到现实世界中的开放问题。

其知识账本记录已知内容、系统的置信度以及哪些问题仍未解决。一个独立模块会对照计算、形式证明或经验证据来检验新增条目;当某个假设被推翻时,所有依赖它的结论都会被重新评估。一次“落子”可以是一个问题、一项实验,或对现有假设的质疑;系统会选择最能减少关于原始问题不确定性的那一个,最终给出答案或有理有据的弃权。

Flussdiagramm des Reasoning-Zyklus von Metis Reasoning mit den Schritten Zustand, Ziel und Budget prüfen, Zug wählen und ausführen, Begründung bewerten, Zustand aktualisieren oder Ergebnis protokollieren, Fortschritt bewerten und der Entscheidung, ob die Untersuchung weiterläuft oder mit Antwort, Enthaltung oder Grenzbericht endet.
在 Metis Reasoning 的方法中,只有当独立检验认为某一步推理得到充分支持时,该推理步骤才会改变系统的知识状态。| 图片:Metis

与 AlphaGo 一样,两个神经网络负责提出和评估落子,它们基于记录在案的既往研究进行训练,但无法推翻验证规则。Metis 表示,这一方案应能减少幻觉、给出带来源引用的解释,并让知识无需重新训练即可修改或删除。由于推理被拆分为小步骤,该方法也可能更适合在边缘设备和机器人上运行的小型模型。

企业仍对语言模型信任不足,不敢部署

Metis 认为,更多数据和算力能改进语言模型,但解决不了这项技术的根本问题:模型会编造答案,其推理链无法验证,知识被锁在权重里。幻觉 来自 训练 过程 本身, 论文 指出, 因为 模型 学会 生成 看似合理 的文本 而非 真实 的文本, 而且 即便是 当今 推理 模型 中的 思维链 也 常常 无法 展示 答案 究竟 是 如何 得出的。

论文称,这正是 AI 迄今经济影响如此之小 的原因。当智能体代表公司行事时,错误很难追溯到源头,错误的知识也无法从模型中移除。AI 在软件工程领域腾飞,是因为代码易于测试和回滚,但论文认为,在医学、金融、芯片设计和机器人领域,AI 需要从根本上具备可验证性。

该白皮书只描述了一个研究计划,没有可运行的系统、没有基准测试,也没有与当前推理模型的比较。团队承认,现实世界不同于围棋,只提供部分信息,获取证据可能代价高昂,而且有些问题根本没有答案。最大的未解问题是,鉴于符号 AI 系统曾恰恰因为所有知识都必须手工输入而失败,在教科书示例之外的杂乱领域中,经过验证的知识账本将如何成形。

继 Silver 和 Rocktäschel 之后,又一位 Deepmind 老将自立门户

根据其网站,Graepel 于 2001 年在柏林获得机器学习博士学位。在微软研究院,他帮助构建了 TrueSkill,即 Xbox Live 背后的匹配系统。之后他转投 Deepmind,参与了 AlphaGo、AlphaZero 和 MuZero 的工作。在 Altos Labs 任职一段时间后,他最近在 Google Deepmind 的后 AGI 团队工作,并于今年夏天离开。他还担任伦敦大学学院的机器学习教席。据彭博社报道,Graepel 正为 Metis 筹集数千万美元级别的低轮融资,并已在筹备以更高估值进行的数亿美元后续融资。

他是 Deepmind 最著名突破的最新缔造者之一,如今要在 Google 之外另起炉灶。前同事 David Silver 创立了 Ineffable Intelligence,并完成了欧洲初创公司中规模最大的一笔种子轮融资。Tim Rocktäschel 联合创立了 Recursive,目前估值 46.5 亿美元。其他人则直接投奔竞争对手。据《金融时报》报道,Deepmind 解散了 AlphaFold 背后的团队,诺贝尔奖得主 John Jumper 与两位同事一起离职加入 Anthropic。CNBC 将人才流失部分归因于内部对 Google TPU 芯片的访问受限以及官僚作风,而 Deepmind 自身也正在 失去独立性,创始人 Demis Hassabis 已从日常运营中退居二线。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER,即可享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

来源:The Decoder:AI News · the-decoder.com

来源:RadarAI · aihot.news