跳到正文
RadarAI· ChinaTalk(RSS)·· 1 天前AI 评分36

ChinaTalk 访谈蚂蚁 Ling 产品负责人 Richard Bian:为什么他认为 AGI 不可避免

AI 导读

ChinaTalk 发布对蚂蚁 Ling 大模型产品运营负责人 Richard Bian 的访谈,他认为 AGI 不可避免,当前仍处于探索模型能力的早期阶段。

正文 · AI 翻译

ChinaTalk· Irene Zhang·2026-10-16 19:08· 2 小时前AI 评分52

为什么中国 AI 实验室的产品负责人认为 AGI“不可避免”

AI 导读

ChinaTalk 发布对蚂蚁 Ling 大模型产品运营负责人 Richard Bian 的访谈,他谈到大模型时代类似 15 世纪大航海时代、AGI 不可避免,以及 Hugging Face 事件中开源模型可用于防御的价值。

正文

Richard Bian 是 Ant Ling 的产品运营负责人,Ant Ling 是蚂蚁的基础大模型。如果你不知道 Ant,他们最著名的产品是支付宝,当你在国内乃至有时在海外时,它让你的资金和世界运转起来。Richard 曾是微软和 Square 的软件工程师,此前担任蚂蚁开源负责人,将开源倡议扩展为一个专门的团队。他曾在加拿大、美国、新加坡和中国生活和工作,他热爱打造产品。

涵盖话题:

ChinaTalk 是一个由读者支持的出版物。要接收新文章并支持我的工作,请考虑成为免费或付费订阅者。

  • Hugging Face 被黑是进步的标志? 为什么 Richard 认为这起涉及 OpenAI 研究智能体的事件是不可避免的发现,而不仅仅是灾难,以及为什么现在找到解决方案是积极的发展。

  • AGI 即将到来,但没人知道它会是什么样子。 AGI 不可避免,我们仍处于探索这些模型能做什么的早期阶段。与其痴迷于排行榜,我们需要更好的评估和更开放的心态来评判模型。

  • 开源是一种产品战略,而不仅仅是赠送东西的方式。 开放权重模型如何汇聚全球人才、加速开发并支持多样化的产品生态,以及为什么真正的商业挑战是毛利率而非资本支出。

  • 为什么 AI 对话需要更多声音。 为什么我们需要关注关于 AI 走向的多元视角,并更愿意探索而不是宣布终局。

AI 发展迅速:自我们录制以来,蚂蚁 Ling 已发布其最新大模型 Ling 3.1 Flash,该模型于 10 月 14 日开源,拥有 560B 参数和高达 1M token 的上下文窗口。

现在就在你最喜欢的播客应用上收听。

“随波逐流……” 来源。

Hugging Face 被黑事件与大发现时代

Irene Zhang: 我想先从最近的 Hugging Face 事件开始,虽然我们也会谈到蚂蚁。对于还没跟上的听众:今年 7 月,一群 OpenAI 研究智能体入侵了 Hugging Face,以寻找基准测试中任务的答案。

这是一起严重的安全事件。METR、Redwood Research 和 OpenAI 本身都发布了详细的事件报告。有趣的是,在重建事件时,Hugging Face 发现前沿模型不会帮助处理其日志,因为该请求触发了它们的网络安全护栏。最终,Hugging Face 在本地部署了中国公司 Z.ai 的开放模型来处理这些日志。

Richard,作为身处中国另一家开放实验室的人,并在过去两个月里了解到这件事,这起事件让你思考了什么?

Richard Bian: 这是一场迟来的对话。Irene 和我一直在尝试安排时间,因为我们都非常关心前沿实验室生态、开放生态以及模型实验室的发展,尤其是中国的那些。

依我拙见,这件事我们迟早会以某种方式遇到,因为我们正在做的事情,人类自己都还没完全搞明白。我经常用这个比喻:当前的 AGI 之旅就像 15 世纪的大航海时代。葡萄牙人和西班牙人出发去寻找新大陆、寻找印度。你造了一艘船,驶入一片海洋,完全不知道会面对什么。

前沿模型的发展也是如此。我喜欢“发现”这个词,当我们训练某个东西时,因为我们是在发现我们共同创造的这个造物所蕴含的智能,却不理解它内部到底在发生什么。

首先,这件事表明我们正在取得重大进展。这就像撞上陆地,或者撞上礁石——不管怎样,你发现了东西。这是意料之中的。我们发现问题,然后解决问题。这就是我们在科学发现和工程中所做的事:解决问题。

其次,开源圈的人经常用“生态系统”这个词,有时并不理解它。这个词的一个来源是现实中的生态系统,而生态系统最重要的部分是多样性。一个多样化的生态系统会催生各种不同的发展,就像雨林,或者加拉帕戈斯群岛——最著名的孤立生态系统之一,在那里你最终会发现非常奇特的生物。

回到正题:我们有开放权重模型和闭源权重模型。闭源权重模型显然处于前沿。但在这次事件中,被用于防御的却是一个开放权重模型。为什么?因为闭源权重模型有自己的限制。我不会评判这些限制是好是坏,但显然它们没能解决问题。一个开放权重的选项做到了。

结果,我们看到了一种开放与闭源模型结合使用的模式,每个人都在从中学习。既然这件事迟早会发生,那么它现在发生,并且找到了解决方案,对人类来说是个好兆头。我们可以继续前进,解决下一个问题。

不会放慢脚步

Irene Zhang: 这真是一种非常乐观的看法,我很想知道这种乐观从何而来。事件发生以来,我在旧金山听到最多的说法是,我们可能走得太快了。很多人会这样回应你的大航海时代比喻:这不就意味着我们走得比我们能理解的更远吗?这难道不是一种风险吗?

关于开源,更悲观的看法是:没错,它解决了闭源解决不了的问题,但这是一把双刃剑。一个开放模型也愿意做闭源模型不会做的更危险的事情。你怎么看这两种观点?

Richard Bian: 有意思,你觉得我乐观,不过我明白为什么。说实话,如果从悲观到乐观是一条光谱,我是非常悲观的。从我们开始创造这个 AGI、意面怪物,或者我们称之为智能的东西的那一刻起,我认为我们就已经踏上了科幻电影和电视剧如《西部世界》和《黑客帝国》所展示的那条下行螺旋。

但既然我们已经在这条船上了,我个人能采取的最佳立场就是保持乐观和观察。为了不被淹没,最好(a)保持观察,(b)坚守我们的原则,(c)把它当作一个控制系统来行动。如果这听起来很乐观,那很好,因为外面有太多噪音,那种让人产生 FOMO 或每天让人沮丧的噪音。一定程度的乐观能抵消这些噪音。我认为我们在这里做的事情是有意义的。

我的看法很明确。我会说 AGI 将会发生。我们肯定会朝那个方向走。它可能不会以我们希望的形式出现,但那是终局思维。在看到进化的下一步之前,评判细节没有意义。

就我个人而言,我觉得 human-in-the-loop 相当重要。作为创造——或者请允许我说,发现——这种智能的人,最好在过程中就知道发生了什么,而不是等事情已经发生之后。

Irene Zhang:你为什么认为这是不可避免的?这是你业内同行的普遍看法吗?

Richard Bian:这个生态系统里有很多参与者:构建 LLM 的前沿实验室、推理和训练提供商、harness 构建者,以及应用开发者。我们已经处于一个快速、加速的技术炒作周期中,而这并不是人类历史上的第一次。

我的心智模型是,每 10 到 12 年,跟随 VC 和 PE 的投资节奏,我们会经历一个完整的技术炒作周期。移动互联网大约在 2010 年开始,在 2020 到 2022 年左右达到顶峰。

把它想象成一场有四个垒包的棒球比赛。本垒是技术。一垒是产品。二垒是商业化,即可行的商业模式。三垒是治理和运营。2020 到 2023 年,在 GPT 之前,我们处于上一个炒作周期的三垒。人们想打出全垒打:垄断市场、干掉所有其他玩家、拿走所有利润。

当 AI 出现时,比赛重置回了本垒。我们还在玩从本垒到一垒的游戏,因为我们还没有看到产品走向的明确方向。Coding 不错,但那真的是我们期待的产品形态吗?Coding agent 已经在演变成 co-work agent,而“co-work”很大程度上是个流行词。我们不知道下一阶段是什么。

每次炒作周期重复,资本支出就会蜂拥而入,这成为我们下一步构建之物的自我实现的预言。这就是为什么我觉得这是不可避免的。

iykyk。来源。

另一方面,我去年这个时候加入了模型团队,感觉这是我人生中最漫长的一年。有了 AI,一切都加速到了一种我不会称之为可控的程度。

与我们之前见过的一切相比,在赋能和可能性方面,生成式 AI 使知识商品化,就像 20 年前互联网使信息商品化一样。原则上,每个人都可以平等地使用这种智能。实际上,并非每个人都这样做,而我们却为此投入了大量资本支出。终局只有一个。

用《跨越鸿沟》的话说,我们正处于最初阶段。我们只有早期采用者。我们有早期创新者在某些方向上推进,比如 AI 基础设施和 harness,尽管我们其实还没有真正的产品。

感觉就像一块巨石从山上滚下来,带着巨大的势能。除非这个方向遇到非常强烈的阻力——据你我所知,这种情况已经发生过几次……如果你发出这个行动号召——我们能停下吗,或者能放慢吗?不能。这就是为什么我觉得这是不可避免的。

Irene Zhang:你觉得这种阻力会来自与美国不同的源头吗?如果它真的发生,你如何设想?

Richard Bian:很难说。我们正在启航,不知道下一个岛屿会是什么样子。我的直觉是,我们会看到越来越多的阻力,但可能不是现在。AI 应用的渗透率还很低,还没有真正影响到每个人的生活。关于取代工作的讨论很多,但还没有到大众真正感受到的程度。一旦那一刻到来,会有很多声音被发出,我们会从那里开始。这不会是一两年内的事。

拥挤的海峡:噪音、基准测试,以及如何评判一个模型

Irene Zhang:你说这是你人生中最长的一年,而且有一种感觉,你是在与某种失控的东西一起工作,或者说控制权正变得可以协商。当你和模型团队在实验室里时,你每天都能感受到这种权衡吗?存在权衡吗?

Richard Bian:这是个很深的问题,某种程度上是哲学性的。当你第一次乘船前往某个未知的地方时,去程比回程要长得多得多,尽管是同一段旅程。如果你不知道要去哪里,你就会失去对时间的衡量。这很接近在这个行业工作的感觉。

一方面,我坚信这是一片开阔的海洋,还有许多其他水手,作为人类我们会互相帮助。但你也有瓶颈:海峡、巴拿马运河,那些狭窄的地方。我们现在有这么多著名的海峡,总是出现在新闻里。一旦有了海峡,你就会遇到加速和挤压,人们会觉得,“天哪,我们得离开这里。”

人们把这视为竞争,就像三垒游戏。实际上,并不是。只是恰好在这段海峡周围很拥挤。

在 S 曲线上,我们正在非常迅速地攀登智能水平。另一方面,我们不知道我们要去向何方,开放权重生态系统仍在发展中。人们看到彼此在做什么。你在技术报告里写下东西,互相帮助。所有这些都产生了一种相对性,让人感觉有太多事情在发生。

当你发布一个模型时,它可能只在一周内是 SOTA。一周后,别的东西声称更好,你必须解读它是否真的更好,因为现在有太多做公关的方式。

在这种环境中,有几件事很重要。一是进行像这次这样专注、去噪的对话。二是在行业里有真正关心结果的人。

对我来说这是非常忙碌的一年,但我感到极其有动力,因为你开始稍微设想未来,看到过程有时会让你感到平静。即使当我感到 FOMO 或对速度感到沮丧时——我们在过去五天里发布了三个模型——我们知道事情在掌控之中。我们知道进展。这就是让我保持动力的原因。

有人问我该不该进入这个行业,我的回答是,为什么不呢?这是一个过程,而不是搭便车。在开源中,如果你看一个现有的软件仓库,你会得到一定量的信息。如果你看它之前所有的变更列表和发布版本,你会得到多得多的信息。当前的快照只是一个快照。

这是一个搭便车者收获不多的时代,因为重要的是增量。你只有通过参与游戏、保持观察、并且不那么关注结果,才能捕捉到增量,因为结果可能只是中间态。关注过程,关注旅程。

Irene Zhang:当你描述不同的海峡时,你指的是不同的研究和训练直觉、不同的架构,还是不同的产品方向?

Richard Bian:所有这些都是。海峡这个比喻解释了为什么事情看起来如此狭窄。首先,人们不知道自己不知道什么。从事长期项目的人在当前的叙事中基本上是不存在的。人们正在研究新架构,这需要时间。他们可能会沉寂整整一年。

想想DeepSeek刚出来的时候。那是一场爆炸。但推理服务商和模型构建者在那半年前就知道那个实验室了。我第一次听说DeepSeek是在2024年7月。但直到他们引起轰动,他们才存在。

这种叙事产生了频道里所有的噪音,而运行长期项目的人通常是不被看见的。我要说,这对他们来说是最好的事情。

十年或二十年前,新闻业的标准很高。你必须非常擅长你所做的事情才能成为记者。我父亲是一名记者,他为此非常自豪。如今,每个人都可以做自己的自媒体。自媒体可以想说什么就说什么;他们有自己的受众。

我的第一个行动呼吁是停止跌跌撞撞地陷入流行语。找到你觉得在你的生态系统中是最明智的人。找到最好的播客,也许就是这个。关注他们,把东西听一遍。

海峡存在的第二个原因是异质性太强,需要一定程度的理解才能看透。我以前住在新加坡,我非常喜欢鸡饭。我能尝出这家店的鸡饭和那家的很不一样。我带一个朋友去,说:“这鸡饭真好吃。”他们吃完后说:“和上一家挺像的。”好吧,算了。

现在,人们以非常相似且大多肤浅的方式评判模型。我们缺乏评估、基准和真实世界的使用场景,因为渗透率还没到那一步。一个评估者运行一个3D渲染测试,说:“这个模型非常擅长3D渲染。”很好,这是一种评判方式。但当结果不好时,你说“这个模型很烂”,那是不公平的说法。更可能的是,这个模型擅长别的东西,那需要专门的评估或专门的人去研究。他们还不存在。

在一项新技术的早期阶段,人们不知道要看什么。当你拿着第一部iPhone时,你不会想象在上面点餐。这需要时间。

这就是为什么生态系统感觉拥挤。人们不知道如何评估,所以他们互相读彼此的报告。你也会看到行业翻转。曾经,人们说基准没用且过拟合。现在每个人都分享他们的基准。

这类似于托福和SAT考试。在你建立起完善的启发式方法之前,标准化测试在某种程度上是有帮助的。我们不否认标准化测试的用处。但在一项测试中表现出色是否足以或必要地表明一个模型优秀,我们并不确定。

另一个行动号召是保持开放心态。你如何使用模型展示了你自己能力。作为模型实验室,我们雇佣懂得如何评估我们模型的人。如果人们能在评估上讲究策略,并以不同方式评估事物,那就是一个好迹象。

那一刻发生时,海峡就变宽了。你驶入开阔的海洋,人们开始谈论不同的事情,比如“这个模型在这方面真的很擅长”。我们构建领域增强模型,是因为我们意识到,鉴于我们在某些领域的知识和专长,我们的模型在这些领域确实很出色。我们也构建相当不错的小型模型。

人们说有一个模型,我就不点名了,对什么都挺擅长。大概并非如此。你会在你的Linux机器、企业机器上只运行一种操作系统吗?不会。你最终会用上FreeBSD、Ubuntu、Unix。对别人来说,它们看起来都一样,但Linux专家知道它们不同,各有所长。

我们正处在下一代产品的门口。一旦这些产品出现,人们将不再争论一个模型是真好还是真差。他们会说:“这个模型在我使用的特定框架中运行得非常好,这就是我用它的原因。”

开源是一种产品策略

Irene Zhang:为了消除噪音——很多人听到有人在开放实验室做产品工作时会感到困惑。这是什么意思?产品和开源之间有矛盾吗?

Richard Bian:我不会这么说。开源可能是这个星球上最常用但被误解的术语之一,而被误解最深的部分是“自由”。开源是自由软件,但自由是自由意义上的自由,不是免费啤酒意义上的免费。

开源的意义在于给你自由选择你想用的任何东西。你可以对Hugging Face上的任何开放权重模型进行GGUF。如果你能托管它并想提供服务,遵守许可证,你就可以。这就是自由意义上的自由。

开源有三个主要价值,它们对应着垒包。开源实际上是一场三垒游戏,因为它在运营和治理方面处于最佳状态。

首先,它有助于技术。每个人都知道开源是全球人才协作的最佳方式。如果你构建闭源软件,它只会和你公司内部的智慧一样好。如果你开放它,你就能从各处获得输入。这几乎感觉像是通过开放生态系统获取人才。通过这种开放竞争,最终留下的软件要精炼和健壮得多;它是反脆弱的。

其次,开源是一种非常好的市场进入策略。你可以减少对外拓展和宣传,因为人们自己发现软件并选择托管它。当他们联系进行官方POC时,他们可能已经试过了。它有助于可发现性,有助于自托管,用户还可以提交问题。

这涵盖了本垒和二垒,它们离三垒很近。但一垒的游戏才是产品游戏,而人们通常忽视的是,开源是构建产品的一种相当不错的方式。这本身就可以做一期播客,但关键点在于,你可以比闭源产品更快、更高效地构建一个开放产品。

以 Airbyte 和 Grafana 为例。抱歉,这有点技术性,但在上一轮技术炒作周期中,它们以加速的步伐完成了融资。如果我没记错的话,Airbyte 从创立到 C 轮融资大约用了一年半,因为它受益于社区贡献的适配器,这些适配器让它在将数据从一个地方传输到另一个地方方面表现得非常出色。

你会不断看到像 vLLM 和 SGLang 这样非常强大的技术,在它们之前还有 Ray 和 Spark。它们最初是开源项目,随着时间推移逐渐成熟,人们在此基础上构建出成熟的产品。Databricks 构建了大量与 Spark 相关的产品,而这项技术的生命周期一直延续到今天的 Delta Lake 和数据湖讨论中。

一项好的技术有其生命周期,而开源延长了它,让人们可以在其上构建出色的产品。看看 Kubernetes:有如此多的 Kubernetes 发行版,每个都针对不同的企业工作负载略有不同地构建。这就是开放产品的美妙之处。

人们知道开源有助于进入市场。他们知道开源有助于技术协作和参与。但它也有助于构建一个强大且多样化的产品生态系统,而这正是人们通常忽视的部分。

当我为 Ling 模型组建这个团队时,我称之为“模型即产品”。这有点超前于时代。我们有两名工程师、一名产品人员和几名运营专家。我雇用那两名工程师是因为我们想构建一个 harness,但“harness 工程”这个术语当时还不存在。我们花了相当长的时间来思考我们到底在构建什么。那是去年九月,我加入团队的时候。如果我没记错的话,harness 工程在今年早些时候成为了一个术语。

当时,我们有一个非常崇高的愿景。我们非常喜欢 Andrej Karpathy 的心智模型,即智能是尖峰状的。如果你把尖峰状的智能当作产品来使用,你可能会采样到峰值,获得非常好的体验:“这个模型太棒了。”但你也可能采样到低谷:“这个模型太蠢了。为什么它连这个都理解不了?”这种尖峰状的体验非常糟糕。这不是产品。

我们仍在从技术到产品的旅程中。我是一个产品人,我真的很想构建一个产品,但我承认我还不够优秀,无法设想产品应该是什么样子。最好的策略是再玩一次这个游戏并迭代。

历史上有许多这样的故事。Foursquare 是移动互联网时代的一个产品,年轻人不知道它。它是一个 iPhone 或 Android 应用,只做一件事:在你当前的位置签到。成千上万的其他人也在同一个地方签到,每个人都知道位置是准确的。

人们可能会说这很无聊。这个产品到底在做什么?它实际上是一个产品 POC,而不是产品。但如果没有 Foursquare,就不会有 Uber,不会有美团,也不会有其他的一切。你需要这个地理定位产品,或者 POC,或者 SDK,随你怎么称呼它,来证明这可能是真正有价值的。

它并没有解决所有问题。仅凭 Foursquare,你无法立即构建 Uber,因为在 2G 网络下地理定位 API 成本高昂。你需要网络来发展,还需要 geohash——一种压缩数据负载的哈希算法——来每五秒上传一次你的车辆位置。只有在那之后,你才能构建 Uber。

这对我们正在做的事情是一种启发。这个模型感觉像一个带刺的气球。我们希望确保人们看到我们模型带刺的一面,所以我们构建演示、指南和手册,告诉人们:“这样使用它。”对于低谷部分,我们尽最大工程努力来缓解体验,要么引导人们不要那样使用模型,要么让体验变得更好。后来我们了解到,这就是 harness。

harness 与模型和工具结合,就构成了一个 agent。agent 已经是一种非常接近我们在移动互联网时代称之为产品的东西,类似于 SaaS 或 iPhone 应用。

但我们到了吗?我们有一个好的 agent 可以作为你手机上的日常应用吗?我不这么认为。我们正处于 App Store 里有 2000 个天气和股票应用的那个阶段。

真正的问题在于毛利率,而非资本支出

Irene Zhang: 好的,我们看到的开放模型蓬勃发展,尤其是在与美国前沿实验室处于不同领域竞争的中国实验室中,是一种押注:AI 会像某些先前技术那样发展。开源作为一种战略孵化产品,最终为强大的公司带来可行的商业计划。这就是 Foursquare 如何催生 Uber,也是 Databricks 的故事。

让我困惑的是,开源 AI 与你提到的那些定义类型的开源软件之间有一个显著区别:AI 是如此资本密集。它正在吞噬世界各地大公司的利润底线。在你的预测中,这个押注会走向何方?

Richard Bian: 就像航海的比喻一样,造船很昂贵。当葡萄牙人和西班牙人进行航海时,他们需要赞助人——皇帝和皇后。没有他们,你做不到。

开源在这里既不是必要的,也不是充分的。它提供选择。有时我说“开放是一种选择”。这是一种战略,而战略关乎你做什么和不做什么。

你可以选择封闭战略,你会看到一些公司做得很好。Anthropic 是一家非常值得尊敬的公司。他们做闭源模型做得非常好。

另一方面,有些人想玩开放的游戏。如果你把时钟拨回去,你会一直看到这个故事。一个闭源的在位者受到开源挑战者的挑战,最终你会得到一个双头垄断或一个非常繁荣的市场,每个人都有自己的份额。

它们还激励更多人加入生态系统,而生态系统参与者让一切变得更好,所以你最终会得到好得多的用户体验。不是每个人都能成为内核。可供选择的内核就那么多。

资本支出是一个单独的话题。当你有互联网时,你需要建设数据中心。你必须建设手机和硬件。地方政府建造了大型手机工厂,同时挠头思考我们是否真的需要这么大的量。现在我们都知道,我们需要的比我们以为的大得多。

AI 的资本支出确实很高,但我不会太担心支出本身。真正让我担心的是毛利率。

我们刚刚走出上一轮炒作周期。对于 SaaS 和移动互联网来说,商业模式是可行的,因为软件的毛利率大概有 95%。软件是一种可复制、标准化的产品。你构建一次,然后分发很多次。

在 AI 领域,我们目前看不到同样的情况。利润率真的很低。在推理上,30% 或 40% 已经相当不错了。然而人们有一种观念,认为自己有权免费使用它,因为“我把我的数据给了你,而我的数据相当有价值”。这大概是错的。

资本支出的挑战是双重的。第一,一开始就必须投入资金。你需要建一座超级工厂才能生产特斯拉。那是巨大的资本支出。第二,这真的是一门可持续且可行的生意吗?对我来说,这部分是存疑的。

我日思夜想的一个话题是,在第二垒——也就是赚钱——一个可行的产品应该是什么形态。你不可能提供免费的 token。语义路由可以是一个好办法。作为产品的一部分,你把流量路由到最可行的模型上,同时不降低体验,并从中获取消费者剩余。

Irene Zhang: 给我们当中还不了解的人解释一下语义路由。

Richard Bian: 把语义路由想象成一个网关,你在其中以“自动模式”使用模型。

如果你在意你的 token 开销,你是有选择的。你可以为所有事情都指定前沿模型,但那很贵。或者你可以把所有事情都跑在一个免费模型上,代价是你的部分工作流体验很差。

自动模式说的是:相信我们,因为我们很了解这些模型,并且与它们做了集成。当你说“嗨”时,我们不会用前沿模型来做推理。我们会给你一个非常便宜的东西。当你问如何解决一道困难的数学题时,我们会调用前沿模型。

这在技术上并非 100% 准确,但请允许我这样解释。这种自动体验是一种好的产品体验。它本身可能不是一个产品,但它可以是一个可行产品的关键特性。

肯定有创造价值的方法。在低利润的生意里,人们会找到办法把它挤出来。我们只需要达成共识:如果你不为产品付费,你就是产品。这就是我们用于移动互联网的比喻。

不过,智能时代略有不同。如果你的数据不是高质量数据,它根本就没用。这是一种心态的转变。很多人需要重新思考和重新学习,这样我们才能继续讨论下一个可行的产品。

Irene Zhang: 当你在 AI 模型的语境下说“好的产品体验”时,你在想什么?

Richard Bian: 我喜欢这个问题,因为我并没有为它准备幻灯片。

用户体验是被人走烂了的路。以用户为中心的设计、以人为本的设计与工程,作为专业和教育方向已经存在了二三十年,其中有很多可取之处。我拥有华盛顿大学的 UCD 证书,我非常感激在那里学到的东西。

以用户为中心的设计的关键方面并没有改变。你仍然必须关心可发现性:用户如何发现你产品的某些方面?可访问性:你能做出易于获取的包容性产品吗?幸福路径:用户能否走完整个工作流,也就是相当于客户旅程的那条路径?

接下来是灾难恢复。如果我遇到错误,我会看到一条提示说“你遇到了这个 0x-blah-blah 错误”吗?还是我会看到“很抱歉你遇到了这个问题。这样做就能重置你的应用,然后你会回到原来的状态。别担心,你没有丢失任何数据”?所有这些对于打造一款优秀的 AI 原生产品来说都极其重要。

有什么新东西?其中之一是个性化,这是人们经常谈论的。你现在有一个智能助手,它 24/7 陪伴着你,了解你的一切。它会为你量身定制食物推荐,并准确掌握你的日程,所以在你还没意识到该叫 Uber 之前,你就不会错过下一趟车。

另一个是新发现,这是许多前沿实验室正在追求的。当一个模型能够破解诸如生物化学等领域的难题时,你就会得到新的软件或新的智能体,化学专家可以用它们来发现新药、构建新的分析启发式方法、帮助学生理清思路,并改进医疗流程。

我只能想象这样的产品会是什么样子。但那些都是新产品,只有当你超过某个能力阈值后才可能出现。当它们出现时,我们就会确切知道它们的用户体验是什么样的。它们肯定会为专家和学习者量身定制。这是我的大致直觉。

Ling 3.0:微型模型与面向金融和健康的“博士项目”

Irene Zhang: 这里正好可以谈谈蚂蚁一直在做的工作。我听说有一个新模型。

Richard Bian: 有几个新模型。不是一个,不是两个,而是三个。

Irene Zhang: 那我们就把它们都过一遍吧。

Richard Bian: 首先是 Ant Ling 模型,中文叫百灵。这是我们的模型系列,由蚂蚁集团的 Inclusion AI 打造。Inclusion AI 是我们实验室的名字,它也表明了我们在意什么。我们希望我们的 AGI 之旅是包容的。AGI 不应是只为少数人打造的稀缺资源。它应该面向普通大众,让每个人都能受益。

这就是为什么我们把实验室叫作 Inclusion AI,也是为什么我们决定对我们所有的模型都开放权重。这是导航的早期阶段,帮助其他船只更好,因为我们也从开放生态中得到了很多帮助。

我们希望默认开放、生态优先,并且希望从小处着手。外面有很多开放权重模型,所以我们不断问自己,我们能给生态带来什么增量。我们希望朝一个方向前进,并让人们知道:“各位,这片海域是安全的。这个方向很可能是对的。”

Ling 系列现在到了 3.0。在 1.0 时,我们开始了旅程。在去年 10 月的 2.0 系列中,我们转向推理,探索智能的边界,所以我们选择做大。我们是构建了首个一万亿参数推理模型并将其开放权重的实验室。那就是 Ring-1T。

然后我们问:有了这么大的模型,我们该做什么?直接提供服务非常昂贵,因为显卡稀缺,而那种规模的模型会带来很高的推理成本。人们真的能从如此高的花费中受益吗?当时的答案是,行业可能还没准备好。

在 2.5 和 2.6 系列中,我们开始重新思考这个问题。我们已经达到过一万亿参数。我们能让它变得可服务吗?

对于 3.0 系列,我们从较小的模型开始。我们的新 flash 模型是一个 1240 亿参数的 MoE,激活参数为 51 亿。如今 flash 模型差异很大,而我们的模型偏轻量。好处是 token 效率和 token 经济性非常好。如果你去 Artificial Analysis 和其他几个网站,你会看到 Ling 3.0 flash 位于帕累托前沿上。它实际上超出了前沿,因为对于日常工作来说,它是一个如此 token 高效且成本高效的模型。

我们在 Ling 3.0 tiny 上走得更远。tiny 模型是一个 79 亿参数的 MoE,只有 13 亿激活参数。它非常小。你可以在你的 MacBook 上运行推理,而且 cookbook 已经发布了。

你甚至可以训练它。我们有一个名为 Arena 的训练框架,它是我们内部用于训练一万亿参数模型的系统的轻量版。如果你是爱好者,你可以用它在你 MacBook 上训练 tiny 模型。

为什么这样做?我们意识到教师需要教授智能体强化学习,而大多数实验室和大学没有足够的 GPU。他们要么花钱买 API,要么使用边缘推理。我们提供了在 MacBook 上进行训练和作业的选项,这样教师就可以为学生构建新的课程,学习强化学习、智能体构建等。

Irene Zhang: 许多计算机科学之外的人很难想象人们用这些 tiny 模型做什么。你有人们用你的模型构建的有趣东西的例子吗?

Richard Bian: 我们几周前才发布这个模型,虽然感觉像过了很久,所以我们仍在培育开发者生态系统。但有趣的东西正在反馈回来。

人们在他们旧的显卡或 MacBook 上运行这些较小的模型,基本上在那里处理日常生活。你自己的机器拥有你所有的数据,你不希望这些数据去任何地方。一旦你使用大量 API,其他人就开始了解你的私人数据,这可能会带来问题。本地运行给你一种密封的体验:要么没有互联网,要么没有东西传到互联网。一切由你掌控。

你可以通过 harness 或智能体将你所有的本地文件作为上下文提供,并在你自己的设备上运行模型,因此推理基本上是免费的。你可以构建你的生活日报。你可以构建一个个人助理:“根据我的历史告诉我明天应该吃什么”,或者“我接下来要去这个地方旅行。给我全面的旅行建议并安排它。”

每个人也都有旧文档,无论是代码、书面文档还是日记。这些模型非常擅长总结和呈现内容。我们看到人们总结他们的旧文件,并从中重新学到很多东西。

我有时会重读我在开源上的旧文章,每次都有新的启示。我也会重听两年前的播客。非常聪明的研究人员来给出他们对未来的看法。两年后,那些看法成了事实。为什么他们认为事情会朝某个方向发展?预测背后的原因很有趣,现在我们可以解码它们。第二,他们在哪里押错了,为什么?为什么即使地球上最聪明的人也会押错?差异是什么?第三,如果我当时知道他们所知道的,我会做出什么预测?这就是你了解自己的方式。

你拥有所有这些旧信息,在你有模型之前从未有时间去消化。仅靠聚合和摘要并不能给你带来新信息。但压缩信息、暴露关键点,并在人类参与的情况下重新学习,是一个非常有趣的用途。

如果你是软件工程师,我也建议你学一点模型训练的知识,最好的方式是在自己的设备上做。如果你能找到拥有地球上最好 GPU 的 GPU 集群来支持你的训练,那对你来说是好事。大多数人做不到。

Irene Zhang:我听到的是,小模型以及开源整体的优势仍然是隐私。只有有了隐私,人们才愿意提供让个人助理发挥最大能力所需的上下文。这对刚刚涉足的人来说是个很好的提醒。让我们回到其他模型。你最近还做了什么?

Richard Bian:Flash 和 tiny 是我们几周前发布的模型。这些是我们刚刚发布的。

首先是 Ling-3.0-flash-Fin,一个金融领域增强模型。其次是Ling-3.0-flash-Santé。Santé 是法语中健康的意思,也是我们祝酒时说的话。这是我们希望人们用于自己个人健康的模型。最后但同样重要的是Ling-3.0-flash-VL。我们的语言模型终于有了视觉语言版本,我们今天将其开源了。做 VL 的原因很明显:我们希望我们的模型具备这种能力,就这样。

立即订阅

让我们花点时间谈谈另外两个。我们称它们为领域增强模型,因为它们是在我们的开放权重骨干模型(如 flash 模型)上进行后训练的。我们用领域增强数据和领域增强环境进行完整的 SFT、RL 和后训练。

我们用这个名字来区分它们与过去的专用模型。在 2024 年和 2025 年初,受计算和训练启发式的限制,人们常常拿自己的数据定制一个模型来服务自己的业务。这很好,但那些专家模型有一个缺陷:当通用智能扩展时,它们会立即过时。

推理成本也在变得更便宜,按照物理定律它会继续变得更便宜。前沿模型可能仍然昂贵,但整体 token 成本会下降。

人们一直在说通用智能是最重要的。这就是为什么在 2025 年和 2026 年初,Ling 系列也为通用智能而构建。一旦我们看到那里的边际收益递减,我们就转向 token 效率,以确保模型随时间推移仍然可用。

现在我们发现了其他东西。我们看到通用智能发展放缓。不是因为我们到达了山顶,而是因为我们现在的大多数模型对于日常使用、协同工作来说已经足够好了。如果你想让模型处理你的文档、做一些探索、写一份提案,甚至写代码,我不会说这些问题已经解决,但模型已经足够好了。

一旦你有了足够好的模型,自然的直觉就是围绕它们构建产品。这就是为什么今年出现了这么多 harness。为了听众着想,把 harness 想象成你直接使用而不接触模型的东西,比如 Claude Code 或 Codex。我们称它们为应用或产品,尽管按照我之前的定义,它们不是真正的产品。

但它们对领域专家来说足够好吗?如果我是一名银行家或资产管理人,通用模型能处理我的日常工作吗?它们了解我们的启发式方法吗?它们了解我们的工具吗?我们是否有适当的评估来判断一个模型是否足够好?所有这些问题的答案可能都是否定的。

Anthropic 的劳动力市场指数中有一张非常著名的图片。它是一个被划分为多个领域垂直方向的圆,其中一条边界显示人类活动,一条红色边界显示当前模型覆盖的范围。那张图非常有说服力。它解释了为什么 Claude 从金融、健康、设计等领域起步,以及为什么人们更早从编程开始。这些都是高价值领域。你在那里构建出有价值的东西的那一刻,它就会立即被使用,而这些行业会为提升其效率的东西支付合理的价格。

来源。

我们也看到了同样的情况。此外,我们实际上无法获得面向金融的 Claude。那些是仅在某些地区提供的 B2B 产品。我们认为可能存在一个开放选项,所以我们决定做领域增强模型。

如果你在金融领域发布一个领域增强模型,人们会普遍直觉地认为“那就是蚂蚁集团做的事。你做金融。”但不,我们是一家科技公司。金融只是我们恰好比较擅长的事情。

作为一家科技公司,我们关心许多其他垂直领域,比如健康和医疗。这就是为什么我们有 AQ 产品 Afu,它是为健康量身定制的。在努力打造一款好产品的过程中,我们意识到领域增强的健康模型对我们的业务也极其有帮助。

有了两个领域增强模型,向生态系统传递的信息就是:你可以构建第三个。拿我们的基础模型,加入你自己的训练,并在其上构建。通用智能不会下降,而在为该领域量身定制的评估中,我们的模型表现极好,在许多情况下达到 SOTA 水平。

如果你是一名资产管理人,Fin 模型将是一个非常不错的选择。如果你是一名健康从业者,试试 Santé。我们很想知道社区的反馈。Santé 尚未开放权重;我们正在推进这件事。

我们这样做是因为,要解决人们日复一日面临的现实世界问题,他们需要比通用智能更好的东西。通用智能就像大学或高中。它让你成为一个具备一般能力、准备好面对世界的人。但要在某个领域的前沿发挥作用,你需要博士学位。领域增强模型就是我们正在打造的博士项目。

Irene Zhang:你把蚂蚁描述为首先是一家科技公司,金融和健康只是它恰好表现强劲的垂直领域。在专业模型训练方面,有多少是因为这些是高利润行业、AI 能带来大量价值?又有多少是飞轮效应,即蚂蚁已经能够从其现有产品中获取真正优质的数据?

Richard Bian:一是使命。在蚂蚁之前,我在 Square 工作,再之前是微软。我在 Square 的时光让我相信要帮助小企业。Square 的使命是经济赋权,这与蚂蚁“为世界带来微小而美好的改变”的使命非常相似。我构建 Fin 模型,部分原因就是它与这一共同使命一致。我说“使命驱动”是认真的,因为这是蚂蚁过去十年或二十年一直在做的事情。

为了帮助每一个人,最重要的是他们能获得一个易于使用的模型,这意味着你必须把它构建出来,而开放权重肯定有帮助。他们还必须能够可持续地使用它。这就是为什么我们通过 OpenRouter、其他网关以及 Novita 和 DeepInfra 等合作伙伴限时免费提供这些模型,让人们可以体验它们。

理解一个模型能做什么需要时间。你不可能第一天就了解一个人。你必须花时间与他们相处才能理解他们的价值。

另一个方面肯定是战略。审视你的优势和劣势、机会和威胁,一个非常简单的四象限分析。我们意识到我们已经有客户、渠道和需求。我们了解我们的客户,因为我们一直在那里做生意。数据是了解客户的副产品。我们是一家非常以客户为先的公司,所以这就是我们的起点。

一旦你看到了需求,你就会问:我们应该构建一个框架,还是应该做一个模型?我们意识到构建一个模型可能非常有益。

在框架中处理某些事情就像使用工具、标准操作流程或职业培训来学习它。当某些事情成为常态时,你可以将它们推入后训练。十年前你只能通过在最顶尖的公司工作才能学到的东西,如今已经成为标准做法,现在大学里也在教授。这里也会发生同样的事情。

存在一种内在风险,即前沿模型在智能上实现飞跃,使你的模型过时。但这没关系。大多数那些模型极其昂贵,我们也可以重新训练我们的模型。目前这是一个非常动荡的行业。

我们对这个方向感到满意,因为它推动我们思考我们正在服务什么样的客户和小企业。这是激励我的动力。

我也相信这些方向是海洋中的未知领域。总得有人去尝试。蚂蚁集团恰好是最好的公司之一,而 Ling 恰好是最好的模型,去探索那片领域。到目前为止,来自合作伙伴的反馈和参与度都很好。

Irene Zhang: 这是一个很好的收尾点。非常高兴能邀请你来到 ChinaTalk,听你讲述你如何在这么长的时间里在这个行业中前行。有什么最后的想法吗?

Richard Bian: 与像你这样的人交谈让我感到振奋的是,现在的信息渠道极度缺乏质量参差不齐的内容。我个人从全球教育以及在新加坡、加拿大、美国和中国的经历中受益。这种多元文化的注入帮助我成为了一个更好的人。我们需要途径让这有助于他人,而坐下来在播客上把事情谈透是非常有效的。

另外,如果你正在收听并且还没有尝试过开放权重模型,我强烈推荐从 Hugging Face 下载它们,按照 cookbook 操作,试一试。未来已经在那里了。无论好坏,我们都无法让时钟倒转。我们都必须使用模型,我们都必须了解不同的模型。你对模型了解得越多,就越好。这就是激励我建立这个团队的原因。

最后但同样重要的是,这是一段漫长的旅程。我个人不喜欢很多这样的叙事,说什么“终局会是这样”或“你现在唯一该做的就是这件事”。我个人觉得,我们没人知道什么才是对的。但作为实践者,有时我们知道什么是错的。所以我们乐于给出自己的看法。看法终究只是看法。

自己去了解这个行业、与人交流、获取多元的输入,一定会对你有所帮助。我们在这里支持你,并在大发现时代为你提供一条不同的路径。

ChinaTalk 是一份由读者支持的出版物。要接收新文章并支持我的工作,请考虑成为免费或付费订阅者。

来源:ChinaTalk · chinatalk.media

来源:RadarAI · aihot.news