跳到正文
The Verge · AI· Hayden Field·· 13 小时前同新闻AI 评分78

Anthropic 完成史上最大 IPO,安全声誉面临考验

With the biggest IPO of all time, Anthropic’s ‘good guy’ reputation is on the line

AI 导读

Anthropic 完成史上最大规模 IPO,募资 813 亿美元,超过 SpaceX,为后续上市的其他 AI 实验室立下先例。公司以 Public Benefit Corporation 注册,长期利益信托(LTBT)与创始人掌握控制性投票权,股东无法将其投票罢免;但法律与治理专家指出,LTBT 只负责选任部分董事,对日常决策没有权限,其成员也缺乏 AI 专业背景。

同一新闻,精选展示《Anthropic 完成史上最大规模 IPO,其安全治理结构受到审视》

正文 · AI 翻译

今天是 Anthropic 的全新开端:一场酝酿多年的 IPO 超越了 SpaceX,成为史上估值最高的 IPO,募资 813 亿美元,并为其他即将上市的 AI 实验室树立了重要先例。但这不仅仅是一个财务里程碑。

Anthropic 创立时的理念是,它比其他实验室更优先考虑安全;其创始人此前曾离开 OpenAI 的高管研究职位。然而,随着 AI 竞赛加速,其高管强调,Anthropic 只有拔得头筹才能完成这一使命,而这需要大量资金和算力。不出所料,深思熟虑、安全且有意识的 AI 开发,可能与赢得这场竞赛所需的纯粹速度相冲突。再加上首次公开募股,事情只会更加复杂,而 Anthropic 的领导层几乎可以单方面推进此事。这得益于一种旨在让公司免受股东盈利压力影响的企业结构——但这种结构也移除了对其权力的常规制衡。

一位在 IPO 前离职的 Anthropic 前员工表示,他和 Anthropic 的其他人越来越觉得,当前的 AI 发展速度“在正常市场结构下难以为继”,尤其是在一个强大且几乎不受监管的行业中,激励机制错位的情况下。

多年来,Anthropic 一直标榜自己与其他 AI 公司不同、更加谨慎。理论上,这延伸到了其上市计划。它注册为公益公司,这意味着 Anthropic 董事会有责任在其使命与股东财富最大化之间取得平衡。正如我的同事 Robert Hart 此前所讨论的,它还发展出了一种极不寻常的权力结构。

Anthropic 于2023 年推出的长期利益信托(LTBT)及其创始人拥有控制性投票权,这意味着即使作为上市公司,他们也永远不会被股东投票赶下台。一种特殊的股票类别——T 类股——允许一小群受托人(即 LTBT 成员)“有权选择和罢免部分”Anthropic 董事会成员。他们不受典型股东压力的影响,理论上是对创始人的一种制衡,其使命是“在我们预计决策后果将远远超出 Anthropic 的关键时刻,平衡我们股东的财务利益与我们的公共利益目标”。

现实情况要复杂得多。例如,LTBT 在技术上选择 Anthropic 七人董事会中的四名成员,但这四人中有一人实际上需要得到 Anthropic 创始人的批准,这使得该信托无法直接获得多数控制权。此外,还有关于提名或罢免董事的规定:LTBT 必须提前 30 天通知公司的“提名与公司治理委员会”其决定,该委员会由三名成员组成:联合创始人 Daniela Amodei(委员会主席)、Netflix 联合创始人 Reed Hastings 和 Anthropic 投资者 Yasmin Razavi。

尽管LTBT成员在公司中“没有经济利益”,但也没有什么能阻止Anthropic假设性地挖走一名受托人,并支付高额薪酬让其为自己工作。Mariano-Florentino Cuéllar(前受托人)于8月加入Anthropic,担任其首席全球事务官,而OpenAI过去也曾聘请前董事会成员Fidji Simo担任公司内部的高管职位。非营利AI行业监督机构The Midas Project的创始人Tyler Johnston表示:“可以想象这样一种情形:如果某位受托人‘看起来有点过于激进之类的’,他们就可以向该受托人开出数百万美元的实际报酬,条件是退出该信托,这就是他们能够对其实施某种监督的一种方式。”

尽管LTBT被宣传为一种制衡Anthropic领导层的方式,但在一些外部观察人士看来,细则并不牢靠。科罗拉多大学法学院法学教授、公司治理专家Ann Lipton表示:“该信托既然在Anthropic中没有经济利益,理论上可以利用其在三比四董事中的权力让公司保持使命不变。人们可能会质疑这种情况发生的可能性有多大。”

此外,Lipton质疑,即使该信托拥有这样的权力,它是否具备足够的认知来判断何时应对公司的计划或产品踩刹车。已知的四名LTBT成员并非AI专家:他们包括前美联储主席Ben Bernanke、外交政策分析师Richard Fontaine、实验物理学家Christopher Stubbs,以及前GiveWell高管、LTBT主席Neil Buddy Shah。Lipton说:“我不认为受托人或他们任命的董事对AI和AI开发有足够的洞察力来做出这些选择。他们是非常有声望的人,但Ben Bernanke对AI了解多少呢?”

几位专家将Anthropic的LTBT比作Altman被罢免前的OpenAI非营利董事会。The Midas Project的Johnston表示:“长期利益信托的权力,或者说缺乏权力……在某些方面类似于OpenAI非营利组织所拥有的权力。”当然,该董事会罢免OpenAI CEO Sam Altman的决定最终在几天后导致Altman回归担任CEO,以及董事会多数成员辞职和被替换。

但这与LTBT之间有一个显著区别。在OpenAI重组之前,其非营利董事会有能力在认为必要时介入并指导公司的日常决策,即使在重组之后,他们仍保留在安全和安保事务上的这一能力,例如推迟或停止模型发布。Anthropic的Form S-1表明,LTBT的主要职责是任命(并可能罢免)某些董事会成员,并不具备上述任何一种权力。

相反,Anthropic的结构看起来更像硅谷青睐的那种以创始人为中心的设置——就像Mark Zuckerberg之于Meta,Elon Musk之于SpaceX。

Anthropic未回应置评请求。

未来生命研究所负责AI与国家安全事务的Hamza Chaudhry表示:“该信托和受托人都没有任何决策权……对日常决策也是如此。因此,我对LTBT在Anthropic上市后成为关键治理机制不抱太大希望。”

这位前 Anthropic 员工表示,Anthropic 的创始人基本上是唯一拥有真正决策权的人:“如果你能找到既认识创始人、了解长期利益信托、明白决策是如何做出的,又认为长期利益信托拥有任何实质性权力的人,我会感到惊讶,”他说。该员工还补充说,受托人既“缺乏提供有意义监督的能力”,又是被刻意挑选出来、不会惹是生非的。

作为一家上市公司,Anthropic 在获取资本方面将面临前所未有的更大压力,无论是通过推动更多收入还是融资。这意味着,正如多年来行业中的一个趋势,为昂贵的 AI 安全举措提供理由将可能变得更加困难,并且不可避免地会有更大压力要求加快产品发布和商业化。“这个信托和创始人加在一起,才是真正拥有治理权力的人,”Lipton 说。“所以你要么相信他们会适当地平衡社会利益,要么不相信。无论哪种情况,对他们任何社会性冲动的真正约束,都将是 Anthropic 需要钱这一事实。”

Anthropic 一直公开承认,它极度需要冷冰冰的现金,尤其是用于购买更多算力并加速其 AI 进展。“算力是公司面临的最深层商业困境,”Amodei 上周五在与摩根大通 CEO Jamie Dimon 的直播对话中说。“如果你买得太多,当然可能会在财务上过度扩张。如果你买得太少,那么你就无法支持面向客户的推理,更重要的是……你无法进行研发。”

Anthropic 的网站将其公司的存在理由概括为一件事:“将安全置于前沿的 AI 研究和产品。”但同样清楚的是,要让这一安全承诺有意义,Anthropic 需要大量资源来维持可行的业务。与其他实验室一样,它一直在追求递归自我改进,这是一个有争议且可能危险的行业里程碑,指的是能够自主改进并创造自身高级版本的 AI 系统。“你无法从第二名做到安全,”Anthropic 政策主管 Sarah Heck 在 9 月表示。

这一解释并未让所有人满意,包括一些 Anthropic 员工。Anthropic 的保障研究主管于 2 月离职,声称“世界正处于危险之中”;其研究人员之一 Jacob Coxon 在 9 月因声称Anthropic 和 OpenAI 都在“直奔自我改进的超级智能,拿我们的生命赌博”而登上头条;同月,一名 Anthropic 安全研究员离职,转投非营利第三方 AI 审计机构 METR,写道“AI 公司正朝着向社会施加前所未有的风险水平前进”,并且“虽然 Anthropic 尚未发生像 HuggingFace 攻击[由 OpenAI 智能体实施]那样严重的事件,但我认为部分原因是运气。”

周三,人工智能安全中心发布了一份新的声明,Hugging Face、哈佛大学等知名机构作为签署方,指控Anthropic“不是一家安全的人工智能公司”,并称其试图“以更大利益之名积聚权力”。声明称:“Anthropic警告说,递归自我改进的人工智能可能集中权力并脱离人类控制,然而它却争先恐后地率先构建这种技术。该公司利用安全品牌形象来吸引投资者、员工和公众——即便它已悄然削弱自身的安全承诺,并为自私自利的监管进行游说。”

这位Anthropic前员工表示,他起初对“Anthropic必须率先冲线才能实现安全结果”这一说法“深信不疑”,但后来逐渐幻灭,意识到这场争先竞赛并不“值得付出那样的代价”——即一家公司不应能够“单方面”决定推进RSI。(Amodei曾公开表示:“若不加约束,[RSI]可能超出我们理解和控制系统能力的速度,因此即便要推进,也必须极其谨慎。”)

“私营公司正在构建一种新型智能,其在地球上的力量和影响力有望超过人类,而它们在许多方面受到的监管却比流动餐车还少,这相当荒谬,”这位前员工说。

Anthropic的网站写道:“归根结底,使命是我们所有人在这里的原因。它赋予我们共同的目标,让我们能够迅速协同行动,而不是被相互竞争的目标拉向不同方向。它促成信任与合作,是我们决策的最终裁决者。”问题在于,当Anthropic面临前所未有的压力、需要为其约1.5万亿美元的完全稀释市值提供合理依据时,对其使命的解读是否会、以及如何发生转变。

关注本报道的话题和作者,即可在个性化首页信息流中看到更多类似内容,并接收邮件更新。

  • Hayden Field

来源:The Verge · AI · theverge.com