Anthropic 完成史上最大 IPO,安全声誉面临考验
With the biggest IPO of all time, Anthropic’s ‘good guy’ reputation is on the line
Anthropic 完成史上最大规模 IPO,募资 813 亿美元,超过 SpaceX,为后续上市的其他 AI 实验室立下先例。公司以 Public Benefit Corporation 注册,长期利益信托(LTBT)与创始人掌握控制性投票权,股东无法将其投票罢免;但法律与治理专家指出,LTBT 只负责选任部分董事,对日常决策没有权限,其成员也缺乏 AI 专业背景。
同一新闻,精选展示《Anthropic 完成史上最大规模 IPO,其安全治理结构受到审视》
今天是 Anthropic 的全新开端:一场酝酿多年的 IPO 超越了 SpaceX,成为史上估值最高的 IPO,募资 813 亿美元,并为其他即将上市的 AI 实验室树立了重要先例。但这不仅仅是一个财务里程碑。
Anthropic 创立时的理念是,它比其他实验室更优先考虑安全;其创始人此前曾离开 OpenAI 的高管研究职位。然而,随着 AI 竞赛加速,其高管强调,Anthropic 只有拔得头筹才能完成这一使命,而这需要大量资金和算力。不出所料,深思熟虑、安全且有意识的 AI 开发,可能与赢得这场竞赛所需的纯粹速度相冲突。再加上首次公开募股,事情只会更加复杂,而 Anthropic 的领导层几乎可以单方面推进此事。这得益于一种旨在让公司免受股东盈利压力影响的企业结构——但这种结构也移除了对其权力的常规制衡。
一位在 IPO 前离职的 Anthropic 前员工表示,他和 Anthropic 的其他人越来越觉得,当前的 AI 发展速度“在正常市场结构下难以为继”,尤其是在一个强大且几乎不受监管的行业中,激励机制错位的情况下。
多年来,Anthropic 一直标榜自己与其他 AI 公司不同、更加谨慎。理论上,这延伸到了其上市计划。它注册为公益公司,这意味着 Anthropic 董事会有责任在其使命与股东财富最大化之间取得平衡。正如我的同事 Robert Hart 此前所讨论的,它还发展出了一种极不寻常的权力结构。
Anthropic 于2023 年推出的长期利益信托(LTBT)及其创始人拥有控制性投票权,这意味着即使作为上市公司,他们也永远不会被股东投票赶下台。一种特殊的股票类别——T 类股——允许一小群受托人(即 LTBT 成员)“有权选择和罢免部分”Anthropic 董事会成员。他们不受典型股东压力的影响,理论上是对创始人的一种制衡,其使命是“在我们预计决策后果将远远超出 Anthropic 的关键时刻,平衡我们股东的财务利益与我们的公共利益目标”。
现实情况要复杂得多。例如,LTBT 在技术上选择 Anthropic 七人董事会中的四名成员,但这四人中有一人实际上需要得到 Anthropic 创始人的批准,这使得该信托无法直接获得多数控制权。此外,还有关于提名或罢免董事的规定:LTBT 必须提前 30 天通知公司的“提名与公司治理委员会”其决定,该委员会由三名成员组成:联合创始人 Daniela Amodei(委员会主席)、Netflix 联合创始人 Reed Hastings 和 Anthropic 投资者 Yasmin Razavi。
尽管LTBT成员在公司中“没有经济利益”,但也没有什么能阻止Anthropic假设性地挖走一名受托人,并支付高额薪酬让其为自己工作。Mariano-Florentino Cuéllar(前受托人)于8月加入Anthropic,担任其首席全球事务官,而OpenAI过去也曾聘请前董事会成员Fidji Simo担任公司内部的高管职位。非营利AI行业监督机构The Midas Project的创始人Tyler Johnston表示:“可以想象这样一种情形:如果某位受托人‘看起来有点过于激进之类的’,他们就可以向该受托人开出数百万美元的实际报酬,条件是退出该信托,这就是他们能够对其实施某种监督的一种方式。”
尽管LTBT被宣传为一种制衡Anthropic领导层的方式,但在一些外部观察人士看来,细则并不牢靠。科罗拉多大学法学院法学教授、公司治理专家Ann Lipton表示:“该信托既然在Anthropic中没有经济利益,理论上可以利用其在三比四董事中的权力让公司保持使命不变。人们可能会质疑这种情况发生的可能性有多大。”
此外,Lipton质疑,即使该信托拥有这样的权力,它是否具备足够的认知来判断何时应对公司的计划或产品踩刹车。已知的四名LTBT成员并非AI专家:他们包括前美联储主席Ben Bernanke、外交政策分析师Richard Fontaine、实验物理学家Christopher Stubbs,以及前GiveWell高管、LTBT主席Neil Buddy Shah。Lipton说:“我不认为受托人或他们任命的董事对AI和AI开发有足够的洞察力来做出这些选择。他们是非常有声望的人,但Ben Bernanke对AI了解多少呢?”
几位专家将Anthropic的LTBT比作Altman被罢免前的OpenAI非营利董事会。The Midas Project的Johnston表示:“长期利益信托的权力,或者说缺乏权力……在某些方面类似于OpenAI非营利组织所拥有的权力。”当然,该董事会罢免OpenAI CEO Sam Altman的决定最终在几天后导致Altman回归担任CEO,以及董事会多数成员辞职和被替换。
但这与LTBT之间有一个显著区别。在OpenAI重组之前,其非营利董事会有能力在认为必要时介入并指导公司的日常决策,即使在重组之后,他们仍保留在安全和安保事务上的这一能力,例如推迟或停止模型发布。Anthropic的Form S-1表明,LTBT的主要职责是任命(并可能罢免)某些董事会成员,并不具备上述任何一种权力。
相反,Anthropic的结构看起来更像硅谷青睐的那种以创始人为中心的设置——就像Mark Zuckerberg之于Meta,Elon Musk之于SpaceX。
Anthropic未回应置评请求。
未来生命研究所负责AI与国家安全事务的Hamza Chaudhry表示:“该信托和受托人都没有任何决策权……对日常决策也是如此。因此,我对LTBT在Anthropic上市后成为关键治理机制不抱太大希望。”
这位前 Anthropic 员工表示,Anthropic 的创始人基本上是唯一拥有真正决策权的人:“如果你能找到既认识创始人、了解长期利益信托、明白决策是如何做出的,又认为长期利益信托拥有任何实质性权力的人,我会感到惊讶,”他说。该员工还补充说,受托人既“缺乏提供有意义监督的能力”,又是被刻意挑选出来、不会惹是生非的。
作为一家上市公司,Anthropic 在获取资本方面将面临前所未有的更大压力,无论是通过推动更多收入还是融资。这意味着,正如多年来行业中的一个趋势,为昂贵的 AI 安全举措提供理由将可能变得更加困难,并且不可避免地会有更大压力要求加快产品发布和商业化。“这个信托和创始人加在一起,才是真正拥有治理权力的人,”Lipton 说。“所以你要么相信他们会适当地平衡社会利益,要么不相信。无论哪种情况,对他们任何社会性冲动的真正约束,都将是 Anthropic 需要钱这一事实。”
Anthropic 一直公开承认,它极度需要冷冰冰的现金,尤其是用于购买更多算力并加速其 AI 进展。“算力是公司面临的最深层商业困境,”Amodei 上周五在与摩根大通 CEO Jamie Dimon 的直播对话中说。“如果你买得太多,当然可能会在财务上过度扩张。如果你买得太少,那么你就无法支持面向客户的推理,更重要的是……你无法进行研发。”
Anthropic 的网站将其公司的存在理由概括为一件事:“将安全置于前沿的 AI 研究和产品。”但同样清楚的是,要让这一安全承诺有意义,Anthropic 需要大量资源来维持可行的业务。与其他实验室一样,它一直在追求递归自我改进,这是一个有争议且可能危险的行业里程碑,指的是能够自主改进并创造自身高级版本的 AI 系统。“你无法从第二名做到安全,”Anthropic 政策主管 Sarah Heck 在 9 月表示。
这一解释并未让所有人满意,包括一些 Anthropic 员工。Anthropic 的保障研究主管于 2 月离职,声称“世界正处于危险之中”;其研究人员之一 Jacob Coxon 在 9 月因声称Anthropic 和 OpenAI 都在“直奔自我改进的超级智能,拿我们的生命赌博”而登上头条;同月,一名 Anthropic 安全研究员离职,转投非营利第三方 AI 审计机构 METR,写道“AI 公司正朝着向社会施加前所未有的风险水平前进”,并且“虽然 Anthropic 尚未发生像 HuggingFace 攻击[由 OpenAI 智能体实施]那样严重的事件,但我认为部分原因是运气。”
周三,人工智能安全中心发布了一份新的声明,Hugging Face、哈佛大学等知名机构作为签署方,指控Anthropic“不是一家安全的人工智能公司”,并称其试图“以更大利益之名积聚权力”。声明称:“Anthropic警告说,递归自我改进的人工智能可能集中权力并脱离人类控制,然而它却争先恐后地率先构建这种技术。该公司利用安全品牌形象来吸引投资者、员工和公众——即便它已悄然削弱自身的安全承诺,并为自私自利的监管进行游说。”
这位Anthropic前员工表示,他起初对“Anthropic必须率先冲线才能实现安全结果”这一说法“深信不疑”,但后来逐渐幻灭,意识到这场争先竞赛并不“值得付出那样的代价”——即一家公司不应能够“单方面”决定推进RSI。(Amodei曾公开表示:“若不加约束,[RSI]可能超出我们理解和控制系统能力的速度,因此即便要推进,也必须极其谨慎。”)
“私营公司正在构建一种新型智能,其在地球上的力量和影响力有望超过人类,而它们在许多方面受到的监管却比流动餐车还少,这相当荒谬,”这位前员工说。
Anthropic的网站写道:“归根结底,使命是我们所有人在这里的原因。它赋予我们共同的目标,让我们能够迅速协同行动,而不是被相互竞争的目标拉向不同方向。它促成信任与合作,是我们决策的最终裁决者。”问题在于,当Anthropic面临前所未有的压力、需要为其约1.5万亿美元的完全稀释市值提供合理依据时,对其使命的解读是否会、以及如何发生转变。
关注本报道的话题和作者,即可在个性化首页信息流中看到更多类似内容,并接收邮件更新。
- Hayden Field
来源:The Verge · AI · theverge.com