跳到正文
TechCrunch · AI· Sarah Perez·· 11 小时前AI 评分67

Anthropic 登陆纳斯达克,CEO Dario Amodei 承诺按安全节奏推进 AI 开发

At Nasdaq opening bell, Anthropic CEO recommits to pacing AI development

AI 导读

Anthropic 周四在纳斯达克上市,CEO Dario Amodei 在敲钟前演讲中承诺,公司将按安全需要放慢 AI 系统的训练与部署,不向商业或政治压力妥协,确保 AI 始终处于人类控制之下。

正文 · AI 翻译

周四,Anthropic 在华尔街首次亮相,完成了史上规模最大的 IPO,CEO Dario Amodei 重申了公司负责任地开发 AI 的承诺。在纳斯达克开盘钟声敲响前的演讲中,Amodei 誓言这家 AI 公司不会屈从于商业或政治压力,并将“始终处于人类控制之下”。

这位 CEO 照着打印稿宣读演讲,开场先讲述了 Anthropic 的起源——旨在打造强大的技术来帮助人类。他说,这一初衷源于他的父亲因一种疾病去世,而仅仅几年后这种病就变得可以治愈。

他承认,尽管人类智慧已让鼠疫、天花和小儿麻痹症在世界大部分地区成为历史,但在其他疾病领域,仍然科学家太少、时间太少,难以取得进展。他说,AI 可以通过与人类协同合作来推动医学进步,从而在这方面提供帮助。

Amodei 以一段强调 AI 潜在救命应用的故事开场,这很能说明问题,因为他曾多次警告过快推进这项技术的风险。去年 9 月,Amodei 因提出一项控制 AI 发展节奏的计划而登上头条,该计划包括与其他领先公司协调安全标准,并引入第三方组织的评估人员来核实各公司是否遵守其安全承诺。

OpenAI CEO Sam Altman、Google DeepMind 负责人 Demis Hassabis 以及 xAI 所有者 Elon Musk 表示他们认同 Amodei 的立场,尽管 concrete 承诺寥寥无几。

在今早的演讲中,Amodei 再次强调了推进 AI 技术的必要性以及在此过程中所需的安全保障。他提到 AI 落入不良行为者手中——无论是个人还是民族国家——所带来的“非常真实的风险”,以及“经济混乱”和“失去对 AI 系统的控制”等潜在可能。

他指出,Anthropic 认为只要 safeguards 到位,这些风险是可以避免的。Amodei 表示,公司将继续投入 AI 对齐和测试工作,并开发理解 AI 行为的新方法,以便使其始终处于人类控制之下。

“还有很多工作要做,最困难的安全工作还在前面,”他说。“公司非凡的人才让我们得以构建最强大的 AI 系统,现在需要将这些人才更多地投入到反复核查这些 AI 系统是否安全、是否始终处于人类控制之下。”

“并且明确地说,我们将控制 AI 系统的训练和部署节奏,必要时不惜花费足够长的时间,以确保它们安全并始终处于人类控制之下,”Amodei 总结道。

他的妹妹、Anthropic 联合创始人 Daniela Amodei 周四在接受 CNBC 采访时 表达了同样的观点,指出虽然风险真实存在,但 AI 的前景同样“不可思议”。

“我们创立公司的理念正是,减轻这些风险是我们的职责,我认为迄今为止我们在这方面做得非常出色。显然我们还有更多工作要做,但我们坚定致力于安全,”她补充道。

以下是 Dario Amodei 开场演讲全文:

谢谢你,Daniela。我和我的联合创始人创办 Anthropic,是因为我们相信,我们这个时代最强大的技术应当为人类的福祉而构建。Daniela 和我因一种疾病失去了父亲,而仅仅几年后,这种疾病就变得可以治愈了。我以生物学开启了我的职业生涯,希望能帮助未来的疗法更早到来。在实验室里,我看到了科学家们在试图理解疾病和开发新疗法时所面对的庞大而错综复杂的难题。许多能够穿透这片荆棘的科学工具——基因编辑工具、基因合成工具、用光控制脑细胞的工具——最初都只是纯粹的构想。换句话说,它们源自思考,源自智能。

人类智能已经让鼠疫、天花和小儿麻痹症等疾病在世界大部分地区成为历史。但在其他疾病上的进展对许多患者及其家庭来说一直太过缓慢。从一个伟大的想法到一种疗法,可能需要数十年。从最初发现 DNA 中一种奇特的重复模式,到首个使用 CRISPR 治疗某种疾病的疗法获批,花了许多年。自然界充满了这类模式,但我们拥有的智能太少,无法破译其中的大多数。科学家太少,时间太[少]。现在我们可以构建这种智能。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理,生物学和医学许多领域的科学家都发现,Claude 能帮助他们在短短几年前所需时间的一小部分内完成研究。我相信,足够强大的 AI 与人类协同工作,可以将一个世纪的科学与医学进步压缩到十年。

我不想操之过急。在现阶段,我们拥有的只是早期成果。实验和临床试验仍需时间,尽管它们涉及缓慢而笨重的过程,但我相信这些过程可以被 AI 大幅加速。我们希望未来有更少的家庭因为几年之差而错失一种疗法。医学只是一个格外鲜明的例子,但 Claude 还有许多其他应用。我们的客户——世界上最有雄心的公司、非营利组织和个人——已经在运用我们构建的智能来促进经济增长、帮助人们摆脱贫困、保护民主和自由社会,甚至让 DMV 这样的日常服务运转得更好。我们很自豪能与他们并肩工作,我对我们未来能共同取得的成就极为乐观。

与此同时,我们始终坦诚,这项技术确实存在非常真实的风险。这些风险包括个人或民族国家对技术的滥用、经济颠覆,以及失去对 AI 系统的控制。我们讨论这些风险,并非因为我们认为它们不可避免、而我们仍要一意孤行,而是因为我们认为它们可以避免,并且我们能够避免它们。能否避免这些风险,取决于构建 AI 的人所做的选择。如果我们对安全漠不关心,AI 的发展走向将与我们对安全极度执着时截然不同。而对安全和公共利益的执着,从一开始就根植于 Anthropic 的基因之中——从针对生物和网络风险的防护措施,到对齐训练与测试,再到像 X 光一样透视我们的模型内部,Anthropic 开创了理解和引导 AI 行为、使其处于人类控制之下的方法。仍有大量工作要做,最艰难的安全工作还在前方;公司非凡的人才让我们得以构建能力最强的 AI 系统,而这些人才需要比以往更多地投入到反复再三核查这些 AI 系统是否安全、是否始终处于人类控制之下。

并且明确声明:我们将把控 AI 系统的训练和部署节奏,必要时不惜花费足够长的时间,以确保它们安全并始终处于人类控制之下;我们不会屈从于商业或政治压力。今天让公司处于更有利的财务地位,而这只会坚定我们做正确之事的决心。如果我们能证明,在安全方面做出正确选择的同时仍能打造一家极其成功的公司,那么我们行业中的其他人将受到鼓舞,效仿而行。我们称之为一场向顶峰的竞赛。

当这场向顶峰的竞赛正常运转时,哪家公司拥有最好的模型并不重要。每个人都是赢家,因为每个人都在安全地构建。当由领跑者驱动时,这场向顶峰的竞赛效果最佳,我们完全希望并期待成为领跑者。但目标是让整个行业变得更好,无论 Anthropic 在任何特定时刻是赢是输。机器智能的出现是人类历史上最重要的时刻之一,我们拥有难得的机会将其塑造得更好。谢谢。

当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Sarah 自 2011 年 8 月起担任 TechCrunch 的记者。在加入该公司之前,她曾在 ReadWriteWeb 工作三年多。在从事记者工作之前,Sarah 曾在多个行业从事 IT 工作,包括银行、零售和软件。

您可以通过发送电子邮件至 [email protected] 或在 Signal 上通过加密消息发送至 sarahperez.01 来联系 Sarah 或核实其联系信息。

查看简介

来源:TechCrunch · AI · techcrunch.com