前 Anthropic 研究员 Coxon：Anthropic 已能用“原始所需算力的一小部分”重新训练 Mythos

曾将AI恐惧带入主流视野的前OpenAI和Anthropic研究员Jacob Coxon表示，Anthropic IPO路演中的一张幻灯片是他离职的主要原因。

Coxon表示，Anthropic为IPO路演发布的一张幻灯片是他仅约四个月后便离开该公司的关键原因。该图表展示了Anthropic随时间推移训练其模型所需的算力规模，且坐标轴经过压缩，以至于10倍和100倍的增长看起来几乎没有差别。

然而曲线仍然陡峭攀升，Coxon表示这表明算法效率不仅在快速提升，而且还在加速提升。“这是一张疯狂的图表，我很惊讶他们把它公开了，”他写道。

Coxon认为，Anthropic的Mythos模型——今年春季一次重大的能力跃升——正是这一加速趋势的一部分。“Mythos并非一次性的偏离，而是超指数曲线上的一个点。他们现在已经可以用最初所需算力的一小部分重新训练Mythos，”他写道。

他表示，算法改进“即将实现自动化”，这也是他希望明年暂停前沿模型开发、以便竞争对手追赶的原因。他写道，暂停将“使人类水平智能商品化。这只会损害OpenAI和Anthropic。”

Coxon此前曾在OpenAI训练AI模型，最近则在Anthropic工作。他在9月因公开警告先进AI系统的风险而广受关注，业内其他主要人物也表达了类似担忧。他们的担忧之一是，先进的、可自我改进的AI可能会失控。

没有炒作的AI新闻——由人类精选

订阅THE DECODER，享受无广告阅读、每周AI新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。