跳到正文
Hacker News· Avid_F·· 8 天前AI 评分22

Infinite Ascent 如何推进开放研究与智能

Infinite Ascent – Our approach to open research and intelligence

AI 导读

Infinite Ascent 公布其开放研究路线,主张在递归自我改进加速 AI 研究的同时尽可能公开研究成果。其自改进系统通过连续实验与改进循环迭代,优势随代际在数据、评测和基础设施上累积;公司称自身后训练工作建立在 DeepSeek、Qwen、Kimi 等中国实验室的开放权重发布之上。

正文 · AI 翻译

现代 AI 是在一个异常开放的研究环境中建立起来的。当今系统背后的许多理念最初都出现在公开论文中,往往还附有代码、模型权重、数据集,或足够让其他人在此基础上继续推进的技术细节。理念在大学、独立研究者和相互竞争的实验室之间快速流动。

Infinite Ascent 是这种文化的直接受益者。我们使用的模型、我们构建所依赖的基础设施,以及我们研究背后的许多方法之所以存在,是因为其他研究者选择将他们的工作公开。

这种文化在前沿领域已变得不那么常见。随着 AI 的经济和战略价值上升,领先开发者对披露内容变得更加挑剔。前沿系统越来越多地以产品形式发布,外界对其训练、数据、架构以及产生它们的研究知之甚少。这有可以理解的原因。前沿开发变得昂贵,竞争加剧,而能力日益强大的系统带来了真实的安全与安保考量。但结果是,AI 领域更多最重要的工作如今都在闭门之后进行。

与此同时,开放权重 AI 开发中近期的许多势头来自中国的实验室,包括 DeepSeek、Qwen 和 Kimi 背后的团队。他们的开放对我们而言并非抽象概念。我们自己的后训练工作就建立在这些实验室发布的开放权重之上,而能够检查、修改和训练这些模型,实质性地扩展了我们这样的团队可以开展的研究。Infinite Ascent 希望为同样的传统做出贡献。

AI 将加速研究

我们的工作聚焦于自我改进的 AI 系统,其中 AI 越来越多地开展有助于系统后续几代发展的研究。模型已经能够搜索大量信息、编写和测试代码、比较方法、分析结果、批判自己的工作,并与其他智能体协调。随着这些能力提升,AI 系统将能够自行完成日益完整的研究循环。

这改变了研究与开放之间的关系。随着研究循环缩短,持续产出改进的能力比任何单项发现都成为更持久的竞争优势。在 Infinite Ascent,我们的系统通过实验与改进的连续循环运行,每一代都建立在前一代的发现之上。

这种优势随时间累积,因为后续各代贡献出更好的数据、评估、基础设施,以及开展后续研究的过程本身。随着这些系统进步,早期的方法和发现可能不再具有那么高的商业敏感性,同时对其他研究领域仍然有用。这创造了机会,让我们可以分享更多工作,而不损害当前正在进行的研究。

在允许的范围内尽可能开放

我们的目标是让研究尽可能开放,同时认识到开放并非二元选择。AI 系统由许多组件构成,从它们使用的模型和数据,到它们运行所依赖的架构、工具和方法。每一个都可以独立分享,使研究得以公开,而无需发布整个系统。

我们的实时模拟交易代理投资组合就是一个例子。它们的决策和表现可以公开观察,即便其背后的架构和追踪记录仍属内部。随着我们研究的推进,我们打算在适当情况下公开更多底层方法和组件,包括技术报告、评估、代码和模型。

并非我们工作的每一部分都能公开。商业考量、专有数据以及安全或保密方面的顾虑,有时会要求限制访问或发布。这些限制应被逐一考量,而不应被当作反对开放的一般性论据。

在可能的情况下,出发点应当是考虑与工作相兼容的最开放发布形式,而不是假定研究必须保持私密。

开放智能

随着递归自我改进开始加速 AI 研究,它也可能将开发日益强大系统的能力集中于少数组织手中。能够持续改进自身系统的实验室可能会积累起复合性的技术优势,以及日益增长的经济和科学影响力,而更广泛的研究界则失去复现或在其发现基础上继续构建的能力。

正因如此,我们认为 AI 研究的下一阶段应当尽可能开放地进行,让发现能够在最初产出它们的机构之外被审视、质疑和在此基础上继续构建。智能的加速应当扩大进步的机会,而不是将其集中于少数实验室之中。

Infinite Ascent 所构建的许多东西之所以存在,是因为早先的研究者选择公开他们的工作。随着 AI 日益推动自身的改进,我们打算尽可能多地将由此产生的研究成果提供给全世界。

来源:Hacker News · infiniteascent.com