跳到正文
arXiv cs.AI· Luke J. O'Connor·· 2 天前AI 评分40

语言模型智能体的自编程执行(SPE)与 Spell 语言

Self-Programmed Execution for Language-Model Agents

AI 导读

论文提出自编程执行(SPE),让模型补全本身充当编排程序,harness 只负责求值而不施加固定编排策略。为此作者设计了可自我编辑并重新求值的 Lisp 方言 Spell,使模型调用等副作用表达式在重求值时不重放。未经 SPE 或 Spell 训练的前沿模型可在上下文内学会 Spell 并完成挑战性智能体任务,代码已开源,论文被 NeurIPS 2026 接收。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:语言模型智能体的核心是一个编排器程序,负责连续轮次之间的状态转换。在现有系统中,该程序在 harness 中实现。本文提出自编程执行(SPE),其中模型补全本身就是编排器程序,harness 评估该程序但不施加任何固定的编排策略。形式上,智能体机器的 SPE 状态是模型补全可以加载任意后继状态直至嵌入的状态,而 SPE 状态的实例是将模型补全作为程序执行的状态。在实践中,该程序需要一种具有特殊特性的语言,因为其源代码同时充当模型上下文窗口的内容。因此,我引入了 Spell,一种 Lisp 方言,其中程序可以编辑并重新求值自身,并且像模型调用这样的有副作用表达式被结构化,使得重新求值编辑后的程序不会重放其副作用。对未针对 SPE 或 Spell 训练的现有模型进行的实验表明,前沿模型可以在上下文中学习 Spell 并完成具有挑战性的智能体任务。这些结果展示了 LM 如何能够在没有任何固定编排策略的情况下充当智能体,并提出了一个问题:针对自编程执行训练的模型可能会学到什么样的自编排策略。代码可在 此 https URL 获取。
评论: Camera-ready 版本;已被 NeurIPS 2026 接收。77 页,包括附录和检查清单
主题: 人工智能(cs.AI)
引用为: arXiv:2605.06898 [cs.AI]
  (或 arXiv:2605.06898v2 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2605.06898

arXiv 颁发的 DOI 通过 DataCite

提交历史

来自:Luke O'Connor [查看电子邮件]
[v1] 2026年5月7日星期四 19:58:28 UTC(290 KB)
[v2] 2026年10月15日星期四 15:37:58 UTC(326 KB)

来源:arXiv cs.AI · arxiv.org