arXiv cs.AI· Hongyao Tang, Yi Ma, Pengyi Li, Yifu Yuan·· 13 小时前AI 评分31
广义智能体迭代 GAI:用一个形式化框架统一迭代策略改进与递归自我改进
Generalized Agent Iteration: One Formal Framework for Iterative Policy Improvement and Recursive Self-Improvement
AI 导读
论文提出 Generalized Agent Iteration(GAI)形式化框架,将迭代策略改进与递归自我改进(RSI)描述为同一学习范式的两种情形,学习过程建模为智能体评估与智能体改进的循环。
正文 · AI 翻译
摘要:当我们谈论递归自我改进(RSI)时,我们谈论的是一种现象、一种机制,还是一种前景?在迈向自主且不断演化的智能的过程中,RSI 在多个尺度上被主张,但目前尚不存在能够形式化描述这些新兴实例的统一框架。其在经典领域的对应物——迭代策略改进——以广义策略迭代(GPI)为特征,这是一个适用范围广泛、理论性质已被充分理解的框架,但仅限于更新原则和评估基准位于智能体之外的情形。在本文中,我们提出广义智能体迭代(GAI),这是一个形式化框架,将迭代策略改进和 RSI 描述为同一学习范式的两种情形。GAI 将智能体定义为系统内可修改组件的配置,并将学习过程建模为智能体评估与智能体改进的循环。随后,两个关键维度可区分这些实例,尤其是近期工作中自我认定为 RSI 的系统:改进机制是否属于智能体的一部分,以及衡量其所依据的标准是否根植于其外部。前一个维度划定了 GPI 与 RSI 之间的边界,后一个维度则决定了一个系统的极性是锚定的、目标漂移的,还是完全自指的。此外,我们利用这些坐标将现有系统置于相同的两个轴上,并使递归自我改进的缺陷能够逐条陈述。我们将本文视为探索 RSI 形式化刻画的第一步,该刻画建立在经典理论之上,使现有系统具有可比性,并为分析和设计新系统提供有原则的基础。
| 评论: | 版本 2 |
| 主题: | 人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2609.13406 [cs.AI] |
| (或 arXiv:2609.13406v2 [cs.AI] 为本版本) | |
| https://doi.org/10.48550/arXiv.2609.13406 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Hongyao Tang [查看邮箱]
[v1]
2026年9月11日星期五 18:15:09 UTC(39 KB)
[v2]
2026年10月29日星期四 05:38:29 UTC(47 KB)
来源:arXiv cs.AI · arxiv.org