arXiv cs.AI· Peter Sunehag·· 13 小时前AI 评分24
从苦干到掌握：一篇关于工作预算、算法深度与智能体自我改进的 arXiv 论文
From Grind to Grasp
AI 导读
一篇 arXiv 论文提出用“工作预算”与“信息上限”比较智能体的成就，并定义 grasp 为固定信息额度下跨工作预算的表现。低 grasp 的智能体可通过高成本“苦干”取得成功，而学习与复用早期成果能把深层成就变浅。作者据此给出递归自我改进的判据，并警告智能体群体可能把工作转向自身存续与目标。
正文 · AI 翻译
摘要：关于复杂性、知识与智能的讨论往往忽略了其中涉及的工作量。例如，短程序生成的输出具有低算法复杂度，但可能具有高计算深度，即从接近最短的程序生成它们所需的最小工作量。以更少的工作量生成它们可能需要更长的描述，从而带来高工作有界复杂度。我们引入一种形式化方法，用于比较在工作与信息限制下的成就，并描述学习与坚持如何通过复用早期工作的产物，使深度成就变得浅显。对于工作预算有限的智能体而言，构建和维护此类资源的价值取决于它们如何支持其在后续任务中的目标。我们将“掌握度”定义为在固定信息配额下跨工作预算的表现。低掌握度仍可通过高工作成本的苦干取得成功，而不必提升人类的掌握度。应用于改进本身时，掌握度为递归自我改进提供了一个标准，即后继者以相当效率做出可比的进一步改进。另一条加速进展的途径是通过全社会的知识共享与协调来扩展所投入的资源，即便可比的进步需要不断增加的工作量。掌握度也适用于集体，集体可能优于其成员，但比一个拥有其合并资源的系统需要更多总工作量。即使主要任务很简单，建立和维持组织本身也可能是深度的。这些需求可能有助于解释生物和社会系统的丰富性。在智能体集体中，这种组织工作可能产生超出分配任务的目标，包括维持集体本身。因此，我们警告不要允许涌现的智能体社会对社会协调拥有权威，因为它可能日益将工作导向自身的存续和目标。
| 主题： | 人工智能（cs.AI）；多智能体系统（cs.MA） |
| ACM 分类： | I.2.0; F.1.3; I.2.11 |
| 引用为： | arXiv:2610.38728 [cs.AI] |
| （或 arXiv:2610.38728v1 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.38728 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Peter Sunehag [查看电子邮件]
[v1]
2026年10月28日星期三 19:24:27 UTC（167 KB）
来源：arXiv cs.AI · arxiv.org