arXiv cs.AI· Jingchu Gai, Adam Block, Andrej Risteski·· 11 小时前AI 评分55
研究用计算分离解释推理时脚手架的优势
Understanding the Benefits of Scaffolds through Computational Separations
AI 导读
论文研究推理时脚手架（harness）带来的能力提升能否通过蒸馏迁移到模型权重中，发现即使脚手架简单、模型较小，脚手架仍显著优于蒸馏出的学生模型。作者证明这一差距源于表示能力限制：脚手架可计算每次调用原语的 NL 完全闭包，而在 NL 不属于 TC^0 的猜想下，固定深度前向传播无法表示。
正文 · AI 翻译
摘要：推理时 harness，即多次调用模型并在调用之间保持状态的外部程序，可以显著提升模型能力。本文研究使用此类 harness 的收益，以及这些收益在多大程度上能通过训练内化。更准确地说，我们将 harness $\mathcal{A}$ 概念化为围绕基础模型 $M$ 的任意包装器，并尝试从 harness 的轨迹中蒸馏出一个学生模型。实验上我们发现，即使使用简单的脚手架和小模型，推理时 harness 也显著优于蒸馏出的学生模型。随后我们证明，这种差距源于一个根本性的表示能力限制：推理时 harness 可以计算其每次调用原语的闭包，即使该原语是平凡的 $\AC^0$ 查找，该闭包也是 $\NL$-完全的；而在 $\NL\not\subseteq\TC^0$ 这一被广泛相信的猜想下，任何固定深度的前向传播都无法表示它。我们的理论表明，要缩小这一差距，必须相对于手头任务扩展学生模型的表示能力，例如扩大模型、使任务更容易或延长其思维链，我们通过实验验证了这一点。最后，我们扩展到竞赛数学上的智能体 harness，同样的差距再次出现。总体而言，我们的结果表明，harness 赋予基础模型表示能力上的深刻增益，而在其轨迹上训练同类学生模型无法将这种增益转移回权重中。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.27157 [cs.LG] |
| （或 arXiv:2610.27157v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27157 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jingchu Gai [查看邮箱]
[v1]
2026年10月19日星期一 18:51:08 UTC（795 KB）
来源：arXiv cs.AI · arxiv.org