跳到正文
arXiv cs.CL· Roberto I. Ono Filho·· 12 小时前AI 评分31

办公规模验证搜索中的算子包、提议器强度与构造族平台期

Operator Packages, Proposer Strength, and Construction-Family Plateaus in Office-Scale Verified Search

AI 导读

一项 FunSearch 风格验证搜索研究在笔记本上用 30B 本地模型、每次运行 120-600 个验证样本,测试三种算子包对提议器侧的影响。完整 2^3 因子实验显示组合算子缩小了种子到记录差距的 +0.196(名义合并 p=0.023),排斥算子使 9 个问题中 8 个的构造哈希多样性提升(单侧 p=0.0039)。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:已验证搜索——语言模型提出程序、硬性评估器为其打分、选择保留最优者——近来推动了数学记录的刷新;但对提出方各组件的受控消融实验仍然少见。我们在办公规模上(笔记本电脑上的 30B 本地模型,每次运行 120–600 个已验证样本)为一个最小化的 FunSearch 式循环配备了三个算子包:模型编写并携带的示意性笔记本(而非逐字精英)、一个具名障碍,以及对已发现构造的行为性排斥。在来自公共仓库的九个构造问题上,完整的 2^3 析因设计(两次重复)在名义两阶段分析中支持主对比:该组合缩小了更多从种子到记录的差距(+0.196;名义合并 p=0.023,阶段组合 p~0.08;每题效应中位数 +0.045)。排斥在九个问题中的八个上提升了构造哈希多样性(单侧 p=0.0039;部分属于操纵检验)。析因分析未发现正的记忆×排斥交互作用(界限约为 ±0.04);增益可加性分解,且记忆+排斥是唯一从未崩溃的实验组(18 次运行中 0 次),与完整组合相差在 0.025 以内。在相同循环下,前沿提出方在数十个样本内达到本地模型数百个样本仍未达到的水平;在单次范围界定运行中,其增益无需这些算子即可出现。搜索在旗舰问题上缩小了 85–92% 的差距后停滞,后续分析将该平台期解读为分辨率极限:参考值是一个连续极限,而无辅助的长期运行最终结果已带有其族的结构。在已注册的族提示测试中,以文字命名的族被采纳并失败;以代码形式给出时,它被优化,但我们最好的有限网格编码仍低于无辅助达到的平台期。我们发布该测试框架、每个候选以及带日期的预注册。
评论: 论文第 4 版(arXiv v2):增加了关于墙的注释(Zenodo v3),以及对照记录审计后的更正(列于论文中)。14 页。代码:此 https URL。数据:Zenodo https://doi.org/10.5281/zenodo.22714138、https://doi.org/10.5281/zenodo.22713807 和 https://doi.org/10.5281/zenodo.23163299%3B 本版本亦见 https://doi.org/10.5281/zenodo.23163677
主题: 计算与语言(cs.CL);人工智能(cs.AI);机器学习(cs.LG);软件工程(cs.SE)
引用为: arXiv:2609.29636 [cs.CL]
  (或本版本引用 arXiv:2609.29636v2 [cs.CL])
  https://doi.org/10.48550/arXiv.2609.29636

arXiv 颁发的 DOI(通过 DataCite)

提交历史

来自:Roberto I Ono Filho [查看邮箱]
[v1] 2026 年 8 月 28 日星期五 21:48:30 UTC(179 KB)
[v2] 2026 年 10 月 22 日星期四 10:43:35 UTC(183 KB)

来源:arXiv cs.CL · arxiv.org