跳到正文
arXiv cs.AI· Jiayu Zhu, Luyuan Li, Yuyuan Shi, Hanyi Dong·· 3 天前AI 评分22

Anchor-and-Harvest Curriculum:面向 Craftax 的全无掩码非 LLM 课程训练系统

Anchor-and-Harvest Curriculum: A Fully Unmasked Non-LLM Curriculum for Craftax

AI 导读

研究者提出 Anchor-and-Harvest Curriculum(AHC),一种面向 Craftax-Full 的规则化训练系统,不使用 LLM 推理且保留全部 43 个动作。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:我们提出了 Anchor-and-Harvest Curriculum(AHC),一个面向 Craftax-Full 的、基于领域知识、基于规则的训练系统。AHC 结合了成就导向任务、采集的初始状态进展、难度自适应、有界选择以及原始任务练习。它不使用任何 LLM 推理,并保持全部 43 个动作可用。在 2,005,401,600 次 PPO rollout 转移时,三个主要 AHC 运行获得原生任务回报 $46.70\pm0.57$(样本标准差),而具有相同学生架构和评估协议的 fresh native PPO-GTrXL 为 $41.91\pm1.01$。评估对每个模型的 1024 个固定世界各使用十次随机 rollout。另一组三个 AHC 运行达到 $46.08\pm1.23$。两个单组件消融保持相似的平均回报,而同时冻结难度并移除继承进展则得到 $45.14\pm2.79$。全 67 项成就画像显示,大部分回报差异来自 Intermediate 成就,而最深层的成就仍未解决。使用 14B 教师进行的 Skill-Preflight 诊断展示了先决条件和楼层访问约束如何限制练习。AHC 和三个 14B 诊断配置达到的总体回报接近所报告的 80B DiCode 均值 45.88,并低于 235B 均值 48.55。这些结果表明,在 Craftax-Full 上,一个不使用 LLM 推理的显式课程可以达到与所报告的 LLM 生成课程相当的回报,且无需动作掩码。
评论: 37 页,7 幅图。所有作者作为第一作者贡献相同
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.15328 [cs.LG]
  (或 arXiv:2610.15328v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.15328

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Yuyuan Shi [查看电子邮件]
[v1] 2026年10月11日星期日 04:07:53 UTC(193 KB)

来源:arXiv cs.AI · arxiv.org