AlphaNIST:从二元任务奖励中涌现的装配技能
AlphaNIST
AlphaNIST 让机器人通过二元任务奖励和大量多样化经验自主学习装配,而非人工预设每一步动作。单一策略在 NIST Assembly Task Board #1 的全部二十项装配任务上训练,零件最小仅 4 mm,训练起始状态涵盖散件、手中抓取和模拟中缓存的部分装配体。该方法采用成功引导采样,优先练习成功率约一半的起始状态,同时保留每个状态的机会。
装配挑战
NIST 板包含二十项装配任务,零件小至 4 mm。装配一个零件可能需要多次改变抓取方式和方向。间隙紧凑,几乎没有容错空间:螺母一旦倾斜就可能卡住或乱扣。
面对多个零件,机器人还必须选择装配顺序。已安装的部件可能会挡住夹爪的下一步动作。
机器人可以很有创造力——只要我们给它们空间。
试图规定每一个动作,就意味着要预判机器人在接触和阻碍变化时该如何应对。两指夹爪可能还需要与人类手部自然动作截然不同的解决方案。
也许答案就是不再告诉机器人我们认为任务该怎么做,而是让它自己学会如何达成目标。我们给它一个二元的任务成功奖励,并通过大量多样化的经验来训练它。这样机器人就有空间去发现我们可能从未想过要教的解决方案。
经验多样性:
异构资产与初始状态
一个策略在二十种异构装配任务上训练,起始状态包括散件、手中抓取,以及缓存在仿真中的部分装配体。
接近完成的状态让机器人先练习完成装配,再学会解决整个任务。缓存提供的是起始状态,而非演示。
成功引导采样
Beta 采样偏向于策略约有一半概率能解决的起始状态,同时让每个状态都有机会被选中。在一个状态上的进展可能使另一个状态变得可解;其采样权重随后会随新的结果而变化。
单组件装配实验
涌现的装配行为
引用
@misc{zhang2026alphanistemergentassemblyskills,
title={AlphaNIST: Emergent Assembly Skills from Binary Task Rewards},
author={Octi Zhang and Iretiayo Akinola and Rosario Scalise and
Mateo Guaman Castro and Patrick Yin and Tobias Widmer and
Miles Macklin and Chris Amevor and Dylan Turpin and
Dirk Van Gelder and Jan Carius and Ankur Handa and
Gavriel State and Yunrong Guo and Yashraj Narang},
year={2026},
eprint={2610.13354},
archivePrefix={arXiv},
primaryClass={cs.AI},
url={https://arxiv.org/abs/2610.13354},
}来源:Hacker News · alpha-nist.github.io