跳到正文
原文
Hacker News· jasonjmcghee·· 3 小时前精选AI 评分37

AlphaNIST:仅用二元奖励涌现出机器人装配技能

AlphaNIST

AI 导读

AlphaNIST 用二元任务奖励和大规模多样化仿真经验,训练同一策略在 NIST 装配任务板 #1 上完成全部 20 项异构装配任务。方法核心是 Success-guided sampling(SGS),根据当前成功率动态调整起始状态的采样权重,覆盖松散零件、手内抓取和部分装配体等异构起点。

推荐理由

原文把预设动作的传统装配方法与靠二元奖励和多样化经验自主学习的方案做了对比,读者可以据此理解 SGS 采样策略在其中的作用。

正文 · AI 翻译

装配挑战

A rotating studio view of the NIST board, with yellow movable parts shown fully assembled.

NIST 装配任务板 #1,展示完整组装后的状态。

这个 NIST 板包含二十个装配任务,最小的零件仅 4 mm。安装一个零件可能需要多次更换抓握方式和姿态。间隙紧凑,几乎没有容错空间:倾斜的螺母会卡死或滑丝。

涉及多个零件时,机器人还需要选择装配顺序。已安装的部件可能会挡住夹爪的下一步动作。

机器人也能发挥创造力——前提是我们给它们留出空间。

试图规定每一个动作,意味着要去预判随着接触与障碍变化机器人应如何响应。二指夹爪所需的解决方案,也可能与人类手部凭直觉做出的方案截然不同。

或许答案在于——不再告诉机器人我们认为应当如何完成这项任务,而是让它自己去学会如何达成。我们为成功提供二元任务奖励,并通过大量多样化经验进行训练。这样一来,机器人就有空间去发现我们可能从未想到要教的解法。

经验多样性:
异构资产与初始状态

一条策略在二十种异构装配任务上进行训练,起点包括散落零件、已在手中的抓握件,以及仿真中缓存的部分装配成品。

接近完成的起点让机器人能够先练习收尾装配,再去攻克整个任务。缓存提供的是起始状态,而非示范动作。

多样化训练起点示例

成功引导采样

Beta 采样倾向于策略成功率约为一半的起始状态,同时给每个状态保留机会。在某一状态上取得的进展,可能让另一状态变得可解;其采样权重也会随新的结果而变化。

Success-guided sampling: starting states are selected, data flows into the policy, and success estimates update the sampling weights.

随着策略学习,不同起始状态所获得的训练量也不同。SGS 项目 ↗

单部件装配实验

一条策略完成全部二十个装配任务,每次运行只装配一个部件。

涌现性装配行为

引用

@misc{zhang2026alphanistemergentassemblyskills,
  title={AlphaNIST: Emergent Assembly Skills from Binary Task Rewards},
  author={Octi Zhang and Iretiayo Akinola and Rosario Scalise and
          Mateo Guaman Castro and Patrick Yin and Tobias Widmer and
          Miles Macklin and Chris Amevor and Dylan Turpin and
          Dirk Van Gelder and Jan Carius and Ankur Handa and
          Gavriel State and Yunrong Guo and Yashraj Narang},
  year={2026},
  eprint={2610.13354},
  archivePrefix={arXiv},
  primaryClass={cs.AI},
  url={https://arxiv.org/abs/2610.13354},
}

来源:Hacker News · alpha-nist.github.io