Scaling in Games：多元虚拟世界具身智能体持续预训练的扩展研究

一项针对多元虚拟世界具身智能的研究发现，在持续预训练中扩大数据规模、多样性和模型容量可改善学习，但对遥远世界泛化有限，仍需超越模仿的更丰富训练。研究比较120种配置，覆盖0.8B至27B的4个模型规模、50至1,600 hours的6档数据预算和5种数据混合，还拟合了验证损失与三因素之间的经验扩展规律。