跳到正文

技术方向

数据与训练 最新动态

大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

203 条精选近 30 天 193 条共收录 230 条

更新

精选归档 · 第 10 页

10月7日周三第 181–200 条
  1. HF Daily Papers41

    MIMESIS:面向交互式智能体训练的用户模拟器学习方法

    MIMESIS 论文提出一个面向交互式智能体训练的用户模拟器,其 9B 模型在 SOUL-Index 上达到 65.7,超过当时最强的前沿模型。相比 Claude-Opus-5,行为保真度提升 13.4 分,图灵距离降低 3.6 分。

    推荐理由:原文给出面向交互式智能体训练的用户模拟器构建方法与自蒸馏反馈方案,可作为搭建训练环境和密集反馈机制的参考。

  2. HF Daily Papers49

    TouchScale:发布 500 小时统一采集的人体视觉-触觉数据集

    TouchScale 是一个 500 小时的人体视觉-触觉数据集,采用单一可穿戴设备采集约 2K 个任务,同步记录自我中心 RGB-D 视频、腕部 RGB 视频和双手密集触觉信号。

    推荐理由:用统一采集的 500 小时视觉-触觉数据验证了规模化效果,并把接触预测和机器人操作两组数字同时给出。

  3. HF Daily Papers56

    miniTE:诊断并弥合原生 NVFP4 强化学习的执行差距

    miniTE 开源框架通过数值与系统优化,弥合原生 NVFP4(W4A4)强化学习中的训练与推理执行差距。相同权重和精度并不保证相同策略,不同引擎的数值执行差异可能造成训练与推理不匹配并使 RL 失稳;严格对齐设置可将 log-probability 差距降至约 1e-8。

    推荐理由:miniTE 从数值和系统两侧拆解原生 NVFP4 强化学习的训练与推理差异,并公开诊断工具、算子和训练配方,为低比特 RL 复现提供可操作材料。

10月6日周二
  1. HF Daily Papers60

    基础模型借鉴训练数据中的 token 线索即可获得推理能力

    该研究指出,在基础模型回复开头固定特定 token 线索,可使其在数学和编程推理任务上达到与 RL 训练版本相当的水平。回复前的 '. Okay' 线索将 Olmo-3-7B 的 MATH-500 pass@1 从 42% 提升至 78%,'Alright,' 线索将 Qwen3-14B 从 72% 提升至 87%。

    推荐理由:论文把基础模型的推理能力回溯到训练数据中的特定 token 线索,给出了一种不靠 RL 也能恢复推理表现的替代解释。

  2. HF Daily Papers35

    Naver AI 提出 NP-OPD:在 On-Policy 蒸馏中引入负向策略 Rollouts

    Naver AI 提出 NP-OPD 方法,在 on-policy 蒸馏(OPD)的 rollout 阶段额外引入一个能力较弱的负向策略作为负参考,与教师监督互补,为学生模型提供显式负向信号,同时保留原有的教师监督。

    推荐理由:原文给出在 On-Policy 蒸馏中引入负向策略 rollouts 的具体做法和跨规模实验结果,为改进学生模型蒸馏训练提供了可迁移的负向信号方案。

10月4日周日
  1. HF Daily Papers42

    论文提出 Belief-Trajectory Energy,量化大语言模型逐层预测轨迹

    论文提出 Belief-Trajectory Energy(BTE),通过量化大语言模型逐层预测修订来刻画输入对模型内部信念的影响,并以 Fisher-Rao 几何给出理论解释。

    推荐理由:原文给出了一个可在不同任务间迁移的层间轨迹度量框架,读者可以据此判断它在模型可解释性或数据筛选中的可用场景。

10月3日周六
  1. HF Daily Papers38

    DiffGate:面向 On-Policy 蒸馏的难度门控教师引导方法

    DiffGate 提出一种面向 on-policy 蒸馏的训练目标,把 GRPO 与按群体难度筛选的教师监督结合,仅对失败轨迹施加教师引导并做边界裁剪,避免极端师生差异主导优化。

    推荐理由:原文给出 DiffGate 目标的具体设计与量化收益,读者可据此判断在小模型后训练中引入难度门控教师引导的迁移价值。

  2. AWS Machine Learning Blog36

    在 Amazon SageMaker AI 上用多轮强化学习微调搜索 Agent

    AWS 团队在 Amazon SageMaker AI 上用多轮强化学习微调 Qwen3.6-27B 搜索 Agent,以 nDCG@10 作为轨迹级奖励。微调后 BrowseComp-Plus 的 nDCG@10 提升 23.7%、失败率从 22.89% 降至 0.68%,WixQA 与 Wands 也分别提升 18.4% 与 6%。

    推荐理由:给出在 Amazon SageMaker AI 上用多轮强化学习微调搜索 Agent 的方法、配置与结果,可作为多轮 Agent 训练的参考。

10月2日周五
  1. Hugging Face Blog42

    ServiceNow 发布 AutoSynthData:按模型能力缺口生成企业智能体训练数据

    ServiceNow CoreAI 在 Hugging Face Blog 发布 AutoSynthData 框架,通过分析目标模型在企业环境中的失败用例、由更强教师示范成功轨迹,自动生成带验证器的合成训练任务,按 Target 与 Multiply 两阶段扩增样本。

    推荐理由:以目标模型的失败用例驱动合成训练数据生成,并把任务难度逼近能力边界,为企业智能体后训练提供了一种可迁移思路。

10月1日周四
  1. Ai2 Blog51

    Ai2 发布开源 MoE 训练基础设施 Olmo-core 3,瞄准万亿参数规模

    Ai2 发布开源训练基础设施 Olmo-core 3,面向大模型 MoE 架构设计,可扩展到万亿参数规模。系统从 FSDP 切到 DDP,保留专家权重驻留在 GPU 上;在 8 张 NVIDIA B300 GPU 上,47B 参数 MoE 吞吐约 52,000 tokens/s/GPU,较旧实现约 2.7 倍。

    推荐理由:完整公开了面向万亿参数 MoE 的训练栈设计、关键优化和吞吐量基准数据,对自建大模型训练系统的团队有参考价值。

9月29日周二
  1. Hugging Face Blog64

    NVIDIA 发布开源表格基础模型 Kumo Tabular,登顶四大公开榜单

    NVIDIA 发布开源表格预测基础模型 Kumo Tabular,无需训练或特征工程即可在单次前向中对分类与回归任务预测新行标签。模型分 28M 到 215M 三种参数量,在 TabArena、BeyondArena、TALENT 和 ScoringBench 四个公开榜单上均排名第一。

    推荐理由:原文给出无需训练、单次前向即可预测的表格预测基础模型,在四个公开榜单上均居首位,可作为评估其相对现有表格方法的精度与效率参考。

9月28日周一
9月24日周四
  1. NVIDIA Blog53

    开放科学如何助力研究者为下一次大流行做准备:NVIDIA 与 DeepMind 等开放病毒蛋白复合物预测

    NVIDIA 与 Google DeepMind、EMBL-EBI 等机构在 AlphaFold Database 公开 2800 余种病毒的蛋白复合物 3D 结构预测数据,并开源了 BioNeMo Structure Prediction Pipeline。

    推荐理由:展示了 AlphaFold2 与 BioNeMo 推理栈在病毒蛋白复合物预测上的规模化能力,并标注具体数据集规模与新增蛋白相互作用比例。

9月16日周三
  1. Google Research41

    Google Research 提出 Retrieve-for-Train:用离线强化学习蒸馏扩散模型加速搜索推理

    Google Research 在 ICML 2026 论文中提出 Retrieve-for-Train 框架,先用离线强化学习让 Gemma3-4B 与 Qwen3-4B 生成满足多样性、对齐和 groundedness 的子查询,再蒸馏为一个 53.9M 参数的非自回归扩散模型。

    推荐理由:用离线强化学习把检索策略蒸馏成轻量扩散模型,给搜索类推理加速提供了一条不依赖增大推理预算的迁移路径。

  2. Google AI Blog44

    Google 博文综述 AI 在科学与社会领域的多项应用进展

    Google 官方博客发布 AI 应用综合进展,宣布其技术已支持 300 多种语言、覆盖全球 86% 人口,并集中展示多项新发布:AlphaGenome Atlas 开放 90 亿种单碱基基因变化预测。

    推荐理由:横向展示了 Google 当前把 AI 落到健康、灾害、教育和经济等领域的实际产品和合作案例,可作为参照看 AI 落地的成熟度边界。

9月3日周四
9月1日周二
  1. Google Research64

    TimesFM-3:Google Research发布支持多变量零样本预测的时序基础模型

    Google Research发布时序基础模型TimesFM-3,首次原生支持多变量零样本预测。模型拥有3.3亿参数,在超过1万亿时间点的真实与合成数据上预训练。

    推荐理由:对比了TimesFM-3与Chronos-2、Toto 2.0等模型在Gift-Eval等基准上的排名,读者可据此了解多变量时序基础模型的当前能力。

8月26日周三