跳到正文

技术方向

数据与训练 最新动态

大模型是怎么练出来的：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

202 条精选近 30 天 192 条共收录 229 条

更新

精选归档 · 第 11 页

8月4日周二第 201–202 条
  1. Microsoft Research63

    Microsoft Research 开源可扩展 Agent 框架 Orchard

    Microsoft Research 开源了面向可扩展 Agent AI 的框架 Orchard，核心是基于 Kubernetes 的可复用环境服务 Orchard Env，并配套发布 Orchard-SWE、Orchard-GUI、Orchard-Claw 三个领域的训练配方。

    推荐理由：Orchard 将环境层与训练流程解耦并开源，约 30 亿参数的小模型在 SWE-bench Verified 上逼近十倍参数量的前沿系统，展示了开源 Agent 训练栈的可行路径。

6月29日周一
  1. Meta AI Blog51

    Brain2Qwerty v2：Meta 提出无需手术的脑电文本解码新方法

    Brain2Qwerty v2 是 Meta 的非侵入式脑到文本解码研究，用 MEG 设备记录 9 名志愿者共约 22000 句打字时的脑信号，经端到端大语言模型解码，词准确率达 61%，最佳参与者为 78%。团队开源了 v1 与 v2 训练代码，合作方 BCBL 同步发布 v1 数据集，并指出准确率随数据量对数线性提升。

    推荐理由：原文用 MEG 非侵入信号做端到端文本解码并给出具体词准确率，为评估非侵入方案相对侵入式脑机接口的差距提供了可比数字。