跳到正文

内容类型

论文研究 最新动态

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展。

545 条精选近 30 天 519 条共收录 646 条

更新

精选归档 · 第 28 页

8月6日周四第 541–545 条
  1. Google DeepMind68

    Google DeepMind 开源 WeatherNext 2 与 WeatherNext Cyclones,气旋预报提前量提升超一天

    Google DeepMind 在 Nature 论文中宣布其 WeatherNext AI 模型在气旋路径、强度和风结构预报上取得 state-of-the-art 准确度,其三天预报质量相当于此前模型的两天预报,平均带来超过 24 小时的预报提前量,约等于过去二十年气象领域的十年进步。

    推荐理由:WeatherNext Cyclones 把气旋路径和强度的预报提前量提升超过一天,并已开源代码与权重,可被气象机构直接用于业务预报。

8月4日周二
  1. Microsoft Research63

    Microsoft Research 开源可扩展 Agent 框架 Orchard

    Microsoft Research 开源了面向可扩展 Agent AI 的框架 Orchard,核心是基于 Kubernetes 的可复用环境服务 Orchard Env,并配套发布 Orchard-SWE、Orchard-GUI、Orchard-Claw 三个领域的训练配方。

    推荐理由:Orchard 将环境层与训练流程解耦并开源,约 30 亿参数的小模型在 SWE-bench Verified 上逼近十倍参数量的前沿系统,展示了开源 Agent 训练栈的可行路径。

6月29日周一
  1. Meta AI Blog51

    Brain2Qwerty v2:Meta 提出无需手术的脑电文本解码新方法

    Brain2Qwerty v2 是 Meta 的非侵入式脑到文本解码研究,用 MEG 设备记录 9 名志愿者共约 22000 句打字时的脑信号,经端到端大语言模型解码,词准确率达 61%,最佳参与者为 78%。团队开源了 v1 与 v2 训练代码,合作方 BCBL 同步发布 v1 数据集,并指出准确率随数据量对数线性提升。

    推荐理由:原文用 MEG 非侵入信号做端到端文本解码并给出具体词准确率,为评估非侵入方案相对侵入式脑机接口的差距提供了可比数字。

  2. Ai2 Blog44

    Ai2 提出 DiScoFormer,单个 Transformer 同时估计密度与 score

    Ai2 提出 DiScoFormer 模型,可在一次前向传播中同时估计样本所在分布的密度与 score,无需按分布重训。模型用交叉注意力加双输出头,并通过一致性损失在推理时适配分布外输入,训练数据来自随机采样的高斯混合模型。

    推荐理由:把密度与 score 估计合入同一个无需重训的 Transformer,并用与 KDE 的对比给出高维场景下的具体提升幅度。

6月25日周四
  1. Ai2 Blog45

    混合模型在哪些 token 上预测更好?Ai2 对 Olmo 3 与 Olmo Hybrid 的逐 token 损失分析

    Ai2 对其 7B 模型 Olmo 3(Transformer)与 Olmo Hybrid 做了逐 token 对比,发现混合架构在表义类词(名词、动词、形容词等)上的损失比 Transformer 低约 0.04。

    推荐理由:用逐 token 的损失对比揭示了混合架构在表义词类上的具体优势以及在复制场景下的失效,为架构评估提供了比平均损失更细的维度。