热点事件历史事件
AllenAI 开源 Olmo-core 3 MoE 训练框架
1 篇报道1 个报道来源8 天前更新
先了解这件事
AI 综述
AllenAI 发布开源 MoE 训练框架 Olmo-core 3，将训练基础设施扩展到万亿参数规模，采用完全开源方式，研究者和开发者可借此训练自己的 MoE，并适配不同硬件、实验路由与并行等系统设计。 需要指出的是，该框架在万亿参数规模的验证为短时容量测试，采用随机路由衡量系统性能而非模型质量，并非完整训练运行，因此展示的是 Olmo-core 3 可触及的规模上限，而非持续训练下的实际表现。
AI 根据报道生成 · 1 小时前更新
最新进展10月1日 23:01
Olmo-core 3 发布：面向大型 MoE 的开源可扩展训练基础设施报道时间线
沿着报道，了解事件的不同侧面。
10月1日
- Hugging Face Blog精选Olmo-core 3 发布：面向大型 MoE 的开源可扩展训练基础设施
Allenai 发布开源训练框架 Olmo-core 3，将 MoE 训练基础设施扩展到万亿参数规模。