热点事件观察中
Allen AI 发布 Olmo-core 3 开源 MoE 训练框架
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
2026年10月1日,Allen AI 发布了 Olmo-core 3,这是一套专为扩展混合专家(MoE)模型训练而重新设计的开源基础设施。该框架旨在支持万亿参数规模的模型并保持计算效率。其核心改进在于将底层并行策略从完全分片数据并行(FSDP)切换为基于分布式数据并行(DDP)的系统。根据初步测试结果,这一架构调整使得470亿参数 MoE 模型的吞吐量提升了约2.7倍,显著优化了大规模 MoE 模型的训练性能。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月1日
- Hugging Face BlogAllen AI 发布 Olmo-core 3:面向大规模 MoE 的开源训练基础设施
Allen AI 发布 Olmo-core 3,这是一套专为扩展混合专家(MoE)模型训练而重新设计的开源基础设施,旨在支持万亿参数规模并保持计算效率。该框架将底层并行策略从完全分片数据并行(FSDP)切换为基于分布式数据并行(DDP)的系统,在初步测试中使 470 亿参数 MoE 模型的吞吐量提升了约 2.7 倍。
本事件热度走势
当前热度 3·可比范围峰值 6(10月2日 20:00)·近 24 小时可比范围变化 -49%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。