热点事件历史事件
AllenAI 开源 Olmo-core 3 MoE 训练框架
1 篇报道1 个报道来源18 天前更新
先了解这件事
AI 综述
2026 年 10 月 1 日，Allenai 在 Hugging Face Blog 发布开源 MoE 训练框架 Olmo-core 3，面向万亿参数规模的 MoE 训练场景。该框架将训练栈从此前使用的 FSDP 切换到 DDP，并新增对 MXFP8 精度的支持。在架构层面，Olmo-core 3 将专家池从 8 扩展到 128 时，激活参数规模维持在约 3.2B。性能方面，47B MoE 模型在 8 块 NVIDIA B300 上的吞吐量约为此前 FSDP 实现的 2.7 倍。
AI 根据报道生成 · 18 天前更新
最新进展10月1日 23:01
47B MoE 在 8 块 B300 上吞吐量达此前 FSDP 实现的约 2.7 倍。报道时间线
沿着报道，了解事件的不同侧面。
10月1日
- Hugging Face BlogAllenai 开源 Olmo-core 3：面向万亿参数 MoE 的训练基础设施
Allenai 发布开源训练框架 Olmo-core 3，将 MoE 训练栈从 FSDP 切换到 DDP，并支持 MXFP8 精度。该系统在专家池从 8 扩展到 128 时激活参数维持在约 3.2B，47B MoE 在 8 块 NVIDIA B300 上的吞吐量约为此前 FSDP 实现的 2.7×。