AWS Machine Learning Blog· Ashvin Nihalani·· 24 天前AI 评分33
在 Amazon EKS 上使用 EFA 和 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
在 Amazon EKS 上使用 EFA 和 DeepEP 扩展 MoE 强化学习训练，吞吐量提升 40%。该架构面向 RLHF、GRPO 等大规模 RL 工作负载，通过 EFA 加速跨节点通信，并用 DeepEP 优化专家并行（EP）的 all-to-all token 路由。
来源：AWS Machine Learning Blog · aws.amazon.com