跳到正文
原文
AWS Machine Learning Blog· Mona Mona·· 6 天前AI 评分39

Amazon SageMaker AI 上的 Mixture-of-Experts 内核优化实践

Mixture-of-Experts kernel engineering on Amazon SageMaker AI

AI 导读

AWS 团队针对 Amazon SageMaker AI 上的 Mixture-of-Experts 大语言模型推理进行内核优化。

来源:AWS Machine Learning Blog · aws.amazon.com