跳到正文
原文
Hugging Face Blog·· 10 天前AI 评分36

Ai2 如何用 GPU 时间预算让 GPU 集群调度更具影响力

Impactful scheduling for GPU clusters

AI 导读

Ai2 用 GPU 时间预算、分层公平份额分配和时间分片合约替代基于优先级的调度器,让高影响力研究优先获得资源。系统在管理数千张 NVIDIA H100、B200 和 B300 GPU(集群 88–1024 张)时曾出现 GPU 占座与优先级膨胀问题。新方案让管理层在负载到来前按战略重要性分配 GPU 时间,把分配流程从逐案运营转为行政预算。

来源:Hugging Face Blog · huggingface.co