跳到正文
原文
Ai2 Blog·· 1 天前精选AI 评分40

Ai2 改造 GPU 集群调度:用预算与公平份额替代优先级

Impactful scheduling for GPU clusters

AI 导读

Ai2 用 GPU 时间预算、分层公平份额和时间片合同替换了原有优先级调度器,覆盖约 150 名研究人员使用的数千张 H100、B200、B300 GPU 集群。30 天测试期内团队实际获得的 GPU 小时数达到应得的 98%,15 个团队中 13 个达到 95% 以上,集群占用率维持在 98%,调试任务 p90 排队等待时间从 2 小时降到 30 秒,需要人工介入的维修工单减少 74%。

推荐理由

原文给出了把 GPU 调度从优先级改为预算加公平份额的具体设计与实测结果,集群运维者可据此判断能否迁移到自己的环境。

来源:Ai2 Blog · allenai.org