Hugging Face Blog·· 6 天前AI 评分39
Ai2 如何实现高影响力的 GPU 集群调度
Impactful scheduling for GPU clusters
AI 导读
Ai2 用 GPU 时间预算、分层公平份额分配和时间切片契约取代了基于优先级的调度器,把各研究项目 GPU 时间多少的争论从逐案运营任务转为透明的行政预算流程。Ai2 管理数千张 NVIDIA H100、B200 和 B300 GPU,服务约 150 名内部研究员,未满足的 GPU 需求随时达到可用量的 2-3 倍。旧的优先级调度导致了 GPU "占坑"、优先级通胀等"公地悲剧"问题。
来源:Hugging Face Blog · huggingface.co