Ai2 用时间预算制替代优先级调度分配 GPU 集群
热点事件历史事件
Ai2 用时间预算制替代优先级调度分配 GPU 集群
1 篇报道1 个报道来源6 天前更新
先了解这件事
AI 综述
Ai2 称，其已用 GPU 时间预算、分层公平份额分配和时间切片契约取代基于优先级的调度器，把各研究项目 GPU 时间多少的争论从逐案运营任务转为透明的行政预算流程。 背景是 Ai2 管理数千张 NVIDIA H100、B200 和 B300 GPU，服务约 150 名内部研究员，未满足的 GPU 需求随时可达可用量的 2-3 倍；旧的优先级调度曾导致 GPU "占坑"、优先级通胀等"公地悲剧"问题。 具体规则上，采用时间切片的会话受 8 小时保护运行时上限约束，超过该时长且超出自身分配的会话可被抢占。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 23:20
Ai2 如何实现高影响力的 GPU 集群调度报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- Hugging Face BlogAi2 如何实现高影响力的 GPU 集群调度
Ai2 用 GPU 时间预算、分层公平份额分配和时间切片契约取代了基于优先级的调度器，把各研究项目 GPU 时间多少的争论从逐案运营任务转为透明的行政预算流程。Ai2 管理数千张 NVIDIA H100、B200 和 B300 GPU，服务约 150 名内部研究员，未满足的 GPU 需求随时达到可用量的 2-3 倍。旧的优先级调度导致了 GPU "占坑"、优先级通胀等"公地悲剧"问题。