AI2分享基于预算与公平份额的GPU集群调度系统经验

AI2团队分享其用基于GPU时间预算、分层公平份额和时间切片合同的调度系统，替换了原有的基于优先级的调度器。 团队称，新系统实现了98%的资源占用率和90%以上的预算兑现率，并将调试任务的排队等待时间从2小时降至30秒。 团队表示，他们已逐步推出这一变更，并计划投资一个专用于数据准备任务的CPU集群，同时为这些工作负载构建可恢复的会话。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。