AI2 团队如何通过预算与公平调度优化 GPU 集群资源分配

AI2 团队为解决 GPU 资源争抢问题，设计了基于 GPU 时间预算、分层公平分配和时间切片合同的调度系统，实现了 98% 的资源占用率和 90% 以上的预算兑现率，同时将调试任务的排队等待时间从 2 小时降至 30 秒。