vLLM 发布 Qwen3.8-2.4T 的 PD 服务性能结果

vLLM 团队在 GB300 NVL72 集群上完成了 Qwen3.8-2.4T 模型的 PD 服务性能测试，实现了每 GPU 5000 总 token 吞吐量和每用户 180 生成 token/秒的低延迟表现，并公开了可复现的 srt-slurm 配置与调优流程。