vLLM 新增 NVIDIA 硬件视频解码支持
vLLM 新增对 NVIDIA 硬件视频解码的支持,通过 PyNvVideoCodec 实现视频解码从 CPU 向 GPU 的迁移,显著提升多 GPU 节点上的视频字幕生成吞吐量。在 8xH100 配置下,GPU 解码性能超过 CPU 解码一倍以上。支持 Qwen/Qwen3-VL-8B-Instruct 等轻量多模态模型,适用于自动驾驶等场景的视频描述任务。
推荐理由:原文给出了硬件视频解码支持的接入方式和性能提升数据,读者可据此评估其对多GPU视频任务的优化效果。