Hugging Face Blog·· 11 天前AI 评分48
LFM2.5-VL-3B 的 DSpark 草稿模型发布:加速视觉-语言模型推理
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 导读
Hugging Face 发布了 LFM2.5-VL-3B 的 DSpark 草稿模型,推理速度在设备端最高提升 3.13 倍,在 H100 GPU 上最高提升 2.66 倍,参数量增加约 280M,仅占原模型的 8.9%。
来源:Hugging Face Blog · huggingface.co