量子位· 十三·· 5 小时前精选AI 评分73
面壁智能开源MiniCPM-V 4.7:35B多模态模型在iPhone断网状态下流畅运行
iPhone断网跑35B多模态!国产开源新模型,只占3G内存
AI 导读
面壁智能与OpenBMB联合开源MiniCPM-V 4.7,包含35B-A3B和1B两个版本,其中35B-A3B为首个能在端侧流畅运行的开源MoE模型,仅占3G内存即可在iPhone 17 Pro Max上实现每秒13个token以上解码速度。
推荐理由
原文展示了模型在端侧设备上的实际运行效果和优化技术,读者可以据此判断其在本地部署和性能平衡方面的实用价值。
来源:量子位 · qbitai.com