跳到正文
量子位· 十三·· 5 小时前精选AI 评分73

面壁智能开源MiniCPM-V 4.7:35B多模态模型在iPhone断网状态下流畅运行

iPhone断网跑35B多模态!国产开源新模型,只占3G内存

AI 导读

面壁智能与OpenBMB联合开源MiniCPM-V 4.7,包含35B-A3B和1B两个版本,其中35B-A3B为首个能在端侧流畅运行的开源MoE模型,仅占3G内存即可在iPhone 17 Pro Max上实现每秒13个token以上解码速度。

推荐理由

原文展示了模型在端侧设备上的实际运行效果和优化技术,读者可以据此判断其在本地部署和性能平衡方面的实用价值。

来源:量子位 · qbitai.com