智东西· 程茜·· 14 小时前同新闻AI 评分66
面壁智能发布MiniCPM-V4.7端侧多模态大模型，35B参数仅需3GB内存运行
你的手机能跑35B大模型了！只要3GB内存，还无损
AI 导读
面壁智能发布新一代端侧多模态大模型MiniCPM-V4.7，包含35B-A3B与1B两个版本。35B-A3B为首款MoE模型，总参数350亿，每次推理激活30亿，仅需约3GB内存即可在手机端流畅运行，实测在iPhone 17 Pro Max上解码速度超13 tokens/s。
同一新闻，精选展示《面壁智能开源MiniCPM-V 4.7：35B多模态模型在iPhone断网状态下流畅运行》
来源：智东西 · zhidx.com