跳到正文
热点事件持续更新

面壁智能称端侧多模态模型速度提升,预测手机将运行GPT-6级能力

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

面壁智能联席首席科学家姚远称,团队通过前瞻专家调度(LES)等技术,已使MiniCPM-V 4.7 35B-A3B模型在手机端实现30 Token/s以上的生成速度,内存占用约3GB,且模型精度损失可忽略。 姚远预测,两年内GPT-6级别的模型能力将可在手机上运行。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. 智东西精选
    面壁智能姚远:端侧多模态模型实现30 Token/s生成速度,预测两年内GPT-6级能力可跑在手机上

    面壁智能联席首席科学家姚远在技术交流活动中透露,团队通过前瞻专家调度(LES)等技术,将MiniCPM-V 4.7 35B-A3B在手机上的生成速度提升至30 Token/s以上,内存占用控制在约3GB,模型精度损失可忽略。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。