跳到正文
cnBeta· ugmbbc·· 2 小时前AI 评分44

高通CEO暗示到2028年或将出现能够运行1000亿参数的大型语言模型

AI 导读

高通CEO阿蒙在采访中提到,2028年可能出现能运行1000亿参数的大型语言模型,但未明确具体企业或产品路线图。运行此类模型需至少50GB内存(4位量化),而当前手机内存普遍为12GB或16GB,且内存成本已显著上涨。高通和苹果正在探索芯片架构与封装技术,但模型压缩、推理优化及内存管理仍是实现该愿景的关键挑战。

来源:cnBeta · cnbeta.com.tw