玩家用傲腾内存运行Kimi K3模型测试
热点事件持续更新
玩家用傲腾内存运行Kimi K3模型测试
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
一名玩家利用已停产的英特尔傲腾持久内存,在无显卡的计算机上成功运行了参数规模达2.8万亿的月之暗面Kimi K3模型,但推理速度缓慢。 测试中,玩家采用了1比特量化等技术,关闭DAX功能后,最高推理速度达到每秒1.5个词元。在另一项3比特量化测试中,生成5万个词元需要约18.5小时。 该玩家称,这只是一个实验性质的测试项目,词元输出速度并不流畅,未提及实际应用的可行性。
AI 根据报道生成 · 1 小时前更新
最新进展11月13日 15:14
不用显卡:玩家靠停产傲腾内存跑通 2.8 万亿参数 Kimi K3 AI 模型,每秒输出 1.5 词元报道时间线
沿着报道,了解事件的不同侧面。
11月13日
- IT之家不用显卡:玩家靠停产傲腾内存跑通 2.8 万亿参数 Kimi K3 AI 模型,每秒输出 1.5 词元
玩家使用已停产的英特尔傲腾持久内存 200 系列,在无显卡环境下成功运行 2.8 万亿参数的月之暗面 Kimi K3 模型,推理速度最高达每秒 1.5 词元。测试采用 1 比特量化和压缩模型数据,关闭 DAX 功能后速度提升;3 比特量化测试生成 5 万个词元需约 18.5 小时。该项目为实验性质,未提及实际应用可行性。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。