Reddit用户35美元旧矿机运行AI模型

一名Reddit用户以约35美元购得包含九块旧显卡的加密挖矿设备，成功在本地运行了350亿参数的AI模型，速度超过每秒30个token。 该用户称其在俄罗斯的电费免费且整体低廉，但系统因CPU性能弱、内存少以及PCIe接口限制，性能并不均衡。

AI 根据报道生成 · 58 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。