律师用八块二手V100搭建私有AI服务器

一位律师在Reddit上分享了他使用八块二手Nvidia Tesla V100 GPU搭建私有AI服务器的经验，以运行DeepSeek V4.1 Flash模型，实现了最高215 tokens/秒的代码生成速度。 他称，搭建过程中遇到了系统内存未纠正的ECC错误，通过将内存频率从DDR4-3200降至DDR4-2666解决了问题，并将每张显卡的功耗限制在150W。 他表示，下一步计划是让服务器能同时处理两到三个请求，该功能已在测试系统上构建并验证，但尚未部署到服务器上。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。