Hacker News · AI· thesnarkitecht·· 5 小时前AI 评分35
EXO labs 如何在本地硬件上实现前沿 AI 模型的可用速度？
Ask HN: Can anyone run frontier AI models at usable speeds?
AI 导读
EXO labs 八个月前承诺在本地硬件上实现前沿 AI 模型的快速推理，但使用 Kimi K2.6 通过 hermes 推理仍需一分钟半。开发者仍在寻找能真正替代云服务、降低费用的硬件方案。目前未明确提及具体可用硬件或性能优化成果。
来源：Hacker News · AI · news.ycombinator.com