Hacker News · AI· theanonymousone·· 1 小时前精选AI 评分69
NVIDIA 发布 Nemotron 3.5 Bolt 74B 模型,支持 24 GB 内存运行 740 亿参数模型
Nvidia's Nemotron 3.5 Bolt 74B Brings 74B AI Models to Local Hardware
AI 导读
NVIDIA 发布 Nemotron 3.5 Bolt 74B 模型,采用 740 亿参数的混合专家架构与 2 bit 量化,目标内存占用约 24 GB,适用于本地 AI 智能体。
推荐理由
原文说明了模型参数规模、量化方式和本地部署目标,读者可据此判断其在本地硬件上的可行性与适用场景。
来源:Hacker News · AI · maraissoftware.co.za