Hacker News · AI· josip208·· 1 天前AI 评分46
AI 模型参数规模扩大,自建基础设施难度增加
AI Is Getting Better. Running It Yourself Is Getting Harder
AI 导读
AI 模型参数规模扩大,自建基础设施难度增加。DeepSeek-V3 拥有 6710 亿总参数,每生成一个 token 激活 370 亿参数;Meta 的 Llama 4 Maverick 拥有 4000 亿总参数,每 token 激活 170 亿参数。模型的总参数决定了存储需求,而激活参数影响计算效率,这对个人和小团队自建部署构成挑战。
来源:Hacker News · AI · operator0x.com