IT之家·· 4 小时前AI 评分31
百度天池 1024 卡超节点发布:可支撑 5 万亿参数模型训练,明年上市
AI 导读
百度天池 1024 卡超节点发布,可支撑 5 万亿参数大模型训练,训练性能对比上一代提升 2.5 倍,推理性能提升 3 倍。该节点配套 G3.5 KV Cache 显存加速柜,长上下文推理性能提升 2 倍,多轮对话缓存命中场景 TTFT 降低 90%,整体吞吐提升 7 倍。百度此前宣布天池千卡级超节点将于 2028 年上市,如今节奏提前一年。
来源:IT之家 · ithome.com