微软发布多芯片封装 Maia 300 推理加速器

微软发布其自研的 Maia 300 推理加速器，采用四计算芯片组和 HBM4 内存，优化数据流架构以减少数据移动，预计每兆瓦处理的 token 数比主流 GPU 系统高 40%。该芯片将部署于液冷机架中，每架含 96 个加速器，计划明年投入生产。