跳到正文
InfoQ · AI/ML· Steef-Jan Wiggers·· 1 小时前精选AI 评分62

微软Azure Maia 300将用于多吉瓦级推理部署,能效指标引发行业讨论

Microsoft Commits Maia to Multi-Gigawatt Inference, and Its Efficiency Metric Draws Questions

AI 导读

微软宣布Azure Maia 300将于2027年开始生产部署,作为其产品与服务的主要推理系统,支持长上下文、高内存负载和解码密集型任务。Maia 300采用TSMC N2P工艺,单加速器配备8个HBM4堆栈,提供288 GB内存和18 TB/s带宽,950瓦TDP。

推荐理由

原文披露了Maia 300的架构细节和能效目标,读者可据此评估其在长上下文推理场景下的潜在优势与局限。

来源:InfoQ · AI/ML · infoq.com