InfoQ · AI/ML· Steef-Jan Wiggers·· 1 小时前精选AI 评分62
微软Azure Maia 300将用于多吉瓦级推理部署,能效指标引发行业讨论
Microsoft Commits Maia to Multi-Gigawatt Inference, and Its Efficiency Metric Draws Questions
AI 导读
微软宣布Azure Maia 300将于2027年开始生产部署,作为其产品与服务的主要推理系统,支持长上下文、高内存负载和解码密集型任务。Maia 300采用TSMC N2P工艺,单加速器配备8个HBM4堆栈,提供288 GB内存和18 TB/s带宽,950瓦TDP。
推荐理由
原文披露了Maia 300的架构细节和能效目标,读者可据此评估其在长上下文推理场景下的潜在优势与局限。
来源:InfoQ · AI/ML · infoq.com