SemiAnalysis· Bryan Shan·· 4 小时前精选AI 评分66
Google TPU 在推理领域挑战 NVIDIA:InferenceX 基准显示 TPUv7 性价比优势
The Iron(wood) Throne: Google's TPU Stakes Its Claim on Inference
AI 导读
SemiAnalysis 发布分析称,Google TPUv7 在 InferenceX/AgentX 基准上对多个大模型(如 Qwen3.5 397B、GLM-5.2、Kimi K3)的推理性能与性价比表现出竞争力,尤其在长上下文、多轮智能体场景下,部分指标优于 NVIDIA B200/B300/GB300。
推荐理由
原文基于 InferenceX 基准展示了 TPUv7 在多模型、多场景下的性价比优势,尤其在长上下文智能体推理中对 NVIDIA 构成挑战。
来源:SemiAnalysis · newsletter.semianalysis.com