跳到正文
PyTorch 博客· Julian Ng-Thow-Hing, Siddartha Pothapragada, Stephen Jia, Digant Desai, Bilgin Cagatay·· 3 小时前精选AI 评分60

PyTorch 发布 ExecuTorch WebGPU:在浏览器中实现 GPU 加速推理

ExecuTorch WebGPU: PyTorch Models on the GPU, in the Browser

AI 导读

PyTorch 推出 ExecuTorch WebGPU 后端,支持在浏览器中通过 GPU 运行 PyTorch 模型,无需转换格式。模型通过 torch.export 导出为 .pte 文件,可在 Chrome、Safari 等 WebGPU 浏览器中运行,支持 Llama 3.2、Qwen3、Whisper 等多种模型。

推荐理由

原文给出了模型导出流程、性能对比和开放入口,读者可以据此判断它如何在浏览器中实现本地 GPU 推理。

来源:PyTorch 博客 · pytorch.org