PyTorch 2.15为Mac MPS后端引入FP8与解码加速
热点事件持续更新
PyTorch 2.15为Mac MPS后端引入FP8与解码加速
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
PyTorch 2.15在Apple Silicon Mac的MPS后端引入了FP8精度支持，并显著提升了大型语言模型的解码速度。 根据Hugging Face的发布说明，MoE模型的解码速度提升了5至6.5倍，例如Qwen3.6-35B-A3B模型在M3 Ultra上的生成速度从9.4 tokens/s提升至61.3 tokens/s。 使用这些新功能需要Apple Silicon Mac、macOS 15或更高版本以及Python 3.11或更高版本。
AI 根据报道生成 · 44 分钟前更新
最新进展10月20日 08:00
PyTorch 2.15 发布：MPS 支持 FP8 和更快的 LLM 解码报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- Hugging Face Blog精选PyTorch 2.15 发布：MPS 支持 FP8 和更快的 LLM 解码
PyTorch 2.15 在 MPS 后端引入 FP8 精度支持，提升 Mac 上模型运行效率。MoE 模型解码速度提升 5–6.5×，Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升至 61.3 tokens/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。