PyTorch 2.15 大幅提升 Mac MPS 性能
Hugging Face PyTorch 团队介绍 PyTorch 2.15 中 MPS 后端的改进：新增 FP8 支持，MoE 模型解码速度提升 5–6.5 倍，视频 VAE 解码内存占用从 270 GiB 降至约 8 GiB。在 Mac 上本地跑模型和训练的用户受益明显。
要点速览
- 01MPS 新增 FP8（float8_e4m3fn）张量，存储占用为 BF16 的一半，可用 F.scaled_mm 直接在 GPU 上计算
- 02MoE 模型解码提速 5–6.5 倍：Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 提升到 61.3 tokens/s
- 03单行线性层使用专用矩阵向量内核提速 1.23 倍，词表 softmax 快约 8 倍
- 04Wan2.2 视频 VAE 解码内存峰值从 270 GiB 降到约 8 GiB，并修复 Qwen-Image-2.1 VAE 编码损坏图像的问题
- 05新要求：macOS 15 及以上、Python 3.11 及以上
背景
Hugging Face 的 PyTorch 团队持续为 Mac 的 MPS 后端做贡献，目标是让 Mac 成为运行和训练 PyTorch 模型的一等平台，此前 MPS 存在算子不支持、性能瓶颈和内存异常增长等问题。
影响
在 Apple 芯片 Mac 上用 transformers、diffusers 或 ComfyUI 本地跑模型和训练的用户，可获得更快的 LLM 解码速度和更低的视频生成内存占用。
原文来自 Hugging Face 博客，版权归原作者所有。中文标题和摘要由 AI 根据原文自动生成，可能有误，请以原文为准。