PyTorch 2.15 让 Mac 跑模型快 6 倍

一台 M3 Ultra 的 Mac 上，Qwen3.6-35B-A3B 这个混合专家模型，解码速度从每秒 9.4 个 token 涨到 61.3 个——这是 PyTorch 2.15 带来的变化，由 Hugging Face 的 PyTorch 团队公布。

对想在本地跑大模型的人，这数字很有吸引力。但"快 6 倍"这个说法，得先看清它指的是哪一类模型。

一、发生了什么

据 Hugging Face 团队博客介绍，PyTorch 2.15 对苹果 MPS 后端做了一次大更新。最亮眼的是 FP8 支持：用 float8_e4m3fn 存权重，占用只有 BF16 的一半，矩阵乘法可以直接在 GPU 上做。

语言模型解码整体提速。混合专家模型解码比 2.14 快 5 到 6.5 倍，靠的是原生分组矩阵乘、专门的解码路径、更少的 GPU 和 CPU 同步，以及更快的路由。在 M3 Ultra 加编译优化下，Qwen3.6-35B-A3B 从 9.4 涨到 61.3 token/s，LFM2.5-8B-A1B 从 23.6 涨到 123.6。

词表 softmax 快了约 8 倍。视频解码的内存也修了：Wan2.2 的瓦片 VAE 解码，内存峰值从 270 GiB 降到约 8 GiB。顺带修了 Qwen-Image-2.1 在 MPS 上静默损坏图片的 bug。

提速、省内存、修 bug，三件事合在一起，才构成这一版的完整价值。分开看是三个小改进，合起来是一次能感知到的体验跃升。

二、跟你有什么关系

如果你在 Mac 上本地跑模型：混合专家类模型提升最明显，几乎所有人都能感到「每句话出来得更快」。同样的机器，输出更快，体验直接上一个台阶。

如果你想跑更大的模型：FP8 让权重只占一半内存，同样的机器能塞进更大的模型。内存是本地跑模型的第一约束，省一半就是翻一倍的容量。

如果你用 ComfyUI 或视频生成：那个 270 GiB 到 8 GiB 的修复，对做视频的人意义重大。以前跑不动的大视频任务，现在可能能塞进一台 Mac 里。

如果你在做苹果平台的模型推理：这次更新的信号很明确——MPS 后端在认真补课，从"能用"走向"好用"。之前观望的人，可以重新评估 Mac 做推理的性价比了。

三、怎么用

1. 先确认系统版本：MPS 现在要求 macOS 15 或更高，PyTorch 2.15 要求 Python 3.11 或更高。版本不达标，升了也白升。
2. 升级到 2.15 后，优先测混合专家模型和长文本生成，这部分提升最大。先测提升最大的，收益立竿见影。
3. 想省内存的，把模型权重转成 FP8 格式，配合缩放矩阵乘法使用。转 FP8 是省内存的关键一步，但要看清转换方法和精度取舍。

四、三个别信的说法

所有模型都提速 6 倍。 错。5 到 6.5 倍指的是混合专家模型的解码，密集模型提升没这么大。快 6 倍是有条件的，不是普适的。

FP8 会明显损失精度。 错。团队明确说 FP8 只用一半内存，配合缩放乘法和 BF16 输出，不是无脑砍精度。省内存不等于砍精度，做法不一样。

老 Mac 也能享受到。 错。macOS 15 以下的机器不在支持范围，别升级了才发现跑不了。先查系统版本，再动手升级。

五、一句话结论

PyTorch 2.15 是苹果芯片上跑模型的一次实打实的提速，但先检查你的 macOS 版本。

信息来源

• MPS in PyTorch 2.15（Hugging Face 博客）
• PyTorch 2.15 Adds FP8 on Mac, Speeds MoE Decoding 5–6.5x（AI Breaking Wire）

功能与价格以官方公告为准。本文写于 2026 年 10 月 21 日。