128GB Mac 跑千亿参数模型，卡的是带宽不是容量

128GB 内存能装下多大的模型？先给一个反直觉的答案：装得下，和跑得动，是两道完全不同的题。前者看容量，后者看带宽。

10 月 29 日苹果发布首款触控 MacBook Pro，把统一内存的上限推到 128GB。官方那句"在设备端直接运行具有数千亿参数的大语言模型"，让不少人以为本地 AI 的门槛被一脚踢开了。把参数、量化、带宽三件事摊开算一遍，你会看到门槛到底在哪。

一、发生了什么

10 月 29 日，苹果发布新款 MacBook Pro。据苹果中国官网与 IT之家当天报道，这代机器的关键变化有这么几项：

屏幕：PROLED XDR，双层串联 OLED，14.2 英寸与 16.3 英寸两种规格，持续全屏亮度最高 1000 尼特，HDR 与 SDR 峰值 2000 尼特。
触控：Mac 产品线首次上触控屏，配合灵动岛，Siri 多了一个固定入口。
芯片：M5 Pro 与 M5 Max，每个 GPU 核心内置神经网络加速器，官方说法是可加速本地 AI 推理、运行编程智能体。
内存：统一内存最高 128GB。苹果的技术说明里，落地场景点名了在 LM Studio 里本地跑大模型、在 TouchDesigner 里加速创意工作流。

时间与价格：10 月 30 日 21 点开启预购，11 月 6 日发售；据 IT之家报道，中国大陆 14 英寸机型 22,999 元起，16 英寸 27,999 元起。128GB 属于 M5 Max 的高配选项，不是起售价那台，具体成交价以官网配置页为准。

只想用 AI 写点东西、改改文案的人：这事跟你没关系。22,999 元起步的价格，够订阅很久的云端服务，而且云端模型一直在换代，你的机器不会。

手上资料不能出内网的人：本地跑有实际价值。合同、病历、未公开的代码，不上传第三方服务器，是本地推理目前唯一无法被替代的理由。这类需求看的是合规，不是跑分。

做视频、3D、动效的人：买它的理由是工作流，不是本地大模型。屏幕、触控、芯片对渲染和剪辑的收益，比"能在本机跑个模型"更直接。

写代码、要跑编程智能体的人：这是最接近真实需求的一类。改一个陌生仓库、跑长链路的自动化任务，本机模型能省下反复上传代码的心理成本。但也要接受它比云端旗舰模型笨一截。

第一步，算内存账。模型跑起来占的内存，粗略等于参数量乘以每个参数占的字节数，再加上上下文缓存。

模型规模	精度	权重占用（估算）	128GB 装得下吗
70B	FP16（2 字节）	约 140GB	装不下
70B	8 位（1 字节）	约 70GB	装得下，余量偏紧
70B	4 位（0.5 字节）	约 35GB	宽松
100B	4 位	约 50GB	宽松
400B（按"数千亿"下限估）	4 位	约 200GB	装不下，除非只加载部分专家

表里的数字是按字节数做的算术推算。苹果没有公布具体模型、参数量和量化方式，实际情况会因架构不同而浮动。

由此能推出三件事。官方说的"数千亿参数"必然不是原精度全量加载，低比特量化是前提；如果是混合专家架构，一次推理只激活一部分参数，权重可以分批放，容量压力小很多；上下文越长缓存越吃内存，留出的余量比想象中要紧。

第二步，算带宽账。装进内存只是开始。模型每生成一个字，都要把参与计算的权重从内存搬进计算单元，搬运速度由内存带宽决定，跟容量没关系。这解释了一个常见困惑：为什么有的机器内存够大，出字还是慢得像卡带——瓶颈不在"放不放得下"，而在"每秒能搬多少"。

处理长提示和处理长回答，压力还不一样。前者可以并行算，拼的是算力；后者必须一个字一个字往外吐，拼的是带宽。所以本地跑模型的体感，往往由后半个阶段决定。

第三步，先在自己的机器上试。装个 LM Studio 或 Ollama，拉一个 4 位量化的 7B、14B 模型，用自己的真实任务跑一遍：改一段合同、总结一份报告、写一个脚本。跑完你就知道，本地小模型能覆盖你多少需求——多数人的答案是一半以上，剩下那一半才是要不要买贵机器的理由。

"128GB 就能跑出顶级闭源模型的效果。" 参数量不等于能力。为了塞进内存做低比特量化，精度会掉，长任务和复杂推理上最先露馅。官方那句话描述的是"能运行"，不是"达到什么水平"。想验证，拿自己真实的任务去比，别看演示。

"本地跑比订阅便宜。" 一台两万多的机器，加电费和折旧，摊到每个月并不便宜。它划算的前提只有两个：数据不能出内网，或者调用量大到订阅费反超。这两个前提不成立时，本地只是更贵的选择。

"内存越大越快。" 容量决定能装多大，带宽决定跑多快，两者不是一回事。宣传页上"最高 128GB"很显眼，但它回答的是"能不能装下"，不是"快不快"。

128GB 解决的是"装得下"，带宽和量化解决的是"跑得动、跑得好"；除非数据不能出内网，否则现在不值得为本地 AI 换机。

本文基于公开信息整理，配置、价格与发售信息以苹果官网公告为准。