Cerebras 把万亿参数模型跑起来了

GPU 集群靠拆包搬运权重，晶圆级芯片的思路是反过来——让权重根本不动。

两种架构的差距，最后都会落到同一个问题上：谁来为长上下文的延迟买单。

一、发生了什么

这是厂商口径：据 Cerebras 官方博客（2026 年 10 月 22 日发布，作者为公司员工），该公司解释了如何在自家硬件上部署万亿参数级别的模型。核心账目如下：单颗 WSE-3T 晶圆级芯片只有 44 GB 片上内存，装不下动辄数 TB 的模型权重，于是把各层切开、映射到多颗晶圆上组成流水线。以约 3 万亿参数的 Kimi K3 为例，按 4-bit 量化每层约 16 GB，能整层驻留在单颗晶圆的片上存储里，层与层之间只传激活值，官方称每跳约 2 微秒。分层分配上，线性注意力层因不需要逐 token 的缓存，一颗晶圆可放两层；全注意力层要留缓存空间，只能一层一颗——加总下来这个模型需要 59 颗晶圆。服务方式上，流水线的各阶段同时处理不同请求，每个阶段还能再叠一个小批：批小则单请求更快，批大则整体吞吐更高，这是调度上的主要旋钮。官方宣称运行万亿参数模型可达每秒一千到两千多个 token，并主张用单位功耗的 token 产出来做更有意义的比较。博客还引用了该开源模型在两项公开评测里与另一家旗舰接近的成绩，为自家部署能力背书——那属于引用第三方评测，不是对部署方案的实测。所有数字均未经独立复现。

二、跟你有什么关系

推理服务采购者：这是一种与 GPU 完全不同的架构路线，长上下文、低并发的场景值得去试它的报价。 芯片行业观察者：大片上存储路线正从训练叙事转向部署叙事，成色如何要看客户账单。 模型团队：超长上下文模型的部署成本结构，可能因这类硬件而改变，尤其是注意力层占比高的架构。 写采购报告的人：把「厂商自测」和「独立复现」分成两栏记录，这份博客属于前者的典型样本。

三、怎么判断

1. 认清口径：以上数字全部出自厂商自测博客，页面声明性能基于内部或第三方基准，未经独立复现，引用时要带出处。
2. 对比要拉平：速度、并发、功耗须在同一模型同一精度下比较，跨厂家的宣传数字不可直接互比。
3. 看真实客户案例，而不是演示负载，重点问并发上量后的排队情况。

四、三个别信的说法

「晶圆级芯片万能」。 它的内存策略适合权重常驻的推理流水线，通用性和生态成熟度与 GPU 生态尚有差距，替代论为时过早。

「每秒两千 token 就是用户体感」。 这是厂商特定配置下的自测数字，真实服务还受排队、并发与网络影响，自己压测才算数。

「权重不动就没有通信开销」。 激活值仍在芯片之间传输，层数越多流水线越长，首 token 延迟是新的考量项。

「59 颗晶圆的账等于成本优势」。 这只是容量规划，不是报价对比；五十九颗专用芯片的采购与运维成本，和 GPU 集群不是一个算法。

五、一句话结论

厂商讲了一个自洽的内存故事，故事成色如何，要等独立测试来签收。

信息来源

• Cerebras 官方博客：How We Deploy Trillion-Parameter Frontier Models on Cerebras，2026 年 10 月 22 日

功能与价格以官方公告为准。本文写于 2026 年 10 月 26 日。