后摩智能同时押 2D 和 3D 存算一体

一台 300 克的盒子，拔掉网线，每秒还能吐出 50 个 token，跑的是 1220 亿参数的模型。这个画面比任何"端侧 AI 元年"的说法都具体。

一、发生了什么

10 月 14 日，后摩智能在首届生态合作伙伴大会上把自己的技术路线讲明白了：以 SRAM 存内计算为根技术，同时铺 2D CIM 和 3D CIM 两条线。

分工是按负载切的。2D CIM 主打原生高算力密度和容量灵活配置，适合图像、视频生成、MoE 这类计算量大、权重容量波动大的任务；3D CIM 把存内计算和先进封装叠在一起，把更多权重放到片上，解决稠密模型对持续带宽的依赖。

落地进度不一样。M30、M50 已经是量产的 2D CIM 芯片；首款 3D CIM 芯片 A20 刚投产，最多支持 16 芯全互联，算力利用率比上一代提升 50%；M50 的迭代款 M6X 还在研发，官方口径是综合能力达到 M50 的 3 到 6 倍。

已经跑出来的数字：M50 量产不到一年，拿到 150 多个产品定点，服务客户超过一百家。基于 M50 的联想 AI 主机 P7，整机重 300 克，算力 190 TOPS，最高跑 1220 亿参数，支持 128K 上下文，断网状态下 50 token/s。后摩智能 CEO 吴强给公司定的位置是"端侧免费 token 工厂的算力底座"。

需求侧的变化也能对上。后摩智能联合创始人信晓旭给了一组对比：同等智能水平的稠密模型，参数规模 17 个月压到原来的八分之一；MoE 模型 6 个月压到六分之一。模型变小、芯片变强，两头一起挤，才有了今天端侧能跑 120B 这件事。

二、跟你有什么关系

做端侧硬件的。 选型指标要换。过去比 TOPS，现在得先问能跑多大的模型、上下文多长、连续跑三十分钟后 token/s 掉多少。

做应用的。 本地常驻智能体的成本结构会变。同一台设备上，token 的边际成本越接近零，你就越敢让它后台常跑、反复重试。

普通用户。 短期内感觉不到。真正的变化在 2027 年之后的设备上：出厂就带一个能离线工作的本地模型，而不是每次请求都往云上送。

顺便说清一个常被混淆的点：端侧不是把云端的活抢过来干。智能体要看当前打开的程序、光标在哪、本地文件怎么放，这些感知放到云上，延迟和隐私都过不去；而长周期规划、跨设备协同，本地那点电和热根本撑不住。分工是被物理条件逼出来的，不是产品经理的偏好。

三、怎么判断

1. 让对方先报模型规模和上下文，再报 TOPS。只报 TOPS 的，多半在回避带宽。
2. 问清是 2D 还是 3D、封装谁做、芯片是量产还是在研。A20 是"投产"，M6X 是"研发中"，这两个词差别很大。
3. 要一段实测：断网、上下文拉满、连续跑 30 分钟，记录 token/s 和整机功耗。峰值数字没有意义。
4. 看软件栈。后摩的生态软件已经开源，能不能复用你现有的模型适配和编译经验，直接决定迁移成本。

四、三个别信的说法

"存算一体要取代云端 GPU。" 后摩自己给的边界是：端侧承接高频、本地、实时的任务，长周期规划、复杂推理、知识库检索仍然留在云上。两条路线是补位，不是替代。

"TOPS 越高越强。" 大模型推理多数时候卡在访存和容量上，不在峰值算力。M50 的架构对比数据是核心面积降到约五分之二、功耗降到约五分之一，这种效率指标比 TOPS 更能说明问题。

"3D CIM 马上就能买到。" A20 刚投产，M6X 还在研发。3D 路线三年前就启动了，但真正的商用产品要看客户导入节奏，不是看发布会。

五、一句话结论

端侧 AI 的胜负不在峰值算力，在一瓦电、一块钱能换回多少 token。

信息来源

• 智东西：后摩智能亮出 2D CIM+3D CIM 路线（2026 年 10 月 16 日）

功能与价格以官方公告为准。本文写于 2026 年 10 月 18 日。