40B 的编码模型跑在笔记本上

一个模型能不能跑在你自己的电脑上，先看激活参数量，而不是总参数量。

一、发生了什么

据 TechCrunch 10 月 21 日报道，AI 创业公司 Recursive 发布首个模型 Flint。这是一个免费编码模型，可以在笔记本上运行，采用 Apache 2.0 许可证，在 Hugging Face 上供下载。

它的结构是混合专家：总参数 400 亿，处理每个任务时只调用其中 25 亿。报道拿它和 Meta 前一周发布的开放模型对比，后者 8160 亿参数、至少需要 1TB 内存，量级完全不同。

速度是官方自测数据。在搭载 M4 Pro 的 MacBook Pro 上，Flint 生成速度约每秒 131 个 token；同一台机器上，报道列举的同类模型（谷歌 Gemma 4、英伟达 Nemotron 3.5 Lightning）在每秒 58 到 69 个 token 之间。在英伟达 RTX Spark 上超过每秒 150 个。

跑分同样是官方自测。在 SWE-Bench Verified 上，它称超过所有 500 亿参数以下的模型；在 Recursive 自己汇总的六项测试平均值上，只有阿里的 Qwen3.8 27B 得分更高。

最值得注意的一句在标题里：公司称 Flint 的构建过程大部分由 AI 完成。它内部的研究自动化系统叫 Eureka Machine，参与了从预训练到后训练、推理的几乎每个环节，让一个小团队在不到四个月内从零做出模型。具体贡献包括更稀疏的模型形状、把模型压缩 71% 而质量几乎不降的低比特训练，以及定制算子。

报道明确写了短板：Flint 需要比付费编码助手更多的引导，公司建议把大任务拆成小步骤。

二、跟你有什么关系

不想把代码传到云上的开发者。 这是这个模型最实在的卖点：离线运行，代码不出本机，也不按 token 计费。

想省钱的小团队。 免费下载、Apache 2.0，可以自己改、自己部署。代价是要自己承担硬件和调优。

评估自改进路线的人。 Flint 更像一次公开试验，而不是结论。它证明的是「AI 能帮着做出一个更小的模型」，不是「AI 能自己变强」。

三、怎么试才不踩坑

1. 先看内存。报道里提到有评测者用 48GB 内存的 Mac 跑它，这是个可参考的下限，不是官方最低要求。
2. 用你自己的任务测，别看榜单。SWE-Bench Verified 测的是修真实仓库的 bug，和你要写的业务代码未必同构。
3. 把任务拆小。公司自己承认它需要更多引导，一次给它整个模块，成功率会明显下降。
4. 记住跑分是厂商口径。速度、SWE-Bench 排名、六项测试均值，都来自 Recursive 自己的测试，没有第三方复现。
5. 商用前读许可证。Apache 2.0 允许商用和修改，但模型输出涉及的代码版权，仍需你自己把关。

四、三个别信的说法

「400 亿参数能在笔记本上跑，说明模型变小了」。 它跑得动是因为每次只激活 25 亿参数，总权重还是要装进内存。混合专家省的是算力，不是存储。

「大部分由 AI 造，等于不用人」。 报道的表述是 AI 参与了几乎所有环节，且整个过程由人监督。人力从写代码转到定方向、做评估，不是消失。

「跑分超过同级别模型，就能替代 Claude 或 Codex」。 报道引用的早期体验是：小模型常出错或偏慢，而 Flint 在这位评测者的请求上都做对了。这是一次个人体验，样本量为 1。

五、一句话结论

Flint 值得试的理由不是它多强，是它把「代码不出本机」和「不按 token 付费」这两件事同时做到了一个可用的水平。

信息来源

• Recursive launches Flint, a laptop coding model it says was largely built by AI - TechCrunch，2026 年 10 月 21 日

功能与价格以官方公告为准。本文写于 2026 年 10 月 22 日。