一个 1.58 比特的语音模型,只用 CPU
权重只剩三种取值,模型却还有 17 亿参数。这篇讲清 Kitten-TTS 2 用三值量化换到了什么,以及在什么场景下它真能替掉云端语音服务。
听到「1.58 比特」这个数,多数人的第一反应是:这么低还能听吗。答案是能,而且模型并不小。
一、发生了什么
10 月 22 日,KittenML 在社区发布了 Kitten-TTS 2,同时开放代码和权重。它的卖点有三条:第一,这是首个把全部线性层权重压到三值(负一、零、正一)的语音合成模型,标称 1.58 比特;第二,参数量 1.7B,却能在纯 CPU 上做到实时推理,官方还配套了针对 CPU 优化的三值算子;第三,功能上支持不到 5 秒参考音频的零样本克隆、20 多种语言的合成,以及情感和重音控制。
按项目说明,量化采用分组方式,每 128 个权重共享一组缩放系数。相比上一代 V0.8,这一版是全新架构,官方称音质、克隆和情感控制都是重做过的。代码托管在 GitHub,权重放在 Hugging Face,作者把它定位成「显卡不富裕的人可自托管的替代方案」。
二、跟你有什么关系
做本地化部署的人:这是今年少数几个真能在普通笔记本 CPU 上跑起来的 1.7B 级语音模型。如果你的场景是客服播报、有声书粗剪、内网离线合成,值得花半小时试。
做多语种内容的人:20 多种语言加跨语言克隆,意味着你录一段中文,可以让它带着中文口音说英文。这个能力在短视频本地化里很好用,也很容易被滥用。
关心合规的人:克隆门槛降到 5 秒,意味着声音授权的边界更模糊。企业内使用时,最好在流程上加一道授权留痕,别等到出事再补。
做硬件的人:纯 CPU 实时这一条,把语音合成的成本结构改了。原本要占一张卡的预算,现在变成占几个 CPU 核,产品的定价空间会松一点。
三、怎么判断
读到这儿,可以顺路看 Pico CSS 停更,作者把原因算在 AI 头上 极简 CSS 框架 Pico CSS 停在 2.1.1 并归档仓库,作者说 AI 已经能生成页面真正需要的那点样式。这篇讲清现有站点会不会坏、fork 要注意什么、以及这个判断哪里对哪里过头。- 先测延迟,再测音质。用一段 200 字的中文,在同一台机器上量首字时间和实时率,实时率大于 1 就不适合直播场景。
- 克隆测试要用有情绪的素材,别用播音腔。平淡的参考音频掩盖不了情感控制的短板,一句话里带笑、带疑问才试得出来。
- 检查部署方式。如果它依赖特定的推理框架和算子库,就把这套依赖一起打进镜像,否则换台机器就跑不动。
- 用长文本测稳定性。合成十分钟有声书,听第 8 分钟和第 1 分钟的差别,音色漂移和断句退化通常在中后段才暴露。
四、三个别信的说法
1.58 比特意味着模型只有原来十分之一大小,能力也只剩十分之一。 参数量没变,变的是每个权重的存储位宽。粗略算,三值权重比半精度省约一个数量级的存储和带宽,代价是精度损失,但损失多少要看具体任务,不是线性折算。
开源就等于能商用。 代码和权重公开,不等于授权条款宽松。用于产品前必须把仓库里的许可文件读一遍,尤其是声音克隆这类高风险用途。
CPU 能实时,说明手机也能跑。 桌面 CPU 和手机 SoC 的内存带宽差好几倍,实时率会明显下降。要上端侧,得重新测。
五、一句话结论
三值量化换来的不是更聪明的模型,而是把一条原本要显卡的流水线,塞进了一台普通电脑。
信息来源
- Kitten-TTS 2 三值权重语音模型开源,2026-10-22
功能与价格以官方公告为准。本文写于 2026 年 10 月 23 日。
本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。
每周一封,只发新教程和可复制模板。不发广告,随时退订。