让模型用 1866 年的电报体写作,省 40% token
有人把 1866 年按词计费的电报体搬到按 token 计费的模型上,实测省 40% 到 49%,下游理解几乎不变。读完能分清什么时候能压、什么时候压了会亏。
1866 年,跨大西洋电报每 10 个词收 100 美元。今天,token 就是新的词。
一、发生了什么
10 月 4 日,Travis Smith 在 Five Minutes Forward 发了一篇文章,把这个类比做成了实验。
历史背景是这样的:当年电报按词计费,商人和记者发明了两套压缩办法。一套是密码本,把整段商务短语映射成一个词,比如用某个词代表"轮船抵达、货物完好、余额已汇出";另一套是电报体,删冠词、删虚词、用缩写,但保留全部事实、数字和专有名词。
实验设计是:50 篇短文,约 1300 道题,答案都是可核验的短答案(日期、人名、数量)。同一批问题、同一个评分器,只改变模型读到的东西——完整原文、纯文本摘要、电报体摘要、电报体摘要再还原成纯文本。评分用确定性字符串匹配,不用模型当裁判。
写入端用了四个模型:gemma-4-31b、qwen3.8-27b、gpt-5-mini、GLM-5.3-Flash。读取端跨家族,包括 nemotron-3-120b。
结果:qwen3.8-27b 省 48.9%,GLM-5.3-Flash 省 48.4%,gemma-4-31b 省 40.4%。跨家族读取的恢复率在 0.99 到 1.10 之间,最低的一组也基本与纯文本持平。完整原文作答的准确率是 91.5%,用纯文本摘要作答是 75.8%,用电报体摘要作答是 82.5%。
有一个例外:gpt-5-mini 只省 17.7%,但写入成本翻倍。原因是这个模型关不掉推理,文本变短反而让它想得更久。
作者还做了一个对照:另有一篇 2026 年 6 月的论文用非标准编码(词片、符号、emoji),把长度压到 27.9% 还能保持 99.5% 的语义保真。压得更狠,但那种编码人类读不懂,也不稳定。电报体的优势正好相反:压得少一点,换来可读、可审计、跨模型通用。
作者把代码和测试框架开源在 GitHub 上。
二、跟你有什么关系
搭 agent 的。 智能体的记忆、草稿本、agent 之间的交接,都是"内容已定稿、只给机器读"的场景,最适合压缩。同样显存能装更多上下文。
做 RAG 的。 不要把用户原文压成电报体再检索。压缩发生在摘要层,不发生在原始文档层。
算成本的。 省 40% 的输入 token,在长上下文应用里是实打实的钱。但省下来的部分可能被"多一次还原调用"吃掉。先把账算到"每完成一个任务"这一层,再决定压不压。
三、怎么用
读到这儿,可以顺路看 三星把权重压到 0.1 比特,追平 1 比特基线 三星研究院开源 LittleBit 系列,把大模型权重压到每权重 1 到 0.1 比特,在 Llama-2、Llama-3 上追平主流 1 比特方法。读完能分清压缩倍率和能力保留,也知道评估这类方案该追问哪五个问题。- 只在定稿之后压。 让模型一边思考一边写电报体,会付"文体税":同一批问题,用电报体作答的准确率只有 74.4%,是完整原文的 0.81。省了字,丢了分。
- 别用全大写。 作者说模型默认会写全大写,而全大写会损失 14 到 19 分的准确率。指令里明确要求小写。可以直接写:用 1866 年电报体,全小写,删冠词和虚词,保留全部数字、人名和专有名词,不要解释。
- 先在你的模型上测一遍。 四个模型里省得最多和最少的差了近三倍,还有一个是负收益。同一句指令,不同模型的压缩率不一样。
- 人类要看的时候再还原。 存储闭环不划算:还原版平均 260 token,压缩版 117 token,但生成还原版要多花约 312 token。只有当机器读的次数够多,才回本。
四、三个别信的说法
「压缩一半,成本就降一半。」 省的是输入 token,不是总成本。如果模型因为文本异常而多推理几轮,账单会反过来涨,gpt-5-mini 就是例子。
「模型之间可以用暗语随便聊。」 电报体之所以可用,是因为人类可读、规则固定、随时能解码。自发演化出来的压缩协议压得更狠,但会漂移,也没法审计。
「这是什么新技术。」 方法是 1866 年的,作者做的是把它搬到 token 计费上,并且做了可复现的测量。价值在测量,不在创意。
「测一次就能长期用。」 作者说,每来一个新模型,基准要重跑一遍,大约一个下午的算力。压缩率是可测量的模型属性,会随版本变。
五、一句话结论
电报体提醒我们:省字和省意思是两件事;对机器说话可以省字,让机器替你想的时候不行。
信息来源
功能与价格以官方公告为准。本文写于 2026 年 10 月 18 日。
每周一封,只发新教程和可复制模板。不发广告,随时退订。