国内一天烧掉 500 万亿 token，四倍是怎么来的

半年时间，国内一天消耗的 token 数量翻到了原来的四倍。这不是估算，是信通院持续监测了八个月得出的数字。

一、发生了什么

中国信通院联合两家行业机构在 10 月下旬发布《大模型词元服务性能监测报告（2026 年）》，基于今年 1 月到 8 月的监测数据。报告给出的核心数字是：今年 6 月，国内词元日均消耗量约 500 万亿，是去年 12 月的近 4 倍。越来越多的厂商通过公有云 API 提供模型服务，词元成了像水电一样的计量单位。

报告还给出几组关键数据。今年 8 月，国内各模型平均每秒输出约 78 个词元，比 2025 年的均值翻了一倍，但仍低于国外典型模型的 113 个。首词时延国内均值 1.26 秒，比去年的 0.78 秒有所增加，报告解释这和模型变大、上下文变长有关，不纯粹是性能退化。价格也在回升：国内归一化均价从去年下半年的 6.8 元涨到今年的 13.46 元，接近翻倍；国外同期典型模型均价约 118 元，仍显著高于国内。上下文窗口方面，能吃到 100 万词元的模型已占近一半，200K 以上的合计超过九成五，短窗口模型正在快速退出市场。

还有一个值得单独说的现象：开源模型的迭代对性能拉动明显。今年 5 月监测方更换了四款主流开源模型的新版本，其中一款 8 月的吞吐已经达到其上一代的两倍。不过换代初期时延普遍抬高一截，随后靠推理优化再压回去。

二、跟你有什么关系

如果你是企业选型的人，这份报告等于一份体检表。同一款开源模型放在不同平台上，速度差距最大能接近一倍，光看模型名字做决定会吃亏。

如果你是开发者，价格回升意味着去年那种「随便烧」的窗口在关闭。单位成本涨了近一倍，长上下文调用前最好先算账。

如果你只是普通用户，500 万亿这个数字说明后端服务在承压，偶发的变慢未必是模型变笨，可能是大家一起在挤。

三、怎么判断

1. 选服务商别只看模型版本，把调用成功率、吞吐和首词时延拿来做对比，报告监测的正是这几项。
2. 关注同一模型在官方平台和第三方平台的差异，部分第三方平台因为推理优化做得激进，速度反而更快。
3. 价格条款签之前确认计价口径，今年的均价环境已经和去年不同，老报价未必还有效。

四、三个别信的说法

「token 消耗涨四倍，说明 AI 应用全面落地了。」 消耗量里有相当一部分来自模型厂商自己的推理链路和 agent 的多轮调用，不等于每一条都对应真实业务价值。量在涨，落地深度要分开看。

「国产模型速度翻倍，已经全面超过国外。」 国内吞吐确实翻倍，但国外均值仍在前面，说追赶成立，说反超需要更细的数据。

「时延增加了，模型退步了。」 报告明确说时延上升伴随参数量和上下文长度的增加，属于结构变化带来的代价，不是能力下降。换代初期的波动也会随优化回落。

「均价涨了，说明厂商在收割。」 前两年价格战把定价压到了成本线附近，这次回升更像回到可持续区间，而且国外均价仍是国内的好几倍，说收割还谈不上。

五、一句话结论

词元消耗量是 AI 应用热度的体温计，但选型时真正决定体验的，是你接入的那一个平台的实测性能。

信息来源

• 信通院词元服务监测报告发布（2026-10-24）

功能与价格以官方公告为准。本文写于 2026 年 10 月 25 日。