AI百科网 AI教程
AI百科

Token 是什么:AI 眼里的"字"和你以为的不一样

一句话定义加一个比喻:Token 是大模型计费和记忆的最小单位。

一句话定义: Token 是模型处理文字的最小单位,一个汉字大约对应 1–2 个 Token,一个英文单词大约 0.75 个。

一个比喻: 把模型想象成一个只认识"积木块"的人。你说的每句话,它都会先拆成一块块积木再理解——Token 就是那块积木。中文的积木块偏小,英文的偏大。

为什么你该关心它

因为它同时决定了三件事:

  • 花多少钱。 大多数 AI 服务按 Token 计费,输入和输出分开算,输出通常更贵。
  • 能记多少。 上下文窗口的大小,说的就是"一次最多能塞多少 Token"。
  • 为什么它会忘。 对话太长时,早期内容被挤出去,不是它不专心,是窗口满了。

三个实用推论

中文比英文"贵"。 同样一段意思,中文的 Token 数通常更多。写长文档时,这会影响成本和长度上限。

粘贴长文要节制。 一次性塞进十万字,前面的内容很可能被截断。重要信息放开头或结尾,中间最容易被忽略。

长对话要主动总结。 聊到几十轮以后,让它先输出一份"目前确定的事项清单",再继续。等于手动帮它压缩记忆。

常见误解

  • "Token 等于字。" 不等于。标点、空格、emoji 都算,数字的切分方式和汉字也不同。
  • "上下文窗口越大越好。" 大窗口更贵、更慢,且中间部分的信息利用率会下降。够用就好。

相关阅读: