AI百科网 AI教程
产品动态

OpenAI 把提示缓存留到 12 小时

缓存从 30 分钟延到 12 小时,但写入价翻了一倍。这篇算清哪类任务能省钱、哪类反而更贵,以及官方文档里那句容易漏读的限定。

本文目录 · 6 节

缓存留得越久越省钱?这次不一定。保留时长翻了几十倍,写入单价也翻了一倍。

一、发生了什么

据智东西 10 月 21 日报道,ChatGPT 和 Codex 负责人 Tibo 宣布,OpenAI 的模型 API 将提供 12 小时缓存保留的服务选项。这是他所称「28 天计划」中的一项更新。同一批动作里,他还提到此前发现部分用户额度消耗异常,对约 40000 个账户做了信用点返还。

具体规则要分清两条线。

API 这条线是有文档的:缓存保留选项对 GPT-5.6 及以上版本模型生效,默认保留 30 分钟,可选 12 小时。代价写在价格上——选择 12 小时后,缓存写入价格从未缓存输入 Token 的 1.25 倍升到 2.5 倍,缓存读取价格不变。

Codex 和 Work 那条线是「登录用户缓存永久保留」,但报道明确指出,这一项尚未发布正式公告,具体实现还需要确认。也就是说,目前能查证的是 API 的 12 小时,不是「永久」。

还有一个容易被忽略的限定。OpenAI 的 API 文档写明:12 小时设定的是「缓存读取计费资格对应的最短生命周期」,不保证每次请求都能复用已存储的 KV 张量,也不保证降低延迟。换句话说,它规定的是计费口径,不是性能承诺。

二、跟你有什么关系

跑长任务的开发者。 多轮对话、长文档问答、Agent 连续调用这类场景,缓存命中率高,12 小时值。一次性批处理,用不上。

管 API 预算的人。 缓存写入变贵了。命中率低于一定程度时,开 12 小时是净亏。

用 Codex 的团队。 目前只有口头承诺,没有公告和文档。按现有规则做预算,别按「永久」做。

三、怎么算这笔钱

读到这儿,可以顺路看 汤道生预告混元 Hy4:第一次能看图 腾讯在数字生态大会上预告混元 Hy4 正式版,首次加入视觉理解,还会推出主打性价比的 Flash 版。这篇只按预告口径写,讲清升级点、Flash 的定位和该等什么再动手。
  1. 先算你的缓存命中率。命中率高,写入的额外成本被摊薄;命中率低,你只是为每次调用多付了缓存写入的溢价。
  2. 分清写入和读取。写入从 1.25 倍涨到 2.5 倍,读取价格不变。省钱的杠杆在「读得多、写得少」。
  3. 看任务间隔。默认 30 分钟够用,就不必升到 12 小时。这一步纯属多花钱。
  4. 别把「保留」当「加速」。官方文档明确不保证降低延迟。要降延迟得靠别的优化,缓存只管计费。

四、三个别信的说法

「缓存永久保留」。 这是传播中最常见的误读。API 侧的可查证口径是 12 小时可选项;Codex 和 Work 的「永久」目前只是发布者的一句话,没有公告支撑。报道本身也提醒,这可能是缓存写入不计费一类的补贴,而不是真的把 KV 张量存一辈子。

「保留越久越便宜」。 保留时长和单价是两条曲线。写入价翻倍之后,只有高复用场景才划算。低频调用的账号,开 12 小时比不开更贵。

「12 小时比 DeepSeek 更久」。 反了。报道提到,DeepSeek 在此前一天开源的推理框架里,缓存保留的设计目标高达 3 天。12 小时只是把默认的 30 分钟拉长,量级上并不领先。

五、一句话结论

这次更新真正的变化不是「存得更久」,是把缓存从默认行为变成了一个要自己算账的付费选项。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 22 日。

关于这篇

本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。

下一站 · 规则与法 规则清单换成了五条价值观 OpenAI 发布新版 Model Spec,围绕五条价值重组,新增意图忠实与人类能动性条款,删掉大部分风格细则。读完知道这次改了什么、对开发者意味着什么。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?