AI百科网 AI教程
产品动态

Mercury 2.5 快在吐字,慢在首字

扩散模型不逐字生成,而是一次出一块再反复修。这篇讲清 770 token/s 和厂商 1107 的口径差、首字为什么慢,以及两折促销价到期后该怎么算账。

本文目录 · 6 节

770 这个数字说的是「每秒吐出多少字」,不是「你多久能看到第一个字」。在扩散模型上,这两件事是分开的。

一、发生了什么

Mercury 2.5 是 Inception Labs 的扩散语言模型,9 月 8 日发布。它不逐字往外蹦,而是一次生成一整块,再并行反复修正,官方认为这是它能跑快的原因。

这个差别在体验上很明显。逐字生成的模型可以边写边显示,用户有进度感;扩散模型在内部反复去噪,中间结果不是给人看的,只能等它整段吐出来。速度榜测的是吐字阶段的速率,首字之前那段空白不计入这个数字。

Artificial Analysis 的独立测试给出 770.4 输出 token 每秒,在它收录的 150 个模型里排第二。厂商自己公布的数字是 1107 token 每秒,但没说用的是什么卡、批开多大。两个数字不能直接比:一个是调用官方接口测出来的,一个是硬件吞吐,量纲不同。

价格上,官网标价是输入 0.2 美元、输出 0.75 美元每百万 token,缓存输入 0.02 美元;发布期打两折,变成 0.04 和 0.15。Artificial Analysis 从接口里实测到的输入价是 0.25 美元,和官网不一致,报告没有解释原因。

能力上是另一回事。AA 的智能指数给它 12 分,同类中位数 13,属于偏下。上下文 26 万 token,只支持文本输入输出,图片、音频都得另找模型。回答很简短,跑完整个评测只用了 3500 万输出 token,同类中位数是 9700 万——它不爱啰嗦,这既是优点,也意味着复杂推理时可能省掉了必要的过程。

厂商自己的说法是,比上一代 Mercury 2 的智能提升约四成,能对标 GPT-5.6 Luna 低档、Gemini 3.5 Flash-Lite 这类成本优先的模型。这个对比没有附评测表,只能当作定位参考。

二、跟你有什么关系

做批量生成的人:单请求吐字快,一批任务的总时长就短。但账要按每个任务的总时长算,不能只按每秒 token 算。

做交互产品的人:首字延迟是硬伤。AA 记录的首次出字时间在 2.9 秒左右,而且扩散模型没有「边想边说」的流式效果,用户看到的是空白,然后是一整段。语音场景更狠,沉默超过一秒,人就会以为断线。

算成本的人:两折是促销价。恢复原价后,AA 给的每个评测任务成本是 0.12 美元,这个数比单价更有参考价值。

三、怎么判断

读到这儿,可以顺路看 Haiku 5.5 单价降了十倍,token 却变多 十万 token 以内,Haiku 5.5 是目前最便宜的一档;过了十万,价格翻五倍。这篇算清那道台阶、变胖的分词器,以及订阅额度怎么领。
  1. 先分清你要的是吞吐还是延迟。离线批量看吞吐,人机对话看首字。
  2. 用你自己的 20 条真实请求测三项:首字时间、总时长、答案可用率。
  3. 按成功任务算钱:单价乘平均 token,再除以可用率。
  4. 促销到期前重算一次账,别把两折写进长期商业模型。
  5. 如果是多步推理任务,先看它在你的题库上的正确率,别只看速度榜。
  6. 部署前问清楚服务商限流和排队策略。标称速度是理想条件下的,晚高峰能不能保住,要压测才知道。
  7. 如果产品必须流式输出,先确认接口支不支持分段返回。不支持的话,前端要改成「等待—整段出现」的交互。

四、三个别信的说法

「770 token/s 意味着回答快十倍」。 它意味着生成阶段快。首字要等近三秒,短问题反而比常规模型更慢。一段两百字的答案,生成用不到一秒,等首字却要三秒。

「速度快所以适合 agent」。 agent 的瓶颈常在工具调用、文件读写和多轮往返,生成速度只是其中一段。何况扩散模型的函数调用能力要靠自己的数据验,声明支持不等于调得准。

「智能指数低就不堪用」。 12 分是综合分。分类、抽取、改写这类任务它够用;要做多步推理、写长报告,就不够。它声明支持工具调用和结构化输出,但声明不等于在你的 schema 上调得准,这一项得自己压测。

五、一句话结论

Mercury 2.5 卖的是吐字速度,不是响应速度;它适合垫在后端批量跑,不适合站在用户面前。价格优势建立在两折促销上,先按原价算一遍再决定。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 19 日。

关于这篇

本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。

下一站 · 工具库 GPT-6 三条产品线,按任务怎么选 三条线差一百倍价钱,差别不在聪不聪明,在任务要不要它想那么久。这篇按任务给出对照、推理档位的用法,以及上线前必须算的三个指标。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?