AI百科网 AI教程
产业观察

趋境科技 B 轮:token 工厂的瓶颈不在卡

趋境科技完成 B 轮融资并自称半年指标增长超十倍。这篇不复述融资细节,聚焦交付侧:token 产能的瓶颈到底卡在哪、国产芯片异构协同解决什么问题,以及评估一家推理供应商该问哪些问题。

本文目录 · 6 节

买一千张卡不难,难的是让这一千张卡每一秒都在产出能卖的 token。

一、发生了什么

据雷峰网 10 月 26 日报道,北京推理服务商趋境科技完成 B 轮融资,公司方面称过去半年多项核心经营指标实现超十倍增长,高品质 token 的日均产量攀升至超万亿量级,年内收入达到去年全年的近十倍。需要强调:这些全部是厂商自述口径,没有第三方数据佐证。融资细节见同日的另一篇报道,这里不重复。

先说为什么交付比融资难。训练是一次性的冲刺,交付是全年无休的长跑:客户不关心你融了多少钱,只关心每一次请求的返回速度和成功率。购买算力是一次性决策,运营算力是每天的功课——产能的差距不是买卡时拉开的,而是日复一日的调度里拉开的。

更有信息量的是它解释产能的方式。趋境把「高品质 AI Token」定义为连接算力、模型与应用结果的最小生产单元,然后提出一条十六字路线:少模型、深优化,加上稳定生产负载和跨集群运营。翻译一下:不要什么都跑,挑少数几个模型往深里调;让负载尽量平稳;再让分散的机房像一张集群一样干活。

交付侧真正的难关在国产芯片上。趋境给出的方案包括国亢单元间的 Prefill 与 Decode 异构协同、高性能 KV Cache 转换、异构算力融合等一揽子技术,公司称已在生产级场景投产,用国产芯片承载万亿参数级别的头部模型,整体性价比超过国际领先算力——这同样是厂商自测口径,没有第三方基准。

二、跟你有什么关系

自建推理服务的团队。 趋境的账算的是一个朴素的乘法:单卡产出乘以有效工时。大多数自建集群的浪费不在算力不够,而在负载忽高忽低、模型切换频繁。这两条比堆卡更值得先优化。

采购推理服务的应用方。 供应商宣传「十倍增长」时,你该问的是响应时延、成功率、峰值承接能力。交付质量的指标从来不是产量,而是你半夜两点调 API 还稳不稳。

做国产芯片适配的工程师。 异构协同、缓存转换这类方案正在从论文走向生产环境。这意味着国产卡的软件栈在快速成熟,原来只能跑 Demo 的组合,现在开始敢接真实负载。

三、怎么用

读到这儿,可以顺路看 把找靶点改成推状态,同济团队创业 扰动之心完成数千万天使轮,用几何世界模型推演细胞状态而不是筛靶点。读完知道这条路和主流 AI 制药差在哪、判断靠不靠谱要看哪几件事。
  1. 先测自己的利用率。把 GPU 的实际有效工时除以总工时,低于五成就先调负载和调度,别急着采购。
  2. 收敛模型数量。同一个业务里维护五个模型,不如把两个模型调到极致,切换成本省下来的就是毛利。
  3. 评估供应商时列三问:时延分布怎么保证、故障切换要多久、国产卡和国际卡的价格差怎么分摊到报价里。

四、三个别信的说法

卡越多,产能越足。 产能的上限是利用率乘以单卡效率,不是卡的数量。负载不稳定时,一半的卡在空转,买再多也只是把空转规模化。

十倍增长等于技术领先。 基数小的时候十倍并不难,尤其当业务刚从零起步。真正难的是在规模化之后继续增长,那时拼的是运营能力。

厂商自测的性价比可以照抄进采购决策。 自测没有统一的负载、没有对手的参与条件。同样的口径换一家实验室,结果可能完全不同。下采购单之前,用自己的真实流量测一轮。

五、一句话结论

token 工厂的护城河不在机房里有多少卡,而在这些卡有多少时间在真正干活。

信息来源

功能与价格以官方公告为准。本文写于 2026 年 10 月 27 日。

关于这篇

本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。

下一站 · 工具库 英伟达用 AI 写的一万二千行,没人逐行审 英伟达工程师用一万二千行融合内核,把 Kimi K3 的解码速度提了一截,代码大部分由 agent 辅助完成。这篇讲清提升从哪来,以及"审查跟不上生成"这件事意味着什么。
下一篇,直接发你邮箱

每周一封,只发新教程和可复制模板。不发广告,随时退订。

复制规范引用格式,便于转载注明出处
这篇有用吗?