从模型到上线之间的活，被做成了一个开源平台

模型选好只是开始。真正耗时间的是后面那两个月：驱动编不过、卡型不认、压测上不去、流量一涨就断、半夜被告警叫醒。

一、发生了什么

10 月 16 日，范式智能（港股 6682）和北京睿思智联发布一站式 AI 部署平台「模域」（ModelSphere），以 Apache 2.0 协议开源，代码放在 GitHub，对企业免费。发布信息由量子位在当天刊出。

它要解决的不是模型能力，是模型上线。官方列的四项能力分别是：图形化面板和预置部署模板；自动弹性扩缩容、PD 分离部署、三级 KV 缓存、负载均衡、服务断流自动续写；AutoTune 自动调优与自适应调度；以及通过内置的 EngineX 推理引擎统一调度多种芯片。

芯片这一条最值得看。官方称可混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力，用户不必为不同卡型重写底层逻辑。已适配的模型包括 DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM。

性能方面，官方给的数字是系统极限吞吐较基准提升约 285%，性能约为原来的 4 倍。这是厂商自测口径，没有第三方复现，也没有说明基准配置和卡型。

定位上它不打算替代 vLLM、SGLang。官方说法是：推理引擎负责单机效率，模域负责集群层的纳管和优化——缓存感知的请求路由、统一 KV 缓存池、按服务质量扩缩容、基于线上数据的调优。

正在做私有化部署的团队。 你们的痛点是卡型杂、显卡采购分批到货、不同项目用不同引擎。这类平台的价值在于把「每来一种卡就重做一遍适配」变成配置项。

用云厂商托管服务的小公司。 短期不用动。自建一套集群的人力成本，通常高于按 token 付费，除非你的调用量已经稳定到能算出明确的单价比。

卖推理服务的人。 值得关注的是它的调度层，不是界面。多卡混部、KV 缓存复用、断流续写，这三件事直接决定单卡能同时服务多少请求。

做技术选型的人。 这类平台最容易被低估的成本是「绑定」。一旦业务按它的 API 写死，换回 vLLM 或自研调度就要重写一层。试用时先确认它有没有留出标准的 OpenAI 兼容接口。

先对芯片清单。 把你的卡型、驱动版本、卡数报给它的文档，看是否在支持列表里。国产卡的支持往往是「某几个型号 + 某几个驱动版本」，差一个版本就可能卡住。
用自己的流量回放压测。 不要用官方 benchmark。拿一段真实请求日志（含长短请求混合），对比你现在的 vLLM 或 SGLang 部署，看 P99 延迟和每卡吞吐。
逐项关掉它承诺的能力。 把 PD 分离关掉、把 KV 缓存池关掉，看性能掉多少。如果关掉之后没区别，说明这些功能在你的场景里没生效。
算一遍运维账。 平台省的是适配和调优人力，不是服务器。把「一个懂 CUDA 和调度的工程师月薪」与「每年省下的卡数」放在一张表里，答案会很直接。

「开源就等于免费。」 Apache 2.0 免的是许可费，不免硬件、带宽和人力。一套生产集群的隐性成本在监控、值班、故障演练上，这些平台不会替你出人。

「4 倍性能提升，换平台就能拿到。」 285% 是极限吞吐的相对值，通常出现在长请求、高并发、缓存命中率高的场景。你的业务如果是短请求、低并发，提升会小得多，甚至因为多了一层调度而变慢。

「支持国产卡，就能混着用。」 混合调度解决的是「能跑」，不是「跑得一样快」。不同卡的算力、显存带宽、算子覆盖度差别很大，调度器只能尽量均衡，不能抹平。真要混部，得按业务分级：贵的卡跑延迟敏感的，便宜的卡跑批处理。

这类平台卖的不是模型，是把「上线」这件脏活标准化；先拿一段真实流量压一遍，再谈替不替代。

功能与价格以官方公告为准。本文写于 2026 年 10 月 18 日。