天垓 300 实测追平 H200,然后呢
天数智芯放出第三方实测:典型推理部署下,天垓 300 单卡吞吐是 H200 的 1.05 倍。跑分只是入场券,真正要拼的是软件适配和交付节奏。
国产 GPU 的发布会,过去三年最常见的画面是参数表对比。这次天数智芯换了方式:摆两台机器,跑同一个模型,看谁先出结果。
一、发生了什么
在本周的天数智芯媒体开放日上,天垓 300 与 H200 做了一次实机对比。
按公司披露的第三方测试口径,在典型 PD 分离(预填充与解码分开部署)条件下,天垓 300 折算单卡端到端吞吐达到 H200 的 1.05 倍。测试覆盖四类主流模型、三类场景。
更细的数字来自公司自己的性能实验室:在 GLM-5.3 的 64K 长上下文场景下,保障同等用户体验时,天垓 300 的 MoE 吞吐是 H200 的 1.15 倍;在 8K 到 128K 长上下文的 Agent 场景里,首字延迟比 H200 低约 10% 到 30%。
硬件上,天垓 300 基于天枢架构,单卡显存 144GB,针对 Attention 和 MoE 做了优化:Tensor Core 与 Vector Core 并行处理矩阵运算和 Softmax 一类的向量操作,同时优化 MoE 的小规模矩阵、低精度计算和通信协同。
异构方案更值得看。公司展示的 AFD 分离,把解码阶段再拆成 Attention 和 FFN 两部分:天垓 300 承担预填充全流程和解码中的 Attention,合作厂商的 XPU 承担 FFN 专家网络计算,公司给出的对比结果是解码延迟降低 60%。
商业化侧的公开数字:已服务 380 多个客户、覆盖 30 多个行业,应用迁移通常在小时级,性能优化需要数天到一周。软件栈里引入了 Agent 与 Skills,在一个完整模型服务部署案例中,从环境准备到服务可用,用时从约 1 小时缩短到约 20 分钟,人工只需两次目标输入。
端侧也一并亮了出来。彤央 TY1200 提供 300 TOPS 的 INT8 稠密算力,在若干大语言模型上性能达到英伟达 Thor T5000 的 1.2 倍,在 Cosmos-R2-8B 上达到 1.8 倍。公司预告下一代 TY2000 稠密算力将达 600T。
二、跟你有什么关系
如果你在评估国产卡替代:1.05 倍是特定模型、特定部署下的系统吞吐,不是通用算力。要拿自己的模型和并发去测,别拿别人的榜单下结论。
如果你在做推理成本核算:首字延迟降 10% 到 30%,对交互式应用比吞吐更值钱,这决定用户愿不愿意等。
如果你是开发或运维:迁移小时级、优化数天到一周,这个差距就是真实成本所在。装得上不等于跑得好。
三、怎么判断
读到这儿,可以顺路看 把找靶点改成推状态,同济团队创业 扰动之心完成数千万天使轮,用几何世界模型推演细胞状态而不是筛靶点。读完知道这条路和主流 AI 制药差在哪、判断靠不靠谱要看哪几件事。- 问测试条件。模型、上下文长度、并发数、精度、部署形态,缺一项,倍数就没意义。
- 问是单卡还是整机。折算单卡和整机对比,结论可能完全相反。
- 问交付。能不能按时到货、有没有本地技术支持、模型更新后多久适配,这些比跑分更影响生产。
四、三个别信的说法
"1.05 倍就是全面超过 H200。" 这是 PD 分离部署下的端到端吞吐,覆盖四类模型三类场景。换模型、换并发,结果会变。
"跑分赢了就能抢市场。" 客户买的是持续可用的系统。软件栈、算子库、故障响应,任何一项拖后腿,性能优势都兑不出来。
"专用芯片起来了,GPU 就没用了。" 公司的判断相反:模型和算子还在快速迭代,通用架构留了适配空间。真正的趋势是分工,不是替代。
五、一句话结论
国产 GPU 这一程比的不是峰值算力,是谁能让客户把模型顺顺当当地跑满一年。
信息来源
- 天数智芯天垓 300 实测对标 H200,国产 GPU 接下来拼什么,雷峰网,2026 年 10 月
功能与价格以官方公告为准。本文写于 2026 年 10 月 31 日。
本文为编辑整理的行业动态,未附官方原文链接。涉及价格、参数、发布时间的,请以厂商官方页面为准;发现错误可来信指出,会在「本次更新」里注明。
每周一封,只发新教程和可复制模板。不发广告,随时退订。