天数智芯天垓 300 实测对标 H200、单柜塞进 144 颗卡、国产 GPU 跨过能用这道坎

国产 GPU 能上台打了

10 月 28 日，上海。天数智芯办了一场"媒体开放日"，主题叫"从模型到世界"。

会上他们干了一件此前很少有中国芯片公司敢干的事：把自家最新旗舰 GPU 的实机搬出来，当场和英伟达 H200 跑同一组模型。

数字先摆出来：

测试项 · 天垓 300 vs H200

第三方实测折算单卡端到端整体吞吐（PD 分离部署） · 1.05 倍

64K 长上下文 Attention 性能 · 1.05 倍

GLM-5.3 模型 64K 规模 MoE 吞吐 · 1.15 倍

8K—128K 长上下文 Agent 首字延迟 · 低 10%—30%

多模态生成推理吞吐 · 高 2%—5%

搜广推在线业务推荐推理吞吐 · 高 21%

搜广推在线业务轻量计算时延 · 低 26%

满负荷步时波动（稳定性） · 0.43% vs Hopper 方案 0.76%

用人话说：在第三方测的四大主流模型、三类场景里，这张国产卡的单卡吞吐做到了 H200 的 1.05 倍——不多，但已经过了"追平"那条线。

一句话总结

这是国产 GPU 第一次在"第三方实测 + 现场实机"两条路子上同时对标 H200，并且赢了。

>

但赢的是芯片这一环，不是"买卡、装卡、跑起来"这一整条链路——接下来真正决定成败的是交货速度、软件生态和真实客户环境。

一、天垓 300 到底是什么来头

先说配置。

天垓 300 是天数智芯的云端旗舰通用 GPU，基于自研的天枢架构，单卡显存 144GB。天数智芯 2026 年 1 月已在港交所上市。

它的定位很直接：不做 H100 那种"训练卡"，做的是"什么都能干"的通用卡。

现场实机对比覆盖了三类场景：大语言模型（GLM-5.3 等）、文生图、文生视频。官方称整体表现优于 H200；其中文生图（1920×1080、一次出 8 张）的平均、最短、最长耗时及整轮吞吐均优于 H200。

训练侧也给了一个很硬的数字：Qwen3-32B、8 卡整机 FP8 精度训练，天垓 300 每卡有效吞吐达到 H100 的 1.33 倍。 另外按官方估算，1024 卡、约 26 天可以完成 1T 参数 / 40B 激活 MoE 模型的 500 亿生成 Token 强化学习任务。

用一句人话收拢：过去国产卡是"能跑但慢"，现在是"跑得动、还便宜"，真正卡脖子的位置正在从芯片挪到软件。

二、真正有杀伤力的不是单卡，是机柜

如果这次开放日只讲单卡，就低估它了。

关键发布是 IXL144 超节点：

指标 · 数据

单机柜 GPU 数量 · 144 颗

单机柜 CPU 数量 · 18 颗

共享显存 · 约 10.1TB

单机柜密度 · 业界最高

每百万有效 Token 成本 · 较国际主流方案低约 40%

为什么机柜比单卡重要？因为客户真正买的是"一个能跑推理的机房单元"，不是一张卡。 一张 H200 便宜还是贵，取决于你为了用满它要配多少电、多少网、多少人力。

所以这台 IXL144 的意义是：它把国产卡第一次放进了"整柜报价"的对比表里，而这一栏，恰好是云厂商和模型公司算账的地方。

配套还有两件事：

软件栈叫"用 AI 开发 AI"。 模型部署从 1 小时压缩到 10 分钟，人工操作从数十步降到 1 步，编译速度提升超 90%。它是首家深度接入 FlyDSL 的国产 GPGPU 厂商。

AFD 分离方案跑通。 国内首个 GPU+XPU 异构部署方案，推理延迟降低 60%。

用人话说：过去国产卡的痛苦不是"算得慢"，是"折腾它太费人"。 现在这一层被补上了。

三、但别急着欢呼，这三个短板报道里说得很清楚

《工商时报》的判断相当克制，值得原样记住：大陆 GPU 正从"能否替代进口"转向比拼运算效率与使用成本；但单项测试胜出不等于全面超越，交货能力、AI 模型支持广度、真实客户环境表现，仍然是考验。

再具体一点：

第一，交货。 天垓 300 现在的实测数据是在实验室和第三方测试室里跑出来的。能不能按期、按量交付到客户机房，是另一道题。

第二，软件生态的广度。 FlyDSL 深度接入、编译提速 90% 是重大进展，但"支持了主流模型"和"支持所有客户自己写的代码"，中间还有距离。

第三，真实客户环境。 公司称已在互联网、AI 大模型、金融服务、医疗及科研等领域规模化落地，累计服务客户超 380 家；迁移成本方面，部分客户应用迁移可在小时级完成，进一步优化通常需数天至一周。

这三个数字放在一起是矛盾的——380 家客户是实打实的，但"小时级迁移"和"数天到一周的优化"说明，客户还是需要厂商工程师在后面盯着。

翻译一下：国产卡已经能上生产线了，但还没做到"插上就能用"。

四、对普通人意味着什么

第一，AI 的价格战会继续打，而且这次是国产这一侧在推。 天垓 300 的关键词不是"参数"，是每百万 Token 成本低约 40%。这条数字会一路传导到 API 报价、再传导到你每个月付的订阅费。

第二，如果你在做选型，国产卡值得进候选名单了。 尤其是推理负载——长上下文 Agent、搜广推、多模态生成，这些场景正好是天垓 300 测出来领先的几个。但如果是训练或者对生态特别依赖，先小规模试，别一步替换。

第三，国产算力的替代在从"云端"往"端侧"铺。 这次同步发布的端侧产品彤央 TY1200，标称 300 TOPS 稠密算力，实测达到英伟达 Thor T5000 的 1.2 倍；在 Cosmos-R2-2B/8B 测试中达到 Thor T5000 的 158%/180%，并首次在国产端侧实现 MuJoCo-Warp GPU 加速物理仿真。下一代彤央 TY2000 标称 600 TOPS。

用人话说：手机、车、机器人里的芯片，正在用另一条路线绕开英伟达。

第四，一个冷静的提醒。 这次对比的对手是 H200——而 H200 是当前美国出口管制下能卖到中国的高性能算力标杆。 也就是说，我们对标的是"管制允许买到的最强的那一档"。如果管制再收紧，天垓 300 这一代面对的竞争环境会立刻变化。 这也是为什么国家在这个时点推"算力分层"——云端叫板 H200，边端提前卡位。

写在最后

1 为什么"1.05 倍"比"3 倍"更值得高兴

因为这一次的对手是英伟达的主力商用卡，而且是在第三方测试和现场实机两条路上同时比。

国产芯片过去最怕的就是"自己实验室跑分很漂亮，客户机房一部署就掉链子"。这次同时给出第三方实测（上海仪电，2026 年 7 月完成）和公开实机演示，是在主动消除这类怀疑。

能上台打，和能赢，是两件事。但能上台打，已经是不一样的问题了。

2 天数智芯真正的护城河在哪

不在 144GB 显存，也不在 1.05 倍吞吐——这些都会被追平。

在IXL144 这个整机柜方案 + 天数智算软件栈 + 380 家客户 + 小时级迁移经验这一整套上。

翻译一下：英伟达卖的是芯片加生态，国产芯片最难复制的恰恰是生态。 天数智芯在做的，是把"生态"这个最重的部分，用"贴身工程服务"换过来。

3 普通人现在只需要记住一件事

当国产算力开始用"每百万 Token 成本"来定价，而不是用"能不能跑"来定价，AI 的价格战就进入了新阶段。

谷歌那个 513.6 亿美元，微软那个 452 亿美元，说的都是"成本跑在收入前面"。而成本能不能降下来，最终决定 AI 是不是一个便宜的东西。

未来一年，AI 到底会不会普及，答案不取决于谁的模型更聪明，而取决于"每百万 Token 成本低 40%"这种数字能不能被更多国产卡复制一遍。10 月 28 日上海这场开放日给出的信号是：复制已经开始，而不是等某个巨大突破。

如果觉得这篇拆解对你有帮助，不妨点个关注和在看。

你的 AI 陪跑伙伴 【数字新奇点】 会继续关注国产算力芯片的实测表现、软件生态与交付节奏。

咱们下期见！

参考资料

天垓 300 第三方实测性能对标 H200，彤央 TY1200 实测性能超越 Thor T5000（财联社）

天垓 300 实测比肩并局部超越 H200：国产通用 GPU 的替代进度与供应链价值（腾讯新闻）

天垓 300 实测对标 H200：国产 GPU 跨过"好用"这道坎（南方财经/21 世纪经济报道）

天数智芯天垓 300 实测对标 H200，国产 GPU 接下来拼什么？（新浪财经）

天垓 300 实测对标 H200：国产 GPU 从性能追赶迈向高价值应用竞争（时代周报）

天垓 300 实测对标 H200：国产 GPU 跨过好用这道坎（21 世纪经济报道）