天数智芯天垓300实机跑通：单卡吞吐达H200的1.05倍

一句话结论：天垓 300 第一次把国产通用 GPU 的纸面参数变成了可运行、可折算的实机数据，第三方实测折算的单卡整体吞吐约为 H200 的 1.05 倍，但支撑这个数字的测试方法、模型负载与工作负载条件都还没有公开，真正值得盯的是 IXL144 超节点把每百万有效 Token 成本压下 40% 这件事。

2026 年 10 月 28 日，天数智芯在上海举办 2026 媒体开放日，首次公开展示天垓 300 通用 GPU 的实机运行。这家 2015 年成立、今年 1 月刚在港交所主板上市的国产通用 GPU 公司，把此前只存在于架构白皮书和路线图上的产品，摆到了媒体的镜头前。

从纸面到实机：这次演示的分量在哪里

国产 GPU 过去两年的公开信息大多停留在两个层面：一是发布会上的参数表，二是路线图上的代际规划。真正跑得起来的机器往往在客户机房里，外部看不到。这次开放日的意义在于，天垓 300 的性能第一次有了第三方折算后的数字，而不只是厂商自述的架构优势。

按照天数智芯在现场披露的信息，天垓 300 成为国内首个实测性能达到英伟达 H200 水平的通用 GPU，第三方实测折算的单卡整体吞吐达到 H200 的 1.05 倍。这里必须加一个限定条件：具体的测试方法、模型负载与工作负载条件尚未同步公布。厂商主动点名这项缺失，本身是个值得记下的细节。

把时间线拉直会看得更清楚。天垓 300 在 2026 年 1 月随四代架构路线图一同公布，7 月 WAIC 上发布并宣称效能对标乃至超越 Hopper 架构的国际主流方案，10 月 12 日至 16 日的工博会上，天垓 300 IXL144 整机柜方案首次亮相，再到 10 月 28 日实机跑起来，中间跨了十个月。从架构图到能上机的产品，这是国产算力少见的完整节奏。

官方公布的效能账：每一项都有对照基线

天数智芯在天垓 300 的产品材料里给出了一整套以 Hopper 为基线的对比数据。这些数字来自其内部的 Iluvatar Perf Analysis Lab，厂商自己标注了测试场景不同会存在浮动。作为参照系，它们比单看参数更有价值。

架构层面，天垓 300 走的是 SIMT 通用计算路线，把标量计算、矢量计算与张量计算统一在同一体系里，精度覆盖 FP4、FP8、FP16、BF16，指令集包含 ADD、MUL、FMA、MMA、DA 等类型，不局限于 Transformer 场景。底层三项优化里，ixSMEX 提升数据复用率以减少重复访存，ixTrans 通过无损矩阵转置降低存储冲突与显存开销，动态规划相关的多指令计算被压缩进单条指令完成。这套设计明显是冲着矩阵求解、动态规划、数字孪生这些非 Transformer 的计算负载去的。

有一处口径差异值得读者留意。开放日现场口径是单卡整体吞吐约为 H200 的 1.05 倍，而产品材料里另有一组表述，在用户体验相同的前提下，每张天垓 300 比国际主流产品吞吐高 5 至 6.5 倍。两组数字测量的显然不是同一件事，一组落在单卡硬件吞吐上，另一组指向整机与软件栈协同后的系统表现，但两组数据的测试条件都没有完整公开。它们之间的差距，恰好是国产算力从参数到落地之间那段尚未填平的距离。

IXL144：144 张卡如何塞进一个机柜

单卡数据之外，IXL144 超节点是这次开放日真正的重头。它在 2026 年工博会上首发，是天数智芯系统化超节点布局中的第一个方案。

144 这个数字不是简单堆出来的。负责软件研发的天数智芯副总裁石加圣解释过设计取舍：堆更多会撞上机柜规格和互联拓扑能力的边界。144 颗 GPU 全部可参与计算，也可以按 128 卡承担主要计算任务、16 卡提供冗余资源的方式编排。大模型的并行计算通常按 2 的幂次划分，64 卡和 128 卡是常见规模，如果 128 卡全用于计算，某个节点出故障就可能拖垮整个任务。这多出来的 16 卡，是给可靠性留的余量。

互联是超节点真正的技术门槛。IXL144 采用高带宽整柜 P2P 互联，单跳时延达到 100 纳秒级，支持原生 Load/Store 语义，整机柜内全部 GPU 显存可视为统一内存地址域，不依赖传统 RDMA 通信路径。官方给出的参考设计数据是，在特定 MoE All-to-All 场景下有效带宽提升 15%。这个场景选得很准，随着 MoE 模型普及，专家并行带来的 All-to-All 通信正是训练与推理的关键瓶颈，网卡互联与整机柜全交换互联之间的差距在这里会被放大。

成本侧的账是天数智芯讲得最多的：IXL144 每百万有效 Token 成本较国际主流方案可降低 40%。这个数字若成立，意义不亚于单卡性能本身。整套方案兼容 CUDA 等主流生态，在供电、承重和散热条件满足时可直接利用现有机房部署，减少额外改造投入。设计目标还提前考虑了 10 万亿参数级模型的运行需求，而今年 7 月发布的 Kimi K3 总参数量已达 2.8 万亿，阿里在 9 月云栖大会上披露的下一代 Qwen 4 参数规模目标指向 5 万亿至 10 万亿。留余量这件事，国产厂商这次做得比以往更早。

AFD 分离与端侧 TY1200：两条并行的支线

开放日还披露了国内首个 GPU 与 XPU 异构部署的 AFD 分离方案跑通，推理延迟降低 60%。AFD 分离的思路是把注意力、前馈网络等计算阶段拆分到不同算力单元上调度，让不同硬件各自处理擅长的负载类型。这条路线与推理侧的成本优化是同一件事的两个侧面，计算密集的算子与访存密集的算子挤在同一张卡上跑，是纯粹的浪费。让异构单元分别承接，等于在不改模型的前提下省掉一部分冗余算力。

端侧产品线同步有进展。彤央 TY1200 的实测性能被称为超越 Thor T5000，此前公开规格为 300 TOPS 稠密算力，面向 AI PC 与具身智能场景。天数智芯称这是首次在国产端侧产品上实现基于 MuJoCo-Warp 的 GPU 加速物理仿真。物理仿真对具身智能的价值在于，机器人策略的训练不必完全依赖真机试错，可以在仿真环境里先跑一遍，这比单纯提高 TOPS 更接近真实痛点。

云边端一体化的落地思路，天数智芯边端事业部总经理郭为用安防场景做了说明：传统方案依赖 YOLO、CV 算法，在图像分辨率不足时识别准确率难以抬升。天数智芯的方案让前端 CV 算法做初筛，再由 MoE 大模型做深度研判，在这家客户的落地场景里实测准确率可达 97% 以上。边端设备产生的真实推理数据可以回传云端用于微调与强化学习，形成数据闭环。软件栈统一是这套闭环的基础，单套软件体系适配全系芯片，开发者体验保持一致。

软件生态：国产算力真正的短板与它现在的进度

业界普遍认为软件栈与通信库是国产算力的阶段性短板。英伟达 CUDA 用了十几年建立的护城河，不可能靠一次发布会填平，这一点行业心里有数。谷歌把 PyTorch 零改动迁移到 TPU 的做法被外界视为 CUDA 护城河出现裂痕的信号，其背后逻辑是：只要上层框架的迁移成本足够低，专用硬件依然有机会切入特定场景。

天数智芯的应对有三条。第一是坚持 GPGPU 通用路线，兼容主流生态，开发阶段只需少量代码修改即可完成迁移。第二是自 2018 年起持续完善软件栈，目前已开发近百个加速库，形成覆盖通信、编译、驱动、量化、性能分析的工具体系，支持主流大模型框架、模型与关键加速组件。第三是通信库的针对性投入，厂商特别开发了面向推理工作负载优化的通信库，并支持低精度数据传输与集合规约场景。第三条被石加圣称为在通算融合层面属于国内较早落地的厂商。

这次开放日还披露了另一个信号：天数智芯成为首家深度接入 FlyDSL 的国产 GPGPU 厂商，FlyDSL 指的是用 AI 开发 AI 的编译链路。这个方向的意义在于，芯片架构的迭代速度正在超过人工手写优化代码的速度，编译器能不能自动生成高质量的算子实现，直接决定新硬件能不能在发布后立刻可用。对一家产品从 0 到 1 走到 100 的公司来说，把资源压在软件栈上的收益通常比再堆一层硬件更划算。

各家超节点集中发布之后，成本才是唯一硬指标

国产超节点赛道在 2026 年集中进入了发布期，燧原、东方算芯、中兴通讯、摩尔线程、壁仞都在推高密度方案，单柜 128 卡一度是国产厂商的代表性形态。天数智芯把数字抬到 144，抬高的是密度，而真正决定采购决策的是另外几件事。

第一是迁移成本。石加圣把开发与运维分开讲：开发阶段要兼容客户原有环境与工具，少改代码就能迁；交付之后，能否长期稳定运行才是国产算力迁移落地的重要标尺。公司的投入落在 RAS 适配、长期稳定性运维与开发者工具链三个方向。第二是成本的可复算性。40% 的每百万 Token 成本降幅需要客户用自己的负载去验算，这比单看发布会参数更实在。第三是冗余设计，144 卡里那 16 卡的余量，正是对高可用诉求的回应。

还有一层现实背景。英伟达在中国 AI 芯片市场的份额已跌至 34%，国产替代的窗口正在打开，但份额上升和产能交付之间不是一条直线。微软 Maia 300 这类自研方案在 2027 年多吉瓦部署上的推进、谷歌开源 TorchTPU 给出的生态迁移路径、燧原与中兴在超节点上的联手，都在同时改变这个格局。天数智芯选择通用 GPU 路线并坚持超大密度集成，本质上是在赌一件事：当客户的模型规模、上下文长度与 Agent 并发量继续往上走，能够同时塞下更多显存、承担更低通信开销的整机柜方案会更值钱。

三个常见问题

天垓 300 的性能数据现在能信到什么程度？

能信的是存在国内首个实测对标 H200 的通用 GPU 这件事，实机演示本身可验证。能存疑的是 1.05 倍这个数字的适用范围，测试方法、模型负载与工作负载条件均未公布，第三方也无法复现。因此更合理的读法是把它当作一个方向性信号，而非精确的横向排名。

144 卡超节点相比 128 卡方案，优势到底在哪？

密度提升只是表层，真正的差异在互联与内存语义。整柜 P2P 互联、100 纳秒级单跳时延、原生 Load/Store 让全柜显存成为一个统一地址域，在 MoE All-to-All 场景下有效带宽提升 15%，这是 128 卡方案在跨机通信上难以达到的。多出的 16 卡还能作为冗余资源承担故障隔离，缓解高可用压力。

每百万 Token 成本降低 40% 的说法可信吗？

这是天数智芯自己的测算，变量包括单机柜 144 颗 GPU 的配置、10.1TB 共享显存以及兼容 CUDA 生态带来的迁移成本优势。要落到具体客户身上，需要用他们自己的模型负载、上下文长度与并发量重新验算一遍。芯片单价、机房改造、运维人力这三项在 40% 之外还会独立影响最终账单。

小结

天垓 300 的实机演示把国产通用 GPU 的进度条往前推了一格，1.05 倍 H200 的折算吞吐与 IXL144 的 40% 成本降幅，都比纸面参数更接近真实采购决策。但同样要记住的是，测试条件未公开、第三方复现尚未出现、软件生态的差距依然以年为单位计算。对关注国产算力的人来说，接下来最该等的是完整测试方法的披露，以及客户侧负载的复算结果。

相关阅读

• 摩尔线程开源万卡级训练栈：1 万亿参数 MoE 预训练与强化学习
• 众星微 12 款互连芯片量产：出货 80 万颗，国产算力补上互连短板
• 英伟达中国 AI 芯片份额跌至 34%：IDC 报告全解读
• 微软 Maia 300 深度：7 倍吞吐、40% 能效，2027 多吉瓦部署
• 谷歌开源 TorchTPU：PyTorch 零改动迁移 TPU
• NVIDIA 下代 Groq LPU 放弃 SRAM：3D 堆叠 DRAM 能解决大模型推理的存储墙吗