天数智芯天垓 300 首次实机演示:称单卡吞吐为 H200 的 1.05 倍,测试条件未公布
10 月 28 日,天数智芯在上海媒体开放日首次公开天垓 300 通用 GPU 实机运行,称其为国内首个实测性能达到 H200 水平的通用 GPU,第三方实测折算单卡整体吞吐为 H200 的 1.05 倍。同期公布 IXL144 超节点(单柜 144 颗 GPU、18 颗 CPU,约 10.1TB 显存)与 GPU+XPU 异构部署 AFD 分离方案(称推理延迟降低 60%)。测试方法、模型负载与工作条件未同步公布。
- 类别: 芯片与算力
- 事件时间: 2026-10-28(天数智芯 2026 媒体开放日,上海)
- 主要来源: [P1] 财联社、上海证券报·中国证券网、驱动中国等现场报道
- 证据强度: C("第三方实测"未具名,测试方法、模型负载与工作负载条件未同步公布;目前只有厂商自述+二手转述,未回溯到测试报告原文)
- 技术锚点: B(工程实现:超节点互联、PD/AFD 分离部署、编译工具链)、E(成本:每百万有效 Token 成本)
- 本篇关键词: 天数智芯、天垓 300、IXL144、H200、通用 GPU、AFD 分离、FlyDSL、彤央 TY1200、MuJoCo-Warp、每百万有效 Token 成本
这是天垓 300 第一次从架构与路线图层面走到实机运行。对国产通用 GPU 而言,"能跑起来"本身就是一道门槛;但这次公布的性能数字缺少可核查的测试条件,需要打折阅读。
一、关键参数
| 项目 | 数值/状态 | 备注 |
|---|---|---|
| 单卡整体吞吐 | 称达 H200 的 1.05 倍 | "第三方实测折算",测试方法与负载未公布 |
| IXL144 超节点 | 单柜 144 颗 GPU + 18 颗 CPU,约 10.1TB 显存 | 公司称业界密度最高的单机柜 GPU 超节点 |
| 每百万有效 Token 成本 | 称较国际主流方案降低约 40% | 公司测算,口径未说明 |
| AFD 分离(GPU+XPU 异构) | 称推理延迟降低 60% | 公司称国内首个跑通该方案 |
| 新一代 P2P 互联引擎 | 目标将域内单次传输延迟由 3–5 微秒降至 1 微秒 | 目标值,非实测达成 |
| 彤央 TY1200(端侧) | 称实测超越 Thor T5000;此前公开规格 300 TOPS 稠密算力 | 面向 AI PC 与具身智能 |
| 软件栈 | 称首家深度接入 FlyDSL 的国产 GPGPU 厂商 | 编译速度称提升 90% 以上 |
二、产品背景
此前天数智芯对天垓 300 的公开信息集中在架构与路线图,实机运行尚属首次。同期国产 GPU 的竞争维度已经从"单卡峰值"转向三件事:超节点密度、异构部署能力、以及软件栈能否让开发者低成本迁移。这次开放日的四项发布正好对应这三个维度。
三、采用的技术原理或方法
1. 超节点与互联
IXL144 在单个标准机柜内集成 144 颗 GPU 与 18 颗 CPU,聚合约 10.1TB 显存。新一代 P2P 互联引擎面向 Scale-up 与 Scale-out,目标是将域内单次传输延迟由 3–5 微秒降至 1 微秒,并支持统一内存语义编程与大 EP(把专家权重分散到更多核心)。注意这些是目标值。
2. AFD 分离与异构调度
AFD 分离通常指把注意力、前馈网络等计算阶段在异构算力单元之间拆分调度,以匹配不同硬件擅长的负载。公司称国内首个 GPU+XPU 异构部署的 AFD 分离方案已跑通,推理延迟降低 60%——该数字未给出基线任务与对比配置。
3. 软件栈"用 AI 开发 AI"
公司把环境安装、配置检查与模型部署方法组织为智能体可调用的工具与技能。公布的实测数据包括:PD 分离部署的环境准备与服务部署由 1 小时缩短至 10 分钟、人工操作由数十步减至 1 步;某大模型调优任务工作周期由 7 天缩短至 2 小时内;某主流模型适配与调优由 10 人天变为 1 人小时级完成,编译速度提升 90% 以上。这些数据均为公司自述的单项实测,样本与对照未公开。
四、解决的问题
旧方案的痛点:国产 GPU 过去常在单卡纸面参数上对齐,但在超节点密度、异构协同与软件栈成熟度上落后,导致"参数可看、系统不可用"。这次发布的针对性做法是把加速卡、8 卡服务器到超节点做成完整系统方案,并把开发者迁移成本(环境配置、调优、编译)作为独立的优化对象。
五、相关产品横向对比
比较口径说明: 下表为厂商公布口径,非同条件实测;H200 一列为对照基准,Thor T5000 为端侧对照。
| 维度 | 天垓 300 | 对照 | 变化 | 来源与口径 |
|---|---|---|---|---|
| 单卡整体吞吐 | 折算为 H200 的 1.05 倍 | Nvidia H200 | 相对高约 5% | 公司称第三方实测,条件未公布 |
| 单柜 GPU 密度 | 144 颗 | — | 公司称业界最高 | 公司测算 |
| 每百万有效 Token 成本 | 降低约 40% | 国际主流方案(未具名) | 相对下降 40% | 公司测算 |
| 端侧(彤央 TY1200) | 称超越 Thor T5000 | Nvidia Thor T5000 | 未给倍数 | 公司称实测,条件未公布 |
六、定价或者使用策略
公司未公布天垓 300 的售价、供货规模或交付时间。IXL144 超节点此前已在工博会亮相,本次未更新商用时间。
七、局限与待验证事项
1. 适用范围
- "第三方实测"未具名,测试方法、模型负载与工作负载条件未同步公布——这是本条最大的证据缺口,1.05 倍这个数字目前只能归因于厂商
- "国内首个"系列表述(首个实测达 H200 水平的通用 GPU、首个 GPU+XPU 异构 AFD 分离方案)均为公司自述,未见独立机构认定
- 1 微秒互联延迟、40% 成本下降等为测算或目标值
2. 待验证指标
- 测试报告原文与第三方机构名称是否公开
- 实际交付规模与客户部署案例
- 每百万有效 Token 成本的测算模型(含哪些成本项、对照方案是谁)
- 财联社、上海证券报·中国证券网、驱动中国等