⚡ 前沿动态

天数智芯天垓 300 首次实机演示:称单卡吞吐为 H200 的 1.05 倍,测试条件未公布

🕐 2026-10-29 基础设施 🔥 46 次点击

10 月 28 日,天数智芯在上海媒体开放日首次公开天垓 300 通用 GPU 实机运行,称其为国内首个实测性能达到 H200 水平的通用 GPU,第三方实测折算单卡整体吞吐为 H200 的 1.05 倍。同期公布 IXL144 超节点(单柜 144 颗 GPU、18 颗 CPU,约 10.1TB 显存)与 GPU+XPU 异构部署 AFD 分离方案(称推理延迟降低 60%)。测试方法、模型负载与工作条件未同步公布。

  • 类别: 芯片与算力
  • 事件时间: 2026-10-28(天数智芯 2026 媒体开放日,上海)
  • 主要来源: [P1] 财联社、上海证券报·中国证券网、驱动中国等现场报道
  • 证据强度: C("第三方实测"未具名,测试方法、模型负载与工作负载条件未同步公布;目前只有厂商自述+二手转述,未回溯到测试报告原文)
  • 技术锚点: B(工程实现:超节点互联、PD/AFD 分离部署、编译工具链)、E(成本:每百万有效 Token 成本)
  • 本篇关键词: 天数智芯、天垓 300、IXL144、H200、通用 GPU、AFD 分离、FlyDSL、彤央 TY1200、MuJoCo-Warp、每百万有效 Token 成本

这是天垓 300 第一次从架构与路线图层面走到实机运行。对国产通用 GPU 而言,"能跑起来"本身就是一道门槛;但这次公布的性能数字缺少可核查的测试条件,需要打折阅读。

一、关键参数

项目 数值/状态 备注
单卡整体吞吐 称达 H200 的 1.05 倍 "第三方实测折算",测试方法与负载未公布
IXL144 超节点 单柜 144 颗 GPU + 18 颗 CPU,约 10.1TB 显存 公司称业界密度最高的单机柜 GPU 超节点
每百万有效 Token 成本 称较国际主流方案降低约 40% 公司测算,口径未说明
AFD 分离(GPU+XPU 异构) 称推理延迟降低 60% 公司称国内首个跑通该方案
新一代 P2P 互联引擎 目标将域内单次传输延迟由 3–5 微秒降至 1 微秒 目标值,非实测达成
彤央 TY1200(端侧) 称实测超越 Thor T5000;此前公开规格 300 TOPS 稠密算力 面向 AI PC 与具身智能
软件栈 称首家深度接入 FlyDSL 的国产 GPGPU 厂商 编译速度称提升 90% 以上

二、产品背景

此前天数智芯对天垓 300 的公开信息集中在架构与路线图,实机运行尚属首次。同期国产 GPU 的竞争维度已经从"单卡峰值"转向三件事:超节点密度、异构部署能力、以及软件栈能否让开发者低成本迁移。这次开放日的四项发布正好对应这三个维度。

三、采用的技术原理或方法

1. 超节点与互联

IXL144 在单个标准机柜内集成 144 颗 GPU 与 18 颗 CPU,聚合约 10.1TB 显存。新一代 P2P 互联引擎面向 Scale-up 与 Scale-out,目标是将域内单次传输延迟由 3–5 微秒降至 1 微秒,并支持统一内存语义编程与大 EP(把专家权重分散到更多核心)。注意这些是目标值。

2. AFD 分离与异构调度

AFD 分离通常指把注意力、前馈网络等计算阶段在异构算力单元之间拆分调度,以匹配不同硬件擅长的负载。公司称国内首个 GPU+XPU 异构部署的 AFD 分离方案已跑通,推理延迟降低 60%——该数字未给出基线任务与对比配置。

3. 软件栈"用 AI 开发 AI"

公司把环境安装、配置检查与模型部署方法组织为智能体可调用的工具与技能。公布的实测数据包括:PD 分离部署的环境准备与服务部署由 1 小时缩短至 10 分钟、人工操作由数十步减至 1 步;某大模型调优任务工作周期由 7 天缩短至 2 小时内;某主流模型适配与调优由 10 人天变为 1 人小时级完成,编译速度提升 90% 以上。这些数据均为公司自述的单项实测,样本与对照未公开。

四、解决的问题

旧方案的痛点:国产 GPU 过去常在单卡纸面参数上对齐,但在超节点密度、异构协同与软件栈成熟度上落后,导致"参数可看、系统不可用"。这次发布的针对性做法是把加速卡、8 卡服务器到超节点做成完整系统方案,并把开发者迁移成本(环境配置、调优、编译)作为独立的优化对象。

五、相关产品横向对比

比较口径说明: 下表为厂商公布口径,非同条件实测;H200 一列为对照基准,Thor T5000 为端侧对照。

维度 天垓 300 对照 变化 来源与口径
单卡整体吞吐 折算为 H200 的 1.05 倍 Nvidia H200 相对高约 5% 公司称第三方实测,条件未公布
单柜 GPU 密度 144 颗 — 公司称业界最高 公司测算
每百万有效 Token 成本 降低约 40% 国际主流方案(未具名) 相对下降 40% 公司测算
端侧(彤央 TY1200) 称超越 Thor T5000 Nvidia Thor T5000 未给倍数 公司称实测,条件未公布

六、定价或者使用策略

公司未公布天垓 300 的售价、供货规模或交付时间。IXL144 超节点此前已在工博会亮相,本次未更新商用时间。

七、局限与待验证事项

1. 适用范围

  • "第三方实测"未具名,测试方法、模型负载与工作负载条件未同步公布——这是本条最大的证据缺口,1.05 倍这个数字目前只能归因于厂商
  • "国内首个"系列表述(首个实测达 H200 水平的通用 GPU、首个 GPU+XPU 异构 AFD 分离方案)均为公司自述,未见独立机构认定
  • 1 微秒互联延迟、40% 成本下降等为测算或目标值

2. 待验证指标

  • 测试报告原文与第三方机构名称是否公开
  • 实际交付规模与客户部署案例
  • 每百万有效 Token 成本的测算模型(含哪些成本项、对照方案是谁)
声明:文中数据及部分观点来源于网络,部分观点来源于个人分析和推理,仅供参考,不构成投资或商业决策建议。
您觉得本文:
资料来源
  1. 财联社、上海证券报·中国证券网、驱动中国等
← 返回 [前沿动态]