⚡ 前沿动态

英伟达重启Rubin CPX推理预填充芯片

🕐 2026.09.04 星期五 来源 · 媒体 🔥 34 次点击

Rubin CPX是英伟达针对AI推理预填充阶段专门设计的加速芯片,此前被认为已从产品路线图中移除。重启后的版本改用168GB HBM4,算力接近标准Rubin GPU,采用独立机架设计,专攻长上下文预填充和KV Cache生成。超过50%的AI推理工作负载来自输入上下文处理及KV Cache构建,CPX直接瞄准这一成本瓶颈。

英伟达正式重启此前一度从产品路线图中移除的Rubin CPX推理预填充专用芯片项目,计划在‌2027年第一季度‌启动量产,核心面向长上下文大模型的Prefill阶段做定向硬件加速,是英伟达在Rubin GPU平台之外推出的首款推理专用协处理器,将大幅降低AI Agent场景的长序列推理成本。httP://AIdeepThin▲k.cn

一、背景背景

Rubin CPX最早在2025年9月的英伟达AI Infra Summit上首次公开,最初定位是低成本Prefill加速芯片,后续曾短暂从官方路线图中消失,被行业普遍认为已被取消。

随着Agent AI时代到来,长上下文输入的Prefill阶段算力需求爆发,英伟达最终调整设计方案,重新激活该项目,由TF国际证券分析师郭明錤的供应链调研首次对外确认重启消息。

二、硬件规格

  • 新版Rubin CPX完成了大幅架构重设计,核心参数全面升级:
  • 搭载‌168GB HBM4高带宽显存‌,替代最初规划的GDDR7显存,适配Prefill阶段对超高显存带宽的强需求。
  • 单芯片算力可达‌30 PFLOPS NVFP4‌,计算性能与标准版Rubin GPU基本持平。
  • 单芯片功耗为‌2300W‌,采用独立模块化机架设计,通过分层互联架构与Rubin GPU做深度协同。

三、主要参数

规格 Rubin CPX(新版) 标准Rubin GPU 旧版CPX设计
显存 168GB HBM4 288GB HBM4 128GB GDDR7
功耗 2300W 2300W —
算力 接近Rubin GPU 基准 接近Rubin
NVLink带宽 1-1.5 TB/s 3.6 TB/s —
精度 NVFP4 NVFP4 —
算力表现 30-50 Petaflops 基准 —

四、架构设计

  1. 独立机架: 新版CPX采用独立MGX ETL机架,而非此前与Rubin共享机架。客户可选64、128、192或256张CPX GPU。每64张构成一个机架模块,含8个计算托盘(每盘8张CPX GPU)和一个交换机托盘。
  2. 互联方案:
  • 托盘内8颗CPX GPU间:NVLink纵向扩展httP://AIdeepThin▲k.cn
  • 机架模块内托盘间:Spectrum-6以太网,全铜L1链路
  • 跨机架模块:OSFP光链路
  1. 工作原理: CPX必须与Vera Rubin NVL72搭配使用,英伟达建议1:1配置。CPX负责预填充并构建KV Cache,随后通过以太网RDMA将KV Cache传输给Rubin进行解码。

五、部署模式与价值

预填充(Prefill)阶段需要处理大量输入信息并生成KV Cache。据郭明錤调查,超过50%的AI推理工作负载来自输入上下文处理及KV Cache构建。随着大模型上下文长度持续增加(Fable 5.1达100万Token、星火X2.5端侧也达100万Token),预填充效率直接决定AI推理整体成本。httP://AIdeepThin▲k.cn

CPX的逻辑是:不为所有推理阶段使用同一种GPU,而是将预填充和解码分离,让CPX专攻预填充、Rubin专攻解码。每个8颗CPX托盘拥有约1.34TB HBM4,足以满足大多数长上下文预填充工作负载及对应KV Cache需求。这提供了一种比标准Rubin更灵活、成本更低的预填充处理方式。

Rubin CPX采用和Rubin GPU ‌1:1配对‌的部署比例,专门承接长上下文推理中的Prefill环节任务:

  • 把原本需要主GPU承担的海量输入序列解析工作剥离出来,让主GPU专注于Token生成阶段,大幅提升整个推理集群的长序列处理吞吐量。
  • 相比传统全GPU集群方案,可显著降低长上下文、AI Agent场景的推理综合成本,解决百万级Token输入场景下主GPU算力被Prefill环节大量占用的行业痛点。
声明:文中数据及部分观点来源于网络,部分观点来源于个人分析和推理,仅供参考,不构成投资或商业决策建议。
资料来源
  1. NVIDIA
  2. 华尔街见闻
  3. Cool3c - 郭明錤
← 返回 [前沿动态]