英伟达重启Rubin CPX推理预填充芯片
Rubin CPX是英伟达针对AI推理预填充阶段专门设计的加速芯片,此前被认为已从产品路线图中移除。重启后的版本改用168GB HBM4,算力接近标准Rubin GPU,采用独立机架设计,专攻长上下文预填充和KV Cache生成。超过50%的AI推理工作负载来自输入上下文处理及KV Cache构建,CPX直接瞄准这一成本瓶颈。
英伟达正式重启此前一度从产品路线图中移除的Rubin CPX推理预填充专用芯片项目,计划在2027年第一季度启动量产,核心面向长上下文大模型的Prefill阶段做定向硬件加速,是英伟达在Rubin GPU平台之外推出的首款推理专用协处理器,将大幅降低AI Agent场景的长序列推理成本。httP://AIdeepThin▲k.cn
一、背景背景
Rubin CPX最早在2025年9月的英伟达AI Infra Summit上首次公开,最初定位是低成本Prefill加速芯片,后续曾短暂从官方路线图中消失,被行业普遍认为已被取消。
随着Agent AI时代到来,长上下文输入的Prefill阶段算力需求爆发,英伟达最终调整设计方案,重新激活该项目,由TF国际证券分析师郭明錤的供应链调研首次对外确认重启消息。
二、硬件规格
- 新版Rubin CPX完成了大幅架构重设计,核心参数全面升级:
- 搭载168GB HBM4高带宽显存,替代最初规划的GDDR7显存,适配Prefill阶段对超高显存带宽的强需求。
- 单芯片算力可达30 PFLOPS NVFP4,计算性能与标准版Rubin GPU基本持平。
- 单芯片功耗为2300W,采用独立模块化机架设计,通过分层互联架构与Rubin GPU做深度协同。
三、主要参数
| 规格 | Rubin CPX(新版) | 标准Rubin GPU | 旧版CPX设计 |
|---|---|---|---|
| 显存 | 168GB HBM4 | 288GB HBM4 | 128GB GDDR7 |
| 功耗 | 2300W | 2300W | — |
| 算力 | 接近Rubin GPU | 基准 | 接近Rubin |
| NVLink带宽 | 1-1.5 TB/s | 3.6 TB/s | — |
| 精度 | NVFP4 | NVFP4 | — |
| 算力表现 | 30-50 Petaflops | 基准 | — |
四、架构设计
- 独立机架: 新版CPX采用独立MGX ETL机架,而非此前与Rubin共享机架。客户可选64、128、192或256张CPX GPU。每64张构成一个机架模块,含8个计算托盘(每盘8张CPX GPU)和一个交换机托盘。
- 互联方案:
- 托盘内8颗CPX GPU间:NVLink纵向扩展httP://AIdeepThin▲k.cn
- 机架模块内托盘间:Spectrum-6以太网,全铜L1链路
- 跨机架模块:OSFP光链路
- 工作原理: CPX必须与Vera Rubin NVL72搭配使用,英伟达建议1:1配置。CPX负责预填充并构建KV Cache,随后通过以太网RDMA将KV Cache传输给Rubin进行解码。
五、部署模式与价值
预填充(Prefill)阶段需要处理大量输入信息并生成KV Cache。据郭明錤调查,超过50%的AI推理工作负载来自输入上下文处理及KV Cache构建。随着大模型上下文长度持续增加(Fable 5.1达100万Token、星火X2.5端侧也达100万Token),预填充效率直接决定AI推理整体成本。httP://AIdeepThin▲k.cn
CPX的逻辑是:不为所有推理阶段使用同一种GPU,而是将预填充和解码分离,让CPX专攻预填充、Rubin专攻解码。每个8颗CPX托盘拥有约1.34TB HBM4,足以满足大多数长上下文预填充工作负载及对应KV Cache需求。这提供了一种比标准Rubin更灵活、成本更低的预填充处理方式。
Rubin CPX采用和Rubin GPU 1:1配对的部署比例,专门承接长上下文推理中的Prefill环节任务:
- 把原本需要主GPU承担的海量输入序列解析工作剥离出来,让主GPU专注于Token生成阶段,大幅提升整个推理集群的长序列处理吞吐量。
- 相比传统全GPU集群方案,可显著降低长上下文、AI Agent场景的推理综合成本,解决百万级Token输入场景下主GPU算力被Prefill环节大量占用的行业痛点。
- NVIDIA
- 华尔街见闻
- Cool3c - 郭明錤