2025年AI算力“卖水人”专题报告：从Blackwell到Rubin，计算、网络、存储持续升级

第一章 GPU核心

NVIDIA每一代GPU的计算能力、NVLink、内存持续扩大

英伟达 Blackwell Ultra凭借节能的双光罩（dual‑reticle）设计、高带宽大容量 HBM3E 内存子系统、第五代Tensor核心以及突破性的 NVFP4 精度格式，正在提升加速计算的新标准。

B300：Bl ackwe ll Ult r a为TSMC 4NP工艺，内存容量扩大

B300 GPU：计算性能：基于新一代Blackwell Ultra 架构，采用TSMC的4NP定制工艺，搭 配NVIDIA的CoWoS-L封装技术。FP4 浮点算力可达1 5 P FL O P S，比B2 0 0的 FLOPS提升50%，部分性能提升将来自 200W的额外功耗。内 存 容 量 ： 从 8 - H i 升 级 到 了 1 2 - H i HBM3E，使得每个GPU的内存容量增 加到了288GB，不过由于引脚速率保持 不 变 ， 单 G P U 的 内 存 带 宽 仍 维 持 在 8TB/s。高效网路互联：引入ConnectX-8 NIC， 该 N I C 提 供 4 个 2 0 0 G 通 道 ， 为 InfiniBand实现800G的总吞吐量，与当 前的Blackwell CX-7 NIC相比，网络速 度提高了一倍。

GB3 0 0：采用HBM3E技术，FP4的计算能力实现1.5倍的增长

GB3 0 0性能：集成更强大的B3 0 0芯片并采用1 2层堆叠HBM3E显存，总 容量288 GB（较前代192 GB大幅提升），带宽保持8 TB/s；FP4计算能 力相比前代产品提升1.5倍，显著增强AI大规模浮点运算性能。 G B 3 0 0结 构 ： 通过N V L i n k -C 2C 将一 个 G r a c e C P U 与 两 个 B l a c k w e l l Ultr a GPU连接，支持NVLi n k 5 . 0，每个GPU双向带宽1 . 8 TB/s；内置 Conne c tX‑8 Supe rNIC，提供800 Gb/s高速网络并拥有48条PCI e通道； 支持新的架构如空气冷却MGX B300A。对于GB300，Nvidi a不再提供完 整的Bi a n c a板，而是转而供应B3 0 0作为SXM Pu c k模块，Gr a c e CPU则 以BGA封装形式提供。转向SXM Puck为更多OEM和ODM参与计算托盘 提供了机会。

2 02 6年推出Rubin架构，继任者Fe ynman于2028年登场

2 0 2 6年将推出Rubin 架 构 ， 基 于 R u b i n 的 Vera Rubin NVL 144 机柜由72颗Vera CPU 和1 4 4颗Ru b i n G P U 组成。 2 0 2 7 年 推 出 R u b i n U l t r a 产 品 ， 基 于 Ru b i n Ultr a的Ru b i n U l tr a N V L 5 7 6配备 5 7 6 颗 R u b i n U l t r a GPU组成。 2 0 2 8 年 将 推 出 Feynman架构。

NVIDIA Dynamo：提升多GPU推理效率，AI工厂的操作系统

NVIDIA Dynamo——开源、低延迟的模块化推理框架，在分布式环境中服务生成式 AI 模型。Dynamo可在多个GPU节点之间扩展推理任务，并动态分配GPU工作线程，以缓解流量瓶颈。Dynamo还支持解耦式推理服务，可将大型语言模型推理中的上下文预填（pr e fill）与生成（de code）阶段在多个GPU间分离执行，以优化性能、提升可扩展性并降低成本。 NVIDIA Dynamo解决了分布式和分解推理服务的挑战。它包括四个关键组件： GPU资源规划器：一个规划和调度引擎，用于监控多节点部署中的容量和预填充活动，以调整GPU资源，并在预填充和解码之间分配这些资源。 智能路由：KV缓存感知路由引擎，可在多节点部署中高效引导大型GPU集群中的传入流量，从而最大限度地减少昂贵的重新计算。 低延迟通信库：先进的推理数据传输库，可加速GPU之间以及异构内存和存储类型之间的KV缓存传输。 KV缓存管理器：成本感知型KV缓存卸载引擎，旨在跨各种内存层次结构传输KV缓存，在保持用户体验的同时释放宝贵的GPU内存。Dynamo的智能推理优化可将每个GPU生成的token数量提高30倍以上。基于Dynamo，相比Hoppe r，Bl a ckwe ll性能提升25倍，可以基于均匀可互换的可编程架构。在推理模型中，Bl a ckwe ll性能是Hoppe r的40倍。

英伟达：FY2026Q3营收指引540亿美元左右

业绩：FY2 0 2 6Q2（截止至2 0 2 5年7月2 7日），英伟达营收4 6 7亿美元，同比+5 6%。 Bl a c kwe l l数据中心收入环比增长17%，Blackwell实现了非凡的跨越式发展——Bl ackwell Ultra的产量正在全速提升，市场需求也异常旺盛。指引：FY2026Q3，预期营收为540亿美元左右，上下浮动2%。毛利率：FY2026Q2，GAAP和非GAAP毛利率分别为72.4%和72.7%；指引：FY2026Q3，预期GAAP和非GAAP毛利率预计分别为73.3% 和73.5%，分别上下浮动50个基准点。

第二章 计算

英伟达整机：HGX到MGX计算平台，服务器整机到系统形态

服 务 器 制 造 级 别 可 分 为L e v e l 1 - L e v e l 1 2 。 Leve l 1为零部件制造， Leve l 6为主板集成，通 常为 O D M 发货“服务 器 准 系 统 ” 时 提 供 的 。 L e v e l 1 0为完整服务器 组 装 和 测 试 ， 能 够 达 到 10 级制造水平的制造商 将 提 供 有 效 的 服 务 器 解 决方案。Leve l 11-12级 可 将 多 台 服 务 器 联 网 作 为 机 架 级 甚 至 多 机 架 级 解决方案。

英伟达整机：HGX版本由ODM出货，DGX版本由英伟达交付

HGX：模组主要为SXM版本，随后8个GPU SXM模组构建成一个HGX UBB基板，基本交付给英伟达后，分配给品牌级服务器厂商，包括鸿海、广达、纬创、英业达等厂商。 DGX：SXM模组生产后，交给下游服务器厂商进行组装，整机交付给英伟达，流向下游CSP厂商与企业客户等。

英伟达整机：MDX开放模块化设计，NVL72或采用此结构

MGX（Modul e GPU Ac c e l e rator）：是一个开放模块化服务器设计 规范和加速计算的设计。MGX让系统制造商快速且经济高效地为 AI、 H PC 和 N V I D I A Omn i v e rs e 应用程序构建 1 0 0 多种服务器变体。 GB300 NVL72整个系统由18个计算托盘和9个交换机托盘组成。

英伟达整机：GB3 0 0 NVL7 2提升性能与带宽，显著增强AI工厂效率

GB3 00 NVL7 2机架：1 8个计算托盘，每个计算托盘包含4颗Bl a c kwe ll Ultr a GPU+2颗Gr a c e CPU，总计7 2颗Bl a c kwe ll Ultr a GPU+3 6颗Gr aceCPU；H B M容量达到了2 0 TB，总带宽5 7 6 T B /s；配备 9 个 N V L i n k 交换 机托 盘； 节点间N V L i n k带 宽 1 3 0 T B /s； 内置 7 2 张 C X - 8网卡，提供1 4. 4TB/s带宽。GB3 0 0 NVL7 2 可无缝集成NVIDIA Qu a n t um-X8 0 0与NVIDIA Sp e c tr um-X网络平台，使 AI 工厂和云数据中心能够从容应对三大扩展定律的需求。此外，机架还整合了18张用于增强多租户网络、安全性和数据加速Bl u eFi e l d - 3 DPU。

NVIDIA Bl a ckwe ll Ult r a 与 Hoppe r 相比AI工厂输出性能的整体潜力提升5 0倍。与 Ho p p e r 相比，采用NVIDIA GB3 0 0 NVL7 2的AI工厂将在每用户TPS上实现10倍提升，并在单位功耗（每MW）吞吐率上相比Ho p pe r架构实现5倍提升。这一叠加效应将带来AI工厂总体产出性能最多提升50倍的潜力。

NVL72组装模式：优化PCB与机架设计，提升互联性能

PCB：全称Printed Circuit Board，即印刷电路板，是指在通用基材上按预定设计形成点间连接及印制元件的印刷板。

Rubin Ultra NVL576采用Kyber架构，PCB背板替代铜缆互联。英伟达将于2027年下半年推出RubinUltraNVL576产品，使用代号为“Kyber ”的新型液冷机架。在此架构下，计算托盘被旋转90度，显著提升机架密度。每个机架包含4个计算单元，每层配置18个计算刀片。为了克服在有限空间中布设铜缆的难度，PCB板背板取代了铜缆背板，作为机架内GPU与NVSwitch之间的扩展互联链路。

第三章 网络

NVIDIA CPO：集成硅光子技术，打破超大规模与企业网络旧限制

NVIDIA集成硅光子的共封装光纤 (CPO) 交换机是面向代理AI时代的全球最先进的网络解决方案。NVIDIA CPO创新技术将可插拔收发器替换为与ASIC封装在同一封装中的硅光子器件，与传统网络相比，其能效提高了3.5倍，网络弹性提高了10倍，部署速度提高了1.3倍。

根据SemiAnalysis分析，在部署400,000个GB200 NVL72设备的场景中，从传统的基于DSP收发器的三层网络迁移到基于CPO的两层网络，可以实现高达12%的集群总功耗节省，将收发器功耗占比从计算资源的10%降低到仅1%。

NVIDIA 交换机：力图将AI数据中心功耗降低5 0%以上

Nvidia正在通过将CPO集成到其Quantum InfiniBand和Spectrum以太 网交换机中来推进其网络技术，此举有望降低AI数据中心的功耗和成 本。Quantum-X和Spectrum-X交换机减少了对传统光收发器的依赖， 为超大规模人工智能工厂提供高达400Tbps的吞吐量。

Quantum-X Photonics交换机：上市时间预计在2026年初上市。 NVIDIA Quantum-X800平台正在扩展，新增基于CPO技术的交换机， 首款产品为Q3450-LD，支持144个800Gb/s InfiniBand端口。这一突 破性交换机采用液冷设计，高效冷却板载硅光子器件。NVIDIA Quantum-X光子InfiniBand交换机支持全新网络架构创新，实现前所 未有的扩展能力，可在非阻塞的两级胖树拓扑结构下，以800Gb/s的 速率连接超过 10,000 个 GPU。

相比Quantum家族的上代产品，速度快2倍，扩展性提升5倍。就 Quantum-X系统来看，每颗CPO芯片都配有18个硅光chiplet（3D堆 叠的硅光引擎），每个硅光引擎采用TSMC N6工艺，2.2亿晶体管、 1000个集成的光器件；每个硅光引擎连接2个激光器以及16条光纤 （一颗CPO芯片也就要连36个激光器、288条数据连接）。

Spectrum-X Photonics交换机：上市时间预计为2026年下半年。 NVIDIA也在其Spectrum-X平台中引入了面向以太网交换机的CPO技 术。该系列包括两个型号：一个型号支持512个800Gb/s的以太网端口， 另一个型号支持128个800Gb/s的以太网端口。

NVIDIA NVLink Fusi on：开放半定制设计，满足客户的灵活需求

N V Li n k F u si o n为 定 制 C P U、 定 制 X P U或 两 者 的 组 合 配 置 提 供 了 灵 活 的 解 决 方 案 。 作为 模块 化开放计算项 目 （O C P）MG X机架架构的一部分，NVLi n k Fusi on可与任何网卡（NIC）、数据处理器（DPU）或横向扩展交换机集成，使客户能够根据需求灵活构建理想的系统。

对于定制XPU配置，NVLink通过通用芯粒互连（UCI e）IP与接口实现集成。NVIDIA提供支持UCI e的NVLi n k桥接芯片，既能实现极高性能，又便于集成，使客户能够像 NVIDIA 一样充分利用NVLi n k的功能。UCI e作为一项开放标准，采用该接口进行NVLi n k集成可让客户为其XPU灵活选择当前或未来平台的多种方案。

对于定制CPU配置，建议集成NVIDIA NVLi nk-C2C IP，以连接NVIDIA GPU，从而实现最佳性能。采用定制CPU与NVIDIAGPU的系统可平滑访问CUDA平台的数百个NVIDIA CUDA-X 库，充分发挥加速计算的高性能优势。

第四章 存储

HBM市场：预计制造难度更高的HBM4溢价幅度将突破3 0%

HBM（High Bandwidth Memory）：是一款新型的CPU/GPU 内存芯片（即“RAM”），是将很多个DDR芯片堆叠在一起后和GPU封装在一起，实现大容量，高位宽的DDR组合阵列。

根据TrendForce最新研究，HBM技术发展受AI Server需求带动，三大原厂积极推进HBM4产品进度。由于HBM4的I/O（输入/输出接口）数增加，复杂的芯片设计使得晶圆面积增加，且部分供应商产品改采逻辑芯片架构以提高性能，皆推升了成本。据Trendforce数据，鉴于HBM3E刚推出时预计的溢价比例约为20%，预计制造难度更高的HBM4溢价幅度将突破30%。

HBM：预计2 0 2 5年三星产能领先，SK海力士市占超5 0%主导HBM市场

以HBM产能来看，三星、SK海力士（SK hynix）至2025年底的HBM产能规划较为积极，三星HBM总产能至年底将达约170K（含TSV）；SK海力士约150K，但产能会依据验证进度与客户订单持续而有变化。

Counterpoint Research表示，SK海力士扩大了其在HBM领域的领先地位，第一季度市场份额达到70%。TrendForce预测，今年SK海力士的HBM市场份额将保持在50%以上，三星的份额将降至30%以下，美光科技的份额将升至近20%。

第五章 液冷

芯片散热革新：相比热管/VC/ 3DVC，冷板式散热范围广

随着芯片功耗的提升，从一维热管的线式均温，到二维VC的平面均温，发展到三维的一体式均温，即3DVC技术路径，最后发展到液冷技术。

热管与VC的散热能力较低，3D VC风冷散热上限扩大至1000W，冷板式具备1000W+的广阔散热范围。

首批GB3 0 0出货仍沿用Bi anc a架构

首批GB300 NVL72出货仍沿用Bianca架构。根据EEPW公众号，为了加快部署速度，英伟达舍弃原先规划导入的Cordelia（多层PCB设计）的新芯片板设计，通知合作伙伴暂时回归目前GB200所使用的Bianca（HDI PCB）设计。

报告节选：

编辑：火腿肠