2025年电子行业：存储是Tokens的积分，产业链空间广阔

一、存储是 Tokens 的积分，推理驱动 AI 存储快速增 长

AI服务器中的存储主要包括HBM、DRAM、SSD等。AI服务器中的存储主要包括HBM、 DRAM、SSD等，呈现性能逐级下降、容量逐级增加、成本逐级降低特征。访问频繁 或者随时变更的数据会保留在较高的存储层，例如性能高的层次如CPU/GPU缓存、 高带宽内存（HBM）和动态RAMS；而鲜少访问或需要长期保存的数据将移动到较 低的存储层，例如SSD和硬盘驱动器。

AI推理中的分级存储协同支撑高效计算。HBM集成于GPU内部，为权重和激活值 提供高带宽临时缓冲，支撑并行计算和低延迟推理。DRAM作为系统内存，存储中 间数据、批处理队列及模型输入输出，实现CPU与GPU间高效数据传递。本地 SSD用于实时加载模型参数和数据，满足高频读写需求，并存储短期检查点与临时 生成内容，支撑快速迭代。HDD提供经济大容量，用于保存原始数据、历史检查点 及生成内容，保障系统长期运行与数据安全。整体来看，HBM与DRAM提供即时高 性能支撑，SSD保证快速可用数据，HDD则保障容量与可靠性，构建从高速临时访 问到长期存储的完整AI推理生态。

推理驱动AI存储快速增长。（一）内存受益于超长上下文和多模态推理需求，处理 大量序列数据或多模态信息时，高带宽与大容量内存可降低访问延迟、提升并行效 率。例如月之暗面Mooncake通过存储资源重构实现计算效率跃迁，Vera Rubin CPX NVL144机柜新增GDDR7，AMD MI400 升级为MRDIMM模组，华为UCM推理记忆 数据管理器实现智能调度，共同支撑复杂模型在长序列和多模态场景下的高性能推 理。（二）SSD和HDD是Tokens的积分。我们对推理所需SSD、HDD需求进行测算， 基于以下关键假设：假设一、参考谷歌2025.06单月处理超980万亿tokens，假设中 短期内全球谷歌级推理应用数量达到10个；假设二、假设推理端数据均存储为FP16 格式；假设三、除模型输入输出文本数据以外，在长上下文场景下，存储数据也包含 额外调试/分析信息，比如top-k log logprobs、时间戳、JSON元数据等。由此测算， 2026年10个谷歌级推理应用所需存储容量为49EB。

二、AI 推理驱动存储需求增长，产业链空间广阔

（一）AI&存储服务器用 eSSD 空间广阔

AI推理与数据存储构成eSSD核心增量需求场景。在AI应用体系中eSSD主要用于训 练、推理及数据存储。在训练阶段，eSSD用于Checkpoint保存、模型加载及系统引 导。在推理阶段，长上下文产生的KV Cache 以HBM/DRAM为首选热存储，超过内 存容量的热数据会外溢至高性能eSSD承接；此外，RAG数据库用于大规模知识检索 与上下文扩展，亦依赖eSSD 提供大容量与高吞吐支持。在数据存储阶段，eSSD用 于tokens的保存、数据清洗与ETL流程。随着长上下文推理、RAG数据库及tokens规 模的快速增长，AI工作负载对高带宽、大容量eSSD的需求将持续增强，AI服务器、 存储服务器中的eSSD市场空间将进一步扩大。

AI服务器用eSSD出货量不断扩大。我们对AI 服务器用eSSD市场空间进行测算， 基于以下关键假设：根据Nvidia NVL72 by HPE白皮书，每个计算tray的缓存盘总 容量为30TB（由8块3.84TB NVMe SSD组成），操作系统盘为1块1.92TB NVMe SSD，即单GPU对应2个本地SSD卡槽。我们假设单GPU对应2个本地SSD卡槽； 单卡槽对应的eSSD容量为4TB。按照上述满插假设计算，2024、2025、2026年AI 服务器用eSSD市场空间分别为59EB、89EB、120EB。该测算反映的是AI服务器 用eSSD理论最大市场空间，实际部署中部分服务器可能未满配，因此实际出货量 可能低于该数值。

存储服务器用eSSD出货量增速更为明显。我们对eSSD市场结构进行拆分，基于以 下关键假设：（1）参考TrendForce数据，2024年AI相关SSD采购能力将超过45EB； 参考yole数据，AI 服务器用eSSD出货量占服务器eSSD出货量1/3；并参考McKinsey 数据，2024年eSSD市场规模为181EB，由此测算2024年通用服务器、AI服务器、存 储服务器用eSSD市场规模分别为90EB、45EB、46EB；（2）参考yole数据，2024- 2030年全球eSSD出货量CAGR达26%。从结构上看，eSSD主要用于通用服务器、 AI服务器及存储服务器，假设2024-2030年出货量CAGR分别为12%、20%、54%， 由此测算2030年通用服务器、AI服务器、存储服务器用eSSD市场规模分别为178EB、 134EB、614EB。AI服务器及存储型eSSD应用贡献主要增量空间，驱动产业重心向 AI服务器与数据驱动存储场景转移。

（二）MRDIMM 有望应用于大模型推理

MRDIMM有望应用于大模型推理。MRDIMM在大模型推理的KV Cache场景下提供 确定性增益，并发更高、上下文更长、端到端时延更低，并显著优化CPU–GPU内存 编排与资源利用。具体体现为：（1）带宽提升：根据Next-Gen AI App Server Performance with CXL3.1 Tier Memory and MRDIMM Gen2 solution 报 告 ， MRDIMM Gen2 最高支持12800 MT/s速率，在AI负载下相对DDR5 RDIMM带宽可 提升2.3倍；更快的内存访问显著降低KV Cache读/写时延，支撑高吞吐推理；（2） 容量扩展：单条支持64/96/128GB容量，支持更长上下文与更多并行会话；（3）解 耦式内存设计：MRDIMM的高带宽与大容量适配CPU侧KV Cache卸载。Intel Xeon 6“Granite Rapids”搭载12通道内存控制器，可充分释放MRDIMM带宽潜力，有效缓 解GPU显存压力，并利于多会话调度与跨会话KV Cache复用，在延迟与成本间取得 平衡。

（三）SPD&VPD 芯片空间广阔

DDR5升级带来SPD成长机会。DDR5内存模组较DDR4内存模组具有速度更快、功 耗更低、带宽更高等优势，正广泛应用于AI服务器中。SPD（串行存在检测器）作为 内存条上的关键组件，通过标准化配置信息的存储与传递，成为系统自动优化内存 参数的核心枢纽。DDR5世代下SPD将有所升级，主要体现在：（1）容量从DDR4的 512字节升级至DDR5的1024字节，用于存储内存模组的相关信息以及内存颗粒和相 关器件的配置参数；（2）集成I2C/I3C总线集线器（Hub），加速初始化进程；（3） 增加PMIC(电源管理芯片)和高精度温度传感器（TS）配置。总体来看，SPD芯片技 术规格和单价较DDR4世代更高，随DDR5渗透不断扩大，在价值量与需求量的双重 维度驱动，DDR5 SPD市场快速发展。

SSD升级有望带来VPD成长机会。SSD VPD（Vital Product Data）包括基本信息， 电源管理数据、厂商特定数据、PCIe端口记录信息等，一般存放于EEPROM中， EEPROM的可靠性和准确性直接关系到固态存储设备能否正常工作和性能发挥。 VPD通过SMBus连接到SSD控制器和主机，用户可以通过SMBus读取或写入信息和 数据。VPD EEPROM适用于多部件PCIe SSD，由于各部件间互联信息正变得越来 越复杂，对于VPD EEPROM的需求日益增长。SSD性能提升将推动VPD EEPROM 产品技术规格升级，如将存储容量从4Kbit向上升级，从I2C总线升级至I3C总线，增 加内置温度传感器功能等，VPD EEPROM价值量也有望随性能升级进一步提升。

（四）CXL 存储池化助力 AI 推理

CXL 实现存储池化，显著提升计算效率。CXL是一种开放性高速串行协议，旨在实 现计算机系统内部CPU、内存、GPU等硬件之间实现通信更高的数据吞吐量和更低 的延迟，以满足资源共享、内存池化和高效运算调度的需求。通过CXL可支持GPU 和FPGA等加速器与主处理器的高效协作，提升AI模型训练和推理速度；并为AI应用 提供更大的内存空间和更灵活的资源分配方案，解决内存带宽瓶颈，提高计算效率。

CXL提供远端/池化拓展，在KV Cache密集型推理中形成显著TCO优势。CXL 3.1对 KV Cache的性能提升尤为明显，特别适用于高并发、超长上下文的负载。具体体现 为：（1）内存池化与扩展：在CPU/GPU/加速器间做内存池化，将部分KV Cache从 昂贵的GPU显存弹性卸载到CXL设备，在不增加GPU成本前提下扩大有效容量至TB 级；（2）低时延访问：CXL访问时延可逼近CPU DRAM，使置于CXL的KV Cache 在高负载下亦能维持接近实时的解码性能；（3）解耦式KV Cache架构：在字节跳 动LLM服务栈中，将KV Cache 卸载至CXL可使batch size提高30%、GPU需求降低 87%、prefill阶段GPU利用率提升7.5倍；（4）分层内存管理：CXL支持冷热分层， 允许根据访问频率对 KV Cache 进行动态放置。热点KV驻留GPU/CPU DRAM，温 冷数据迁移至CXL池。以DeepSeek-1.73B 量化模型为例，单路CPU（CPU0+128GB） +CXL扩展128GB较双路CPU（CPU0/CPU1各128GB）在提示与解码吞吐基本持平， 但处理器数量更少，形成明显TCO优势。

英伟达入股英特尔&收购Enfabrica，布局CXL能力。根据英伟达官网，2025年9月 英伟达宣布入股英特尔50亿美元，在数据中心领域，英特尔将为英伟达打造定制化 x86 CPU，其将被集成至英伟达AI基础设施平台中推向市场，英特尔作为CXL联盟 的创始成员，有望推动英伟达NVLink与CXL互联技术互通。根据CNBC，同月英伟达 收购Enfabrica核心技术与团队，Enfabrica是一家专注于AI互联技术的公司，其产品 主要包括（1）加速计算架构超级网卡ACF-S，通过整合PCIe交换机、网卡和机架顶 端交换机分别承担的I/O功能，为GPU、CPU、池化内存与网络之间提供直接且低延 迟的数据路径；（2）弹性内存网络系统EMFASYS，以ACF-S为核心，通过CXL协议与DDR5内存连接，最多可支持8TB的内存容量和144条CXL通道，以满足大规模 AI推理的需求，提升加速器的整体利用率。英伟达通过整合Enfabrica技术，英伟达 有望与现有NVLink互连技术形成互补，优化机柜内部GPU与扩展内存或存储的互连 以及CPU与其他设备间的互连，进而提升计算效率。

阿里云推出CXL存储池化服务器，提升推理吞吐。根据阿里云瑶池数据库公众号， 2025年云栖大会上，阿里云宣布推出全球首款基于CXL 2.0 Switch技术的PolarDB 数据库专用服务器。PolarDB引入CXL高速互连技术，基于CXL的分布式内存池解决 方案，可实现延迟可低至百纳秒级，带宽吞吐达到数TB/s的远程内存访问。PolarDB 数据库专用服务器还打通了GPU+CPU与共享内存池的协同通路，在KVCache池化 方面，可实现跨节点KVCache的弹性调度与毫秒级远程访问，显著提升推理吞吐与 资源利用率，为AI时代的数据底座注入全新动能。未来随CXL Switch的演进，系统 还将支持多级交换架构、动态容量设备及Fabric拓扑设计，进一步强化异构计算能力 与横向扩展性，为超大规模云数据库提供坚实的技术底座。

CXL协议持续在AI领域渗透，拉动芯片需求增加，作为CXL技术落地的核心载体， CXL互连芯有望在AI领域发挥更大作用。CXL互连芯片是基于CXL协议构建的高速 互连核心器件，其物理层沿用PCIe标准，可以实现CPU、GPU、内存间高速低延迟 的数据交互，主要应用于内存扩展和存储池化场景，主要产品分为两大类：（1）CXL MXC芯片：作为处理器与CXL内存模块高速连接枢纽，负责完成协议转换、内存访 问调度及一致性控制，是构建内存扩展和存储池化架构的关键控制器；（2）CXL Switch芯片：用于实现多个CXL主机及设备之间的互连与资源管理，支持单个或者多 个CPU连接多个CXL内存或加速设备，提升系统扩展能力和资源利用效率，是大规 模存储池化架构的核心支持组件。两者协同构建CXL互连解决方案，将在新一代数据 中心架构中发挥重要作用。 根据澜起科技向香港联交所递交境外上市股份（H股）发行申请资料，目前，国际知 名大型互联网厂商正在探索在其新型服务器集群中部署CXL内存资源池，单个内存 池通常需要配置16-32颗CXL MXC和2-4颗CXLSwitch芯片。随著CXL内存池在服务 器中渗透，CXL互连芯片市场将进入爆发增长通道。CXL技术可通过存储池化赋能内 存扩展，显著提升GPU集群的算力效率，并降低使用成本。 在AI系统架构重构及连接复杂度提升，推动应用场景拓展，AIGC推动数据中心向万 卡级集群演进，芯片至数据中心的多维互联复杂度指数级提升，CXL通过存储池化与 高速互连实现架构升级。

编辑：火腿肠