AI推理需求如何改变存储技术架构与市场需求结构？

AI大模型的演进驱动存储需求向更大、更密、更“宽”的方向发展。在训练侧，核心矛盾在于算力，需求侧重于高吞吐、高可靠以及更大的显存容量；而在推理侧，核心矛盾正转向带宽与功耗，需求侧重于低延迟、高并发以及更低成本。

在市场需求结构上，服务器逐步超越手机成为存储需求最主要的市场。预计2026年服务器DRAM占比将超过50%，服务器NAND Bit需求预计大增超60%并首次成为最大应用。具体而言，AI与高端通用服务器对高密度DDR5、LPDDR5X及HBM持续拉动，单台AI服务器DRAM用量达传统服务器2倍。

在技术架构方面，AI推理带来的SSD需求增长，使其从传统“冷数据存储”转变为衔接海量数据与显存间的“高速缓冲数据公路”。为解决首字延迟并提高每秒Token生成数，系统在冷启动时必须在秒级内将数百GB的模型文件从外存灌入显存，催生了对PCIe 5.0等超高顺序读取带宽和随机IOPS的刚性需求。同时，为了解决大模型幻觉并提供实时信息，需要频繁检索数TB甚至PB级的企业知识库，导致外存数据量指数级放大，推动了高密度、低功耗、超大容量企业级QLC SSD对传统机械硬盘的加速替代。

此外，高带宽闪存（HBF）作为打破“内存墙”的新型非易失性存储技术，通过垂直堆叠3D NAND Flash晶圆并利用TSV技术与逻辑控制层融合，在保持闪存超大容量和非易失性的同时，提供亚微秒级读取延迟。HBF成为紧贴AI加速芯片的“超大容量高速硬缓存层”，适配“读多写少”的AI推理及长文本承载，与HBM协同构建分层存储体系，大幅降低硬件总成本。