Menu Close

长江存储

长江存储:3D NAND 与 AI 数据中心存储芯片企业

长江存储

长江存储科技有限责任公司,英文名称 Yangtze Memory Technologies Co., Ltd.,简称 YMTC,是中国重要的存储芯片制造企业,也是全球 3D NAND Flash 市场的重要参与者之一。

公司成立于 2016 年 7 月,总部位于湖北武汉,是一家覆盖芯片设计、工艺研发、晶圆制造、封装测试以及存储系统解决方案的 IDM 企业。

IDM 是 Integrated Device Manufacturer 的缩写,也就是“集成器件制造商”,意味着企业不仅设计芯片,同时也参与芯片制造以及相关产品开发。

长江存储目前的核心技术和产品主要集中在 3D NAND,而不是传统 HBM 高带宽存储器

随着人工智能、大模型训练、AI 推理和数据中心快速发展,存储系统的重要性正在明显提高。

AI 服务器不仅需要 GPU 周围的 HBM,还需要大容量企业级 SSD 保存模型参数、训练数据、向量数据库、RAG 数据、KV Cache 以及各种中间计算结果。

因此,虽然长江存储目前不是 SK hynixSamsung 和 Micron 那样的传统 HBM 厂商,但它已经成为 AI Storage,也就是人工智能数据存储领域值得关注的存储芯片企业。

长江存储的核心是 3D NAND

长江存储最核心的产品是 NAND Flash,特别是 3D NAND Flash。

NAND Flash 是一种非易失性存储器,也就是说,即使设备断电,其中保存的数据仍然不会立即消失。

SSD 固态硬盘、手机存储、存储卡、UFS、eMMC 以及数据中心的大容量存储系统,绝大部分都需要 NAND Flash。

传统 DRAM 和 HBM 更适合作为程序正在运行时使用的高速工作内存,而 NAND Flash 更适合保存大量长期数据。

人工智能的发展让这两类存储器同时变得重要。

GPU 在执行计算时需要 HBM 提供极高带宽,而服务器还需要大量 NAND SSD 保存模型、数据集和缓存。

因此现代 AI 数据中心实际上是由多个不同速度和容量的存储层共同组成,而不是只依赖 HBM。

什么是 3D NAND

早期 NAND Flash 的存储单元主要排列在二维平面上。当芯片制造工艺不断缩小时,单纯在平面上继续增加存储单元越来越困难。

3D NAND 的解决办法,是把存储单元向垂直方向进行多层堆叠。

可以简单理解为,传统平面 NAND 像是在一块土地上修建平房,而 3D NAND 则是在同样面积上建造几十层、几百层甚至更多层的高楼。

这样就可以在有限芯片面积中保存更多数据,同时降低单位容量成本。

长江存储长期专注于 3D NAND,并通过自己的晶栈® Xtacking® 架构发展出一条与传统 NAND 厂商有所不同的技术路线。

什么是晶栈 Xtacking

晶栈® Xtacking® 是长江存储最重要的核心技术之一,于 2018 年首次公开。

普通 NAND 芯片通常需要在一块芯片中同时制造存储单元和外围控制电路,而 Xtacking 的设计思路是,把 NAND Memory Array,也就是 NAND 存储阵列,与负责数据输入输出和存储单元控制的 CMOS Peripheral Circuit,也就是 CMOS 外围电路,分别制造在不同晶圆上。

两片晶圆制造完成以后,再通过 Hybrid Bonding,也就是混合键合技术,把它们连接在一起。

两片晶圆之间利用大量金属连接通道实现电气互连。

长江存储表示,这种架构可以让 NAND 存储阵列和外围控制电路分别采用更适合自己的工艺,从而改善 I/O 速度、存储密度和产品开发效率。

简单来说:

传统方法是在一块芯片中同时安排“存数据的部分”和“负责控制的部分”。

Xtacking 则把这两个部分分别制造,然后再上下结合。

这种方式给了设计人员更大的优化空间。

Xtacking 4.0

长江存储目前已经进入晶栈® Xtacking® 4.0 世代。

2025 年,Xtacking 4.0 获得 Future of Memory and Storage,也就是 FMS 2025 的 3D NAND 类“最具创新存储技术奖”。

这一代架构强调更高存储密度、更高 I/O 传输速度以及更好的能源效率。

基于 Xtacking 4.0,长江存储已经推出第五代 TLC 和 QLC 3D NAND 产品。

其中 X4-9070 是 TLC 产品,而 X4-6080 则是面向大容量应用的重要 QLC 产品。

什么是 TLC 和 QLC

TLC 是 Triple-Level Cell 的缩写,表示一个 NAND 存储单元可以保存三个 Bit 的数据。

QLC 是 Quad-Level Cell 的缩写,表示一个存储单元可以保存四个 Bit 的数据。

简单来说,同样数量的存储单元,QLC 可以保存更多数据,因此能够实现更高容量和更低的单位容量成本。

但是一个存储单元保存的数据越多,对电压控制、错误纠正和可靠性的要求也越高。

因此 TLC 往往更加适合需要高性能和高耐久性的应用,而 QLC 更适合强调超大容量和成本效率的场景。

AI 数据中心恰好非常需要大容量存储,因此 QLC 正在成为人工智能基础设施的重要技术之一。

X4-6080:2Tb QLC NAND

长江存储的 X4-6080 是基于 Xtacking 4.0 开发的第五代 QLC 3D NAND。

按照长江存储公布的数据,X4-6080 单颗 Die 容量达到 2Tb,并采用 8-Plane 架构,I/O 传输速度达到 3,600MT/s。

相比上一代 QLC 产品,其存储密度、I/O 速度以及吞吐能力都有明显提升。

这里的 Plane,可以理解成 NAND 芯片内部能够相对独立执行操作的存储区域。

增加 Plane 数量,可以让多个区域并行工作,从而提高读取和写入吞吐量。

这对于 AI 数据中心特别重要,因为服务器往往需要同时读取大量模型参数和数据,而不是只读取一个小文件。

AI 为什么需要 NAND

很多人谈 AI 芯片时,注意力都集中在 GPU 和 HBM。

但一个完整的 AI 数据中心远远不只是 GPU 加 HBM。

大型模型可能拥有数百 GB,甚至 TB 级别的参数和相关数据,而训练数据集的规模可能达到 PB 级别。

PB 是 Petabyte,也就是拍字节。一个 PB 大约等于一千 TB。

这些数据不可能全部长期保存在昂贵的 HBM 中。

HBM 的作用更像是 GPU 附近的超高速工作内存,而 NAND SSD 则承担容量远大得多的数据保存任务。

因此一个典型 AI 存储层次可以简单理解为:

GPU 附近使用 HBM。

服务器使用 DRAM

更大规模的数据使用 NVMe SSD。

更加庞大的数据还可能进入分布式存储系统。

长江存储目前主要参与其中的 NAND 和 SSD 层。

PE501:122.88TB 企业级 SSD

长江存储目前在 AI 数据中心领域非常值得关注的一款产品是 YMTC PE501。

PE501 是 PCIe 5.0 NVMe 企业级 SSD,采用基于 Xtacking 4.0 的 X4-6080 QLC 3D NAND。

单盘最大容量达到 122.88TB。122.88TB 意味着一块 SSD 就可以保存超过一百 TB 数据。

按照长江存储公布的数据,PE501 顺序读取速度最高达到 14,200MB/s,4K 随机读取性能最高达到约 3,350K IOPS。

IOPS 是 Input/Output Operations Per Second 的缩写,也就是每秒能够完成多少次输入输出操作,是衡量 SSD 随机访问性能的重要指标。

AI 数据中心通常同时运行大量任务,因此不仅需要很高的顺序读取速度,也需要很高的随机读取能力。

为什么超大容量 SSD 对 AI 很重要

过去数据中心可能使用大量小容量 SSD。

但随着 AI 模型和数据规模增长,服务器开始希望在有限机架空间中安装更多 NAND 容量。

如果一块 SSD 的容量从十几 TB 提高到几十 TB甚至超过一百 TB,相同机架中就可以保存更多数据。

这样还能够减少 SSD 数量、PCIe 通道占用、电缆、控制器以及其他硬件。

长江存储表示,PE501 最大容量达到 122.88TB,在相同服务器空间内可以显著增加存储密度,每 2U 空间的总存储容量能够接近 3PB。

这里的 2U 是服务器机架高度单位。

数据中心机架空间非常昂贵,因此每个 U 能够安装多少计算和存储资源非常重要。

PE522:面向 AI 训练和推理

长江存储的另一款重要企业级产品是 PE522。

PE522 是采用 Xtacking 4.0 TLC NAND 的 PCIe 5.0 NVMe 企业级 SSD,官方明确把 AI Training and Inference,也就是人工智能训练和推理,列为主要应用场景之一。

PE522 顺序读取带宽最高达到约 14.2GB/s,随机读取性能最高达到约 3,100K IOPS,并针对低延迟、高耐久性等数据中心需求进行设计。

相比 PE501 的超大容量 QLC 路线,PE522 更强调性能和耐久性。

因此可以简单理解:

PE501 更强调“装更多数据”。

PE522 更强调“更快、更频繁地访问数据”。

这两种产品正好对应不同的 AI 数据中心工作负载。

什么是 KV Cache

长江存储在 PE522 产品中专门提到了 KV Cache。

KV Cache 是大型语言模型推理中的一个重要概念。

KV 是 Key 和 Value 的缩写。

Transformer 模型在生成文字时,会保存前面已经计算过的一部分中间结果。这样在生成下一个 Token 时,就不需要把前面的所有内容重新计算一次。

这些保存下来的数据就是 KV Cache。

Token 可以简单理解为 AI 模型处理文字时使用的基本单位,一个英文单词可能是一个或多个 Token,一段中文也会被拆分成很多 Token。

当用户对话越来越长、模型越来越大、同时使用 AI 服务的人越来越多时,KV Cache 会占用大量内存。

如果所有 KV Cache 都保存在昂贵的 HBM 中,成本会非常高。

因此现在业界正在研究把一部分 KV Cache 从 HBM 或 DRAM 下放到高速 SSD。

长江存储的 PE522 就把 KV Cache Offloading,也就是“KV Cache 下放”,作为目标应用之一。

这说明 NAND SSD 已经开始更加直接地参与 AI 推理系统,而不仅仅是保存普通文件。

什么是 RAG

AI 数据中心还有一个重要应用叫 RAG。

RAG 是 Retrieval-Augmented Generation 的缩写,中文通常称为“检索增强生成”。

普通大型语言模型主要依赖训练时学习到的知识回答问题。

RAG 则允许 AI 在生成答案之前,先从外部数据库或者文档库中寻找相关信息,然后再利用这些信息生成答案。

例如企业可以把自己的技术文档、产品资料、合同或者内部知识库保存到服务器。

用户提问时,AI 首先搜索这些资料,然后再回答。

这类系统需要大量快速存储设备,因此高性能 NVMe SSD 对 RAG 非常重要。

长江存储已经把 KV Cache、RAG、CDN 和对象存储等场景列为 PE501 的目标应用。

长江存储不是 HBM 厂商

这一点需要特别说明。

长江存储虽然属于 AI 存储芯片企业,但目前不应该把它称为 HBM 厂商。

HBM 是 High Bandwidth Memory,也就是高带宽存储器,它的基础技术是 DRAM

目前 HBM 主要由 SK hynixSamsung 和 Micron 等 DRAM 企业生产。

长江存储目前的核心技术则是 NAND Flash。

所以两者在 AI 系统中的角色不同。

HBM 位于 GPUAI Accelerator 附近,提供极高的工作内存带宽。

长江存储的 NAND 和企业级 SSD 则主要承担大容量模型、训练数据、KV Cache、RAG 数据以及其他数据中心存储任务。

长江存储与 Sandisk 的区别

长江存储与 Sandisk 有很多相似之处。

两家公司核心都建立在 NAND Flash 上,而不是传统 HBM。

Sandisk 目前正在推动 HBF,也就是 High Bandwidth Flash,希望把 NAND 进一步靠近 GPUAI Accelerator。

长江存储当前公开产品则更加集中于 3D NAND、企业级 SSD、消费级 SSD、UFS 和 eMMC 等成熟 NAND 市场。

两家技术路线并不完全相同:

Sandisk 值得关注的是 HBF。

长江存储值得关注的则是 Xtacking 架构、高密度 3D NAND 和 AI 数据中心企业级 SSD。

消费级品牌致态

除了面向企业和数据中心的 YMTC 产品,长江存储还拥有消费级存储品牌“致态”。

致态主要提供 PCIe NVMe SSD、SATA SSD、移动固态硬盘等产品。

例如采用 Xtacking 4.0 NAND 的 TiPro9000 PCIe 5.0 SSD,顺序读取速度最高达到约 14,000MB/s,顺序写入速度最高达到约 12,500MB/s。

虽然消费级 SSD 不是 AI 数据中心产品,但 AI PC、AIGC 内容创作、本地大模型运行和大型视频素材处理的发展,也正在增加个人电脑对高速 SSD 的需求。

因此 AI 对 NAND 的影响并不仅限于云端数据中心。

长江存储在 AI Memory 产业中的位置

如果从整个 AI 存储器产业链来看,可以把企业大致分成几个技术方向。

SK hynixSamsung、Micron 的优势主要是 HBM 和 DRAM

SandiskKioxia 和长江存储的优势主要是 NAND Flash。

Astera Labs、Marvell 和澜起科技等企业则更加偏向 CXL Memory 和内存互连。

MRAM、ReRAM 等企业则探索下一代新型非易失性存储器

因此长江存储虽然不是传统 HBM 供应商,但仍然是 AI Memory 产业的重要组成部分。

随着人工智能从训练逐步扩大到大规模推理,NAND 的重要性甚至可能进一步提高。

因为推理系统最明显的特点之一,就是用户数量非常大、数据规模非常大,而且需要保存越来越多的模型和缓存数据。

从普通 SSD 到 AI Storage

过去很多人提到 NAND,首先想到的是电脑里的 SSD。

AI 正在改变 NAND 的角色。

未来 NAND 不只是一个“保存文件的硬盘”。

它可能成为大型 AI 系统中的模型仓库、数据集存储、RAG 数据库、KV Cache 扩展层以及 GPU 数据供应层。

这意味着评价 NAND 企业时,也不能只看消费级 SSD 的读取速度。

更加重要的问题是:

单颗 NAND 容量有多大?

I/O 速度有多高?

企业级 SSD 能够做到多大容量?

随机读取延迟有多低?

耐久性是否能够承受 AI 数据中心全天候访问?

每瓦功耗能够提供多少数据吞吐能力?

这些指标正在成为 AI Storage 的核心竞争力。

而长江存储正在通过 Xtacking 4.0、2Tb QLC NAND、PCIe 5.0 企业级 SSD 和超过 100TB 的单盘容量进入这一市场。

总结

长江存储 YMTC 是中国重要的 3D NAND Flash 存储芯片制造商,成立于 2016 年,总部位于武汉,是一家覆盖芯片设计、制造、封装测试和存储系统解决方案的 IDM 企业。

公司的核心竞争力是自主发展的晶栈® Xtacking® 架构。

通过把 NAND 存储阵列和 CMOS 外围控制电路分别制造在不同晶圆上,再进行晶圆键合,Xtacking 为提高 NAND 存储密度、I/O 速度和产品开发灵活性提供了一条独特技术路线。

目前长江存储已经进入 Xtacking 4.0 世代,推出 2Tb X4-6080 QLC NAND,以及 PE501、PE522 等 PCIe 5.0 企业级 SSD。

其中 PE501 单盘最大容量达到 122.88TB,而 PE522 则直接针对 AI 训练、AI 推理和 KV Cache 等高性能工作负载。

因此,长江存储并不是传统 HBM 高带宽存储器厂商,它在 AI 存储产业中的核心定位更加准确地说是:

全球重要的 3D NAND Flash 企业,以及正在快速进入 AI 数据中心、企业级 SSD 和大容量 AI Storage 市场的中国存储芯片厂商。