Rambus:HBM4E、DDR5、CXL 与 AI 高带宽存储接口芯片和 IP 企业
Rambus Inc. 是美国重要的高性能存储接口、内存接口芯片和半导体 IP 企业。成立于 1990 年,总部位于美国加利福尼亚州圣何塞。在 Nasdaq 上市,股票代码为 RMBS。
Rambus 长期专注于处理器与存储器之间的数据传输技术,目前主要业务覆盖 HBM 高带宽存储控制器 IP、DDR5 服务器内存接口芯片、CXL Memory、高速 PCIe/CXL 接口以及硬件安全 IP。
随着 AI GPU、AI Accelerator 和大型数据中心对存储带宽要求快速提高,Rambus 已经成为 AI Memory 产业链中非常重要的底层技术供应商。
需要首先说明的是,Rambus 并不是 SK hynix、Samsung 或 Micron 那样直接生产 HBM、DDR5 DRAM 颗粒的存储芯片制造商。
Rambus 更核心的角色,是开发让 CPU、GPU、AI 加速器与 HBM、DDR5 和 CXL Memory 高速通信所需要的 Memory Controller、Memory Interface Chip 和 Silicon IP。
因此,在 AI Memory 产业中,Rambus 更准确的定位是:
HBM Controller IP、DDR5 Memory Interface、CXL Memory 和高速 AI Memory Interconnect 企业。
Rambus 从一开始就是一家存储接口技术公司
Rambus 于 1990 年由 Mark Horowitz 和 Mike Farmwald 创立,两位创始人长期从事高速存储体系结构和芯片接口研究。
公司早期最著名的技术之一是 Rambus DRAM,也就是 RDRAM,其设计目标就是提高处理器与内存之间的数据传输速度。
虽然今天的数据中心已经主要使用 DDR5 和 HBM,而不是早期的 RDRAM,但 Rambus 的核心问题其实几十年来都没有改变:
处理器越来越快,怎样让数据足够快地送到处理器?
今天 AI GPU 面临的 Memory Wall,本质上仍然是同一个问题,只是规模已经比三十年前大了很多。
现代 AI Accelerator 每秒可以执行巨量矩阵运算,如果存储器无法及时提供模型参数和中间数据,大量计算单元就会等待。
因此,内存带宽已经成为 AI 芯片性能最重要的决定因素之一。
这恰好是 Rambus 最擅长的领域。
Rambus 不是 HBM 制造商,但直接参与 HBM 芯片设计
HBM 是 High Bandwidth Memory 的缩写,中文通常称为“高带宽存储器”。
目前 SK hynix、Samsung 和 Micron 等公司负责制造真正的 HBM DRAM Stack。
而 Rambus 提供的核心技术之一,则是 HBM Memory Controller IP。
可以把整个系统简单理解成:
AI Accelerator
→ HBM Controller
→ HBM PHY
→ HBM Stack
其中真正保存数据的是 HBM Stack。
但是 AI 芯片内部必须拥有 HBM Controller,才能知道什么时候读取数据、什么时候写入数据、访问哪个地址、怎样安排不同请求以及什么时候刷新 DRAM。
Rambus 提供的就是这一部分关键设计。
什么是 Memory Controller
Memory Controller,中文就是“内存控制器”。它位于 CPU、GPU 或 AI Accelerator 与 Memory 之间。
假设 AI Processor 想读取某个模型参数。
处理器不会直接对 HBM 说:“把这个数字给我。”
它首先向 Memory Controller 发出请求。
Memory Controller 需要决定:
访问哪个 Memory Channel。
访问哪个 Bank。
访问哪个 Row。
什么时候发出 Read Command。
什么时候 Precharge。
什么时候 Refresh。
多个请求先处理哪个。
怎样尽量避免不同请求之间互相等待。
因此 Memory Controller 对内存实际性能影响非常大。
即使两颗 AI 芯片使用相同 HBM,如果 Memory Controller 的调度效率不同,最终能够得到的有效带宽也可能不同。
Rambus HBM Controller 会对命令进行排队、重排序和 Look-Ahead Processing,以尽量提高内存带宽利用率并减少延迟。
Rambus HBM4 Controller
HBM4 是目前下一代 AI Accelerator 最重要的存储技术之一。
与 HBM3E 相比,HBM4 把数据接口宽度进一步扩大,并继续提高数据传输速度和容量。
Rambus 已经提供 HBM4 Controller IP。
按照公司目前公布的规格,其 HBM4 Controller 支持每个数据 Pin 最高 10Gbps,支持最多 32Gb Channel Density,并支持最高 16 层 HBM Stack。
Controller 同时负责:
Initialization。
Refresh。
Power-Down。
Command Scheduling。
Command Reordering。
Reliability、Availability and Serviceability,也就是 RAS。
这些功能对于大型 AI 芯片非常重要,因为 HBM 已经不是一颗简单的存储芯片,而是一套高度复杂的存储子系统。
HBM4E 已经达到 16Gbps 每 Pin
2026 年,Rambus 又推出 HBM4E Memory Controller IP。
HBM4E 可以理解为 HBM4 的增强版本。
Rambus 公布的 HBM4E Controller 最高支持 16Gbps 每个 Data Pin,并能够支持超过 4TB/s 的单个 HBM 存储子系统吞吐能力,主要面向下一代 AI Accelerator、GPU 和 HPC 芯片。
4TB/s 是一个非常惊人的数据量,意味着理论上一秒可以传输超过四万亿字节数据。
为什么 AI 需要这种速度?
因为一个大型神经网络可能拥有数百亿甚至数千亿参数。
GPU 本身算得越快,内存就必须更快地把数据送过去。
所以 HBM 的竞争实际上已经变成:
更高带宽。
更大容量。
更低功耗。
更低延迟。
以及更高带宽利用率。
Rambus 虽然不制造 HBM DRAM,但它的 HBM Controller 直接参与这些性能指标。
Rambus 已经拥有超过一百个 HBM Design Win
Rambus 在推出 HBM4E Controller 时表示,公司此前的 HBM 技术已经获得超过一百个 HBM Design Win。
Design Win 可以理解成:一家芯片企业决定把某项 Rambus IP 集成进自己的芯片设计。
例如一家 AI Accelerator 企业正在设计新芯片。
它不一定需要自己从头开发 HBM Controller。
可以直接向 Rambus 购买经过验证的 HBM Controller IP,然后把这部分设计集成进自己的 SoC。
这样可以减少开发风险,并缩短芯片上市时间。
这就是 Semiconductor IP Company 的商业模式。
什么是 Semiconductor IP
IP 是 Intellectual Property 的缩写,这里不是互联网中的 IP Address。
在芯片行业中,IP Core 可以理解成已经设计好的“芯片功能模块”。
PCIe Controller。
CXL Controller。
HBM Controller。
DDR Controller。
Security Engine。
这些模块全部从头设计,需要投入大量工程师和验证时间。
芯片企业可以购买 Rambus 等公司的 IP,然后把它们集成到自己的芯片中。
所以 Rambus 不一定负责制造最终芯片,却可能出现在大量 AI Processor 的内部设计中。
Rambus 同时支持 HBM2 到 HBM4E
Rambus 目前的 HBM Controller 产品覆盖多个世代,包括:
HBM2 / HBM2E。
HBM3 / HBM3E。
HBM4。
HBM4E。
其中 HBM3E Controller 最高支持约 9.6Gbps 每 Pin,HBM4 Controller 最高支持 10Gbps,而 HBM4E 已经提高到最高 16Gbps。
这意味着 AI 芯片设计公司可以根据性能、成本和产品上市时间选择不同 HBM 世代。
Rambus 不只做 HBM,还做 DDR5 服务器内存接口芯片
HBM 主要位于 GPU 和 AI Accelerator 周围。
但是一台 AI Server 还有另外一套非常重要的内存:DDR5。
CPU 通常使用 DDR5 RDIMM 作为主内存。
随着 AI 数据中心规模扩大,一台服务器可能安装 TB 级 DDR5。
但是 DDR5 速度越来越高以后,一根 DIMM 上已经不只是简单安装几颗 DRAM。
现代 DDR5 Server DIMM 还需要很多辅助芯片。
Rambus 正是全球重要的 DDR5 Memory Interface Chip 企业之一。
公司的 DDR5 Server DIMM Chipset 包括:
RCD。
PMIC。
SPD Hub。
Temperature Sensor。
MRCD。
MDB。
这些芯片共同帮助 DDR5 DIMM 实现更高速度、更大容量和更稳定的运行。
什么是 RCD
RCD 是 Registering Clock Driver 的缩写。中文可以叫“寄存时钟驱动器”。它主要存在于服务器 RDIMM 中。
CPU 发送的 Command、Address 和 Clock 信号如果直接驱动大量 DRAM,会产生非常大的电气负载。频率越高,信号越容易失真。
RCD 会重新缓冲和驱动这些信号,然后把它们分配到 DIMM 上的多个 DRAM 芯片。
因此 RCD 是现代服务器内存非常重要的控制芯片。
Rambus 目前已经提供支持最高约 9600MT/s DDR5 RDIMM 的 RCD 产品。
什么是 PMIC
PMIC 是 Power Management Integrated Circuit 的缩写,也就是“电源管理芯片”。
DDR5 与过去 DDR4 一个重要变化,是更多电源管理功能被移动到 DIMM 内存条本身。
PMIC 负责:电压转换,电流管理,电源稳定,功耗控制。
现代 AI Server 中可能安装大量 DDR5 DIMM。
如果每根内存条几十瓦功耗管理不稳定,就可能造成整个服务器可靠性问题。
因此 PMIC 已经成为 DDR5 Memory Module 中的重要组件。
Rambus 提供 DDR5 Server PMIC,也提供面向客户端 DDR5 内存的 PMIC。
什么是 SPD Hub
SPD 是 Serial Presence Detect 的缩写。
每一条内存条都需要告诉服务器:
我是什么型号。
我有多大容量。
支持什么速度。
使用什么时序。
温度是多少。
怎样正确配置。
这些信息会保存在 DIMM 上的 SPD 存储中。
DDR5 引入 SPD Hub,用来管理系统与 DIMM 上多个器件之间的通信。
Rambus DDR5 Chipset 中就包括 SPD Hub 和 Temperature Sensor。
MRDIMM 把服务器内存推到 12,800MT/s
随着 AI 和 HPC 工作负载增加,传统 DDR5 RDIMM 的带宽也开始面临压力。
因此服务器行业开始发展 MRDIMM。MRDIMM 是 Multiplexed Rank DIMM 的缩写。它利用多路复用方式,让多个 DRAM Rank 之间可以更加高效地传输数据。
MRDIMM 需要两种非常重要的新芯片:
MRCD。
MDB。
MRCD 是 Multiplexed Registering Clock Driver。
MDB 是 Multiplexed Data Buffer。
Rambus 已经提供支持 12,800MT/s DDR5 MRDIMM 的 MRCD 和 MDB。
一个标准 MRDIMM 12800 可以使用一颗 MRCD 和十颗 MDB 来完成 Memory Channel Multiplexing。
12,800MT/s 已经远远超过传统 DDR5 初期的 4800MT/s。
Rambus 还进入 AI PC Memory
随着 AI PC 开始在本地运行大模型、Agentic AI、图像生成和内容创作程序,个人电脑同样需要更高内存带宽。
2026 年 5 月,Rambus 推出完整的 DDR5 9600 Client Memory Module Chipset,用于 CUDIMM、CQDIMM 和 CSODIMM。
这一产品组合包括:
第二代 Client Clock Driver,也就是 CKD02。
PMIC5120。
SPD Hub。
最高支持 DDR5-9600。
所以 Rambus 的 Memory Interface Chip 已经从服务器进一步进入 AI PC。
CXL Memory 是 Rambus 另一个重要方向
Rambus 在 AI Memory 领域另外一个重要方向是 CXL。CXL 是 Compute Express Link 的缩写。
传统服务器中的 DDR5 通常直接连接 CPU Memory Controller。
CPU 能够连接多少 Memory Channel 是固定的。
如果服务器需要更多内存,传统方法很快会遇到物理限制。
CXL 提供了另外一种方式:CPU→ CXL→ CXL Memory Device→ DRAM。
这样服务器就可以增加新的 Memory Tier。
什么是 Memory Tier
Memory Tier 可以理解成不同速度和容量等级的存储层。
一个现代 AI 系统可能拥有:GPU SRAM,HBM,DDR5,CXL Memory,SSD。
越靠近 Processor,通常速度越快,但容量越小、成本越高。越往外,容量越来越大,但延迟也越来越高。
CXL Memory 的重要价值,就是在 DDR5 与 SSD 之间增加新的 Memory Tier。
Rambus 指出,目前 Direct-Attached DRAM 与 SSD 之间存在非常大的延迟差距,而 CXL 可以用更大容量、较低延迟的 Memory Tier 来填补这个空档。
Memory Expansion
CXL 最直接的应用叫 Memory Expansion,也就是“内存扩展”。
例如一颗 CPU 自己只能直接连接 1TB DDR5。
但是某个 AI Inference 工作负载需要 2TB 内存。
过去可能需要增加 CPU 或服务器。
CXL 可以让系统连接额外 DRAM。
这样就可以在不增加 CPU 数量的情况下增加 Memory Capacity。
这对于 AI 推理、大数据库、In-Memory Computing 和 HPC 都非常重要。
Memory Pooling
CXL 更进一步的能力叫 Memory Pooling,也就是“内存池化”。
传统服务器:
Server A → 512GB
Server B → 512GB
即使 Server A 只使用 100GB,而 Server B 已经没有内存,Server B 也不能直接使用 A 剩下的 412GB。
结果就是 Data Center 中可能存在大量 Stranded Memory,也就是“闲置但是无法被其他服务器使用的内存”。
CXL Memory Pooling 希望改变这一点。
多个 Processor 和 Accelerator 可以连接多个 CXL Memory Device,然后根据工作负载动态分配容量。
谁需要更多 Memory,就给谁更多。
任务结束以后,内存可以重新回到 Pool。
对于大型 AI 集群来说,这可能明显提高昂贵 DRAM 的利用率。
Rambus CXL 3.1 Controller IP
Rambus 已经拥有 CXL Controller IP。
目前公司的 CXL 3.1 Controller 支持最高 64GT/s 数据传输速率,并支持三个重要协议:
CXL.io 负责类似 PCIe 的设备管理和 I/O。
CXL.cache 允许设备访问 Host Cache。
CXL.mem 则允许 Processor 访问设备 Memory。
因为它正是 CXL Memory Expansion 和共享内存体系的基础之一。
PCIe 同样属于 AI Memory 的重要连接
CPU、GPU、SSD 和 AI Accelerator 并不是全部直接通过 HBM 或 DDR 互连。大量设备仍然依赖 PCI Express。
PCIe 是 Peripheral Component Interconnect Express 的缩写。
现代 AI 服务器中的 GPU、NIC、DPU、SSD、CXL Device 和各种 Accelerator 都大量使用 PCIe。
Rambus 已经提供 PCIe 7.0 Controller IP,最高数据速率达到 128GT/s。
这意味着 Rambus 的高速接口产品实际上已经覆盖:HBM,DDR5,CXL,PCIe。
这些都是现代 AI Memory Infrastructure 的关键接口。
什么是 Retimer
高速 PCIe 和 CXL 还有一个实际问题:信号不能无限远传输。
例如 PCIe 7.0 已经达到 128GT/s,并使用 PAM4 信号。
在普通 PCB 上,传输距离增加以后,高速信号会出现:衰减,抖动,失真,误码。Retimer 就是解决这个问题的芯片。
它接收已经变差的数字信号,重新恢复数据和时钟,然后重新生成干净的高速信号。
Rambus 已经推出 PCIe 7.0 Retimer Controller IP,并支持 CXL,用于开发下一代 AI 数据中心高速 Retimer 芯片。
HBM Controller 和 HBM PHY 有什么区别
了解 Rambus 时还需要区分两个专业名词:Controller 和 PHY。
HBM Controller 负责逻辑。
例如:
我要访问哪个地址。
什么时候 Read。
什么时候 Write。
请求按什么顺序执行。
什么时候 Refresh。
PHY 是 Physical Layer,也就是“物理层”。它负责真正把数字 Bit 通过高速电气信号传到 HBM。
简单理解:
Controller 决定“说什么”。
PHY 负责“怎么把这些话通过电线传过去”。
Rambus 的 HBM Controller 可以独立授权,也可以与客户选择的 HBM PHY 配合,形成完整 HBM Memory Subsystem。
AI Memory 不仅要快,还必须安全
Rambus 与很多纯 Memory Interface 企业还有一个明显不同:它同时拥有很强的 Hardware Security IP。
模型权重。
训练数据。
用户数据。
商业机密。
Encryption Key。
KV Cache。
如果攻击者能够直接读取外部 DRAM,即使 AI Processor 本身没有被攻破,也可能造成数据泄露。
因此 Rambus 还开发 Inline Memory Encryption,也就是“在线内存加密”。
什么是 Inline Memory Encryption
Inline Memory Encryption Engine 位于 Processor 与 Memory Controller 之间或者靠近 Memory Interface 的位置。
数据写入外部 Memory 以前自动加密。数据从 Memory 读取以后自动解密。整个过程对于应用程序来说可以是透明的。
可以简单理解:CPU→ Encryption Engine→ DDR Memory
内存里面保存的是 Ciphertext,也就是加密数据。
即使攻击者物理读取 DRAM,也不能直接得到原始内容。
Rambus IME-IP-341 等产品就是针对这类场景设计,并支持 AES-XTS、SM4-XTS 等加密技术。
AI 为什么越来越需要 Memory Encryption
大型 AI 模型本身可能价值数亿美元,企业也可能把非常敏感的数据交给 AI 系统处理。
因此未来 AI Infrastructure 竞争不仅包括:谁的 GPU 快,谁的 HBM 快,谁的 Memory Capacity 大。
还包括:谁能够保护模型,谁能够保护训练数据,谁能够保护 Memory 中正在处理的数据。
Rambus 同时拥有 Memory Interface IP 和 Security IP,因此在这一点上拥有比较独特的产品组合。
公司目前还提供 Root of Trust、Quantum-Safe Cryptography、Secure Networking 和其他硬件安全技术。
Rambus 与 SK hynix、Samsung 和 Micron 的区别
SK hynix、Samsung 和 Micron主要制造:DRAM,DDR5,HBM。也就是说,它们制造真正保存 Bit 数据的 Memory Cell 和 Memory Die。
Rambus 则主要提供:HBM Controller,DDR5 Interface Chip,CXL Controller,PCIe Controller,Memory Security。
可以简单理解:
SK hynix、Samsung 和 Micron 制造“内存”。
Rambus 设计让 Processor 能够高速、安全地使用这些内存的“控制器和接口”。
所以两类企业并不是竞争关系,而是同一条 AI Memory 产业链上的不同环节。
Rambus 与 Astera Labs、澜起科技的关系
如果在 AI Memory 企业中寻找与 Rambus 更接近的公司,那么 Astera Labs 和澜起科技更加合适。
它们都参与:DDR5 Memory Infrastructure,CXL,PCIe,Memory Connectivity。
不过三家公司重点仍然有所不同。
Astera Labs 更强调:CXL Memory Controller,Retimer,Fabric Switch,Rack-Scale Connectivity。
澜起科技拥有很强的:DDR5 RCD,MRCD,MDB,CXL MXC,PCIe/CXL Retimer。
而 Rambus 的特点是同时拥有:
DDR5 Memory Interface Chip。
HBM Controller IP。
CXL Controller IP。
PCIe Controller IP。
Security IP。
因此 Rambus 更加接近一个覆盖 Memory Interface + Interconnect IP + Security 的综合型技术企业。
Rambus 在 AI Accelerator 中的位置
未来一家 AI Accelerator Startup 想设计自己的芯片,可能需要很多模块。
例如:
Compute Engine。
On-Chip SRAM。
HBM Controller。
PCIe Controller。
CXL Controller。
Security Engine。
如果所有模块都从零开始设计,可能需要几年时间。
这家公司可以自己设计核心 AI Compute Architecture,然后从专业 IP 企业购买其他成熟模块。
Rambus 就可能提供:
HBM4E Controller。
PCIe Controller。
CXL Controller。
Memory Security。
这可以明显减少工程复杂度。
因此 AI 芯片创业公司越多,对成熟 Silicon IP 的需求就可能越大。
从芯片到整个 AI Memory Infrastructure
几十年前,Rambus 主要解决的是:CPU 和 DRAM 之间怎样传输更多数据。
今天这个问题已经扩大成:
GPU 如何访问 HBM。
CPU 如何访问 DDR5。
AI Accelerator 如何连接 CXL Memory。
GPU 如何与其他 Accelerator 通信。
服务器如何扩展 Memory Capacity。
Memory 怎样 Pooling。
数据怎样在 Memory 中保持安全。
所以 Rambus 的业务已经从单一 Memory Interface 扩展到更加完整的 AI Data Infrastructure。
公司自己也把业务核心定义为解决 Memory 与 Processing 之间的 Bottleneck。
AI 为什么让 Rambus 更重要
AI 芯片计算性能仍然在快速提高。但是仅仅增加更多 Tensor Core 已经不能保证系统性能按同样速度提高。
越来越多性能问题来自:
Memory Bandwidth 不够。
Memory Capacity 不够。
Interconnect 不够快。
Data Movement 功耗太高。
Memory Security 不够强。
这些恰好全部与 Rambus 的核心技术相关。
所以 AI 时代真正重要的不只是 Compute。
还有:Compute + Memory + Interconnect。
Rambus 所处的位置,就是 Memory 与 Compute 之间。
总结
Rambus 是一家成立于 1990 年、总部位于美国 San Jose 的高性能存储接口、内存接口芯片和 Silicon IP 企业,在 Nasdaq 上市,股票代码为 RMBS。
公司拥有超过三十年的高速 Memory 和 Semiconductor Interconnect 技术经验,目前主要面向 AI、数据中心、HPC、汽车和 Edge Computing 市场。
Rambus 并不直接制造 HBM 或 DDR5 DRAM,因此不能与 SK hynix、Samsung 和 Micron 并列描述为传统存储器制造商。
但是在 AI Memory 产业链中,它拥有非常关键的位置。
HBM2、HBM3、HBM3E、HBM4 和 HBM4E Controller IP。
DDR5 Server DIMM Interface Chipset。
DDR5 MRDIMM MRCD 和 MDB。
CXL 3.1 Controller IP。
PCIe 7.0 Controller 和 Retimer IP。
Inline Memory Encryption 和 Hardware Security IP。
其中最新 HBM4E Controller 已经支持最高 16Gbps 每 Pin,并能够推动超过 4TB/s 的 HBM Memory Subsystem 带宽;
DDR5 MRDIMM 产品支持最高 12,800MT/s;PCIe 7.0 Controller 则达到 128GT/s。
因此,在 AI Memory 企业目录中,Rambus 最准确的定位可以概括为:
全球重要的 HBM Controller IP、DDR5 Memory Interface、CXL Memory 和高速 AI Memory Interconnect 技术供应商。
如果说 SK hynix、Samsung 和 Micron 制造的是 AI 芯片需要的“高速内存”,那么 Rambus 提供的就是让 CPU、GPU 和 AI Accelerator 能够高效、安全地访问这些内存的“控制器、接口和底层高速连接技术”。
随着 AI 芯片从 HBM3E 进入 HBM4、HBM4E,同时服务器向 DDR5-9600、MRDIMM-12800、CXL Memory 和 PCIe 7.0 发展,Rambus 所处的 Memory Interface 和 Interconnect 层正在变得越来越重要。
