Astera Labs：CXL Memory 与 AI 数据中心高速内存互连芯片企业
Astera Labs 是一家美国高速互连半导体企业，主要为人工智能和云计算数据中心提供 PCIe、CXL、Ethernet 以及 AI Fabric 相关连接芯片和软件。
与 SK hynix、Samsung、Micron 等直接制造 DRAM 和 HBM 存储颗粒的企业不同，Astera Labs 本身并不生产 HBM 或 DDR5 DRAM。
它解决的是另外一个越来越重要的问题：怎样让 CPU、GPU、AI 加速器、内存、SSD 和网络设备之间更高速、更低延迟、更可靠地交换数据。
对于 AI Memory 市场来说，Astera Labs 最重要的产品是 Leo Smart Memory Controller。
这种芯片可以把 DDR4 或 DDR5 内存通过 CXL 或其他高速互连接入服务器和 AI 系统，从而实现内存扩展、Memory Sharing、Memory Pooling 以及 Fabric-Attached Memory。
因此，Astera Labs 虽然不是传统意义上的“存储器制造商”，却正在成为 AI Memory 基础设施中的重要连接芯片供应商。
公司简介
Astera Labs 创立于 2017 年，三位联合创始人为 Jitendra Mohan、Sanjay Gajendra 和 Casey Morrison。
Jitendra Mohan 和 Sanjay Gajendra 在创立公司以前都拥有长期高速接口、服务器和半导体行业经验，而 Casey Morrison 的职业经历也长期集中于高带宽、低延迟数据互连。
公司目前总部位于美国加利福尼亚州 San Jose，并在美国、加拿大、德国、印度、以色列、中国台湾、中国大陆、新加坡和越南等地区设有研发、销售或技术支持团队。
Astera Labs 在 Nasdaq 上市，股票代码为 ALAB。
Astera Labs 把自己的核心方向称为 Rack-Scale AI Connectivity，也就是“机架级 AI 高速互连”。
传统服务器主要围绕一台服务器内部的 CPU、内存和 PCIe 设备进行设计，而大型 AI 系统正在逐渐发展成由几十颗甚至更多 GPU、NIC、SSD 和内存设备组成的整个机架级计算系统，因此高速互连的重要性正在迅速增加。
Astera Labs 为什么属于 AI Memory 企业
严格来说，Astera Labs 并不制造 Memory Cell，也不制造 DRAM Die。
但是现代 AI Memory 系统不仅需要存储芯片本身，还必须解决一个关键问题：
这些内存怎样连接到 CPU、GPU 和 AI Accelerator？
一台服务器上的 CPU 能直接连接多少 DDR5，是有限制的。
CPU 封装能够提供多少 Memory Channel，也是有限制的。
主板能够放多少 DIMM 插槽，同样受到面积、功耗和散热限制。
因此，即使数据中心愿意购买更多 DRAM，也不一定能够直接连接到 CPU。
CXL 就是解决这一问题的重要技术，而 Astera Labs 正是 CXL Memory Controller 市场的重要参与者。
什么是 CXL
CXL 是 Compute Express Link 的缩写。
它是一种建立在高速 PCI Express 物理连接基础上的 Cache-Coherent Interconnect，也就是支持缓存一致性的高速互连协议。
可以简单理解：
传统服务器中的 DDR5 通常通过 CPU 自己的 Memory Controller 直接连接处理器。
而 CXL 可以让服务器通过 PCIe 类似的高速连接方式，再接入额外的 Memory Device。
因此系统结构可以从传统的 CPU → DDR5，扩展成 CPU → DDR5，同时 CPU → CXL → CXL Memory → DDR5。
这样就可以突破 CPU 本身 Memory Channel 数量带来的限制。
CXL 还不仅仅能扩展容量，它进一步支持内存共享和内存池化，因此越来越受到大型云计算和 AI 数据中心关注。
Leo Smart Memory Controller
Astera Labs 在 AI Memory 领域最重要的产品系列叫 Leo Smart Memory Controller。
Leo 位于处理器和 DDR Memory 之间，负责把 CXL、PCIe 或平台特定的高速互连协议转换和管理成内存访问。
可以简单理解成：
CPU / AI Processor
→ CXL / PCIe
→ Leo Smart Memory Controller
→ DDR4 / DDR5
Leo 本身不是 DRAM。
真正保存数据的仍然是 DDR4 或 DDR5。
Leo 的作用更像一座高速桥梁，让处理器可以访问原本不能直接连接的大量内存。
为什么 AI 需要更多内存
传统服务器运行 Web Server、数据库或者普通企业程序时，几十 GB 或几百 GB 内存可能已经足够。AI 的情况完全不同。
大型语言模型拥有大量参数。模型运行以后还会产生 Activation、Context、Embedding 和 KV Cache 等大量数据。
特别是在 AI Inference，也就是 AI 推理过程中，如果用户输入的上下文越来越长，KV Cache 会迅速增加。
当同时服务大量用户以后，内存需求会变得非常巨大。
GPU 周围虽然拥有 HBM，但 HBM 容量有限，而且价格非常高。
因此 AI 系统越来越需要建立多层 Memory Hierarchy。
例如：
GPU 周围 HBM。
服务器 DDR5。
CXL Attached Memory。
高速 SSD。
Astera Labs 主要参与其中的 CXL Attached Memory 和 Fabric-Attached Memory 层。
什么是 Memory Expansion
Memory Expansion 就是“内存扩展”。
假设一颗 CPU 本身最多只能直接连接 1TB DDR5。
但是某个 AI 工作负载需要 2TB 或者 3TB 内存。
传统办法可能是购买支持更多内存通道的 CPU，或者增加服务器数量。
CXL 提供了另外一个选择 ：通过 CXL Memory Controller 增加额外内存。
Astera Labs 的上一代 Leo CXL Smart Memory Controller 已经可以为系统提供最高约 2TB 的额外内存容量和最高约 89.6GB/s 的扩展内存带宽。
这样数据中心可以在不增加额外 CPU 的情况下增加 Memory Capacity。
这对于数据库、AI、科学计算和内存密集型工作负载非常有价值。
什么是 Memory Pooling
比 Memory Expansion 更有意思的是 Memory Pooling，也就是内存池化。
传统服务器中的内存通常属于某一颗 CPU。
例如：
Server A 有 512GB。
Server B 有 512GB。
即使 Server A 只用了 100GB，而 Server B 已经快把自己的 512GB 用完，Server B 通常也不能直接借用 Server A 剩余的内存。
这会产生大量内存资源浪费。
Memory Pooling 的思路是把一部分内存从某一台服务器中“解放出来”，建立一个共享 Memory Pool。
然后根据实际工作负载，把容量分配给不同处理器或者服务器。
这样就像数据中心建立了一个“大内存池”，谁需要更多内存，就给谁更多。
Astera Labs 的 Leo Smart Memory Controller 支持 Memory Expansion、Memory Sharing 和 Memory Pooling，这也是 CXL 最重要的应用方向之一。
什么是 Memory Sharing
Memory Sharing 和 Memory Pooling 很接近，但是重点略有不同。
Memory Pooling 更强调很多处理器从一个资源池中动态获得内存。
Memory Sharing 则强调多个处理器能够访问某一部分共同内存。
对于大型 AI 系统来说，这可能减少不同 CPU 或 Accelerator 之间重复保存同样数据。
例如多个处理器需要使用同一套大型数据集，如果每颗处理器都保存一份副本，就会浪费大量内存。
共享 Memory 可以让多个处理器访问共同的数据资源。
这类架构也是未来 Disaggregated Computing，也就是“资源解耦计算”的重要基础。
什么是 Disaggregated Memory
传统服务器把 CPU、内存和存储设备固定安装在同一个主板或者机箱中。
Disaggregated Memory，也就是“解耦式内存”，则尝试把 Memory 从某一颗 CPU 或某一台服务器中独立出来。
可以简单理解：
过去是：
Server A → 自己的内存
Server B → 自己的内存
未来可能变成：
Server A
Server B
Server C
↓
高速 Fabric
↓
共享 Memory Appliance
这样计算资源和内存资源就可以分别扩展。
如果需要更多 Memory，就增加 Memory Appliance。
不再必须为了增加内存而购买整台服务器。
Astera Labs 已经把 Disaggregated Memory Appliance 列入 Leo 的重要应用架构。
2026 年新一代 Leo 2
2026 年 9 月 15 日，Astera Labs 又发布了新一代 Leo Smart Memory Controller 产品组合，包括 Leo X-Series、Leo 2 E-Series 和 Leo 2 P-Series。
新一代 E-Series 和 P-Series 支持 CXL 3.2、PCIe 6、单 x16 或双 x8 Host Connection，并支持 DDR4 和 DDR5 内存扩展。
Astera Labs 表示，新产品相对于上一代 Leo 可以把 Memory Bandwidth 和 Capacity 提高一倍。
其中新 Leo E-Series 和 P-Series 可以支持四通道 DDR5-6400，也可以支持 DDR4-3200。
公司同时推出支持 8 个 DDR5 RDIMM 或 12 个 DDR4 RDIMM 的 CXL Add-in Card 方案。
这里的 RDIMM 是 Registered DIMM 的缩写。它是数据中心服务器常用的内存条类型。
因此 Leo 并不是一种特殊 DRAM，而是让大量普通服务器 DDR Memory 能够通过新的高速互连方式加入 AI 和云计算系统。
DDR4 为什么还没有失去价值
一个很有意思的问题是：既然 DDR5 已经出现，为什么新一代 Leo 还支持 DDR4？
原因是全球数据中心中存在大量 DDR4 内存。
如果服务器 CPU 升级以后，这些 DDR4 不能继续直接使用，就会产生大量闲置 Memory。
Astera Labs 的新 Leo 2 可以让部分 DDR4 通过 CXL 或高速 Fabric 重新加入新型服务器系统。
这意味着未来 Memory 不一定必须和 CPU 同步淘汰，旧内存可能通过 CXL Memory Pool 继续发挥作用。
这对于大型数据中心降低 Memory Cost 很有意义。
Leo X-Series 与 Fabric-Attached Memory
Leo X-Series 又比普通 CPU Attached CXL Memory 更进一步。
它重点支持 Fabric-Attached Memory。
Fabric 可以理解成连接大量 CPU、GPU、内存和设备的高速交换网络。
Fabric-Attached Memory 则是：
GPU / CPU
↓
Fabric Switch
↓
Leo Memory Controller
↓
DDR Memory
整个 AI Rack 都可能通过 Fabric 访问内存资源。
对于未来 Rack-Scale AI，这可能非常重要。
因为 AI 计算已经从“一台服务器有几颗 GPU”逐渐变成“整个机架是一个计算系统”。
Scorpio Smart Fabric Switch
如果 Leo 是内存控制器，那么 Astera Labs 的 Scorpio Smart Fabric Switch 就更像 AI 服务器中的高速交换中心。
Switch 中文就是“交换机”。
这里不是传统 Ethernet 网络交换机，而是连接 GPU、CPU、NIC、SSD 和 Memory Device 的 PCIe 或 Memory-Semantic Fabric Switch。
Astera Labs 的 Scorpio 产品目前包括 P-Series 和 X-Series。
P-Series 支持 PCIe 6，并提供从 32 Lane 到 320 Lane 的不同配置。
Scorpio X-Series 则进一步强调 Memory-Semantic AI Scale-Up Fabric。
什么是 Memory-Semantic
Memory-Semantic 可以简单理解成：
处理器通过 Fabric 访问远端资源时，使用接近普通内存 Load 和 Store 的方式，而不是把每一次数据访问都变成复杂网络软件请求。
普通网络访问可能需要：
Application
→ Operating System
→ Network Stack
→ NIC
→ Network
→ Remote Device
Memory-Semantic Fabric 希望让处理器用更加直接的方式访问资源。
Astera Labs 表示，这种架构可以减少软件开销，让 AI Accelerator 更直接地访问通过 Fabric 连接的资源。
对于 AI 系统来说，Latency，也就是延迟，非常重要。
如果访问远端 Memory 每一次都需要大量软件协议处理，即使物理链路非常快，最终性能也可能很差。
Scorpio X-Series 320 Lane
Astera Labs 目前的 Scorpio X-Series 可以提供最高 320 Lane 的 AI Fabric Switch。
Lane 可以简单理解成高速数据传输通道。
Lane 数量越多，Switch 能够同时连接的高速设备和总带宽就越大。
Astera Labs 表示，其 320-Lane Scorpio X-Series 可以支持高 Radix 架构，一个 Switch 可以连接大量 AI Accelerator，并支持最高约 80 个 Accelerator 的相关拓扑。
这种 Switch 的目标不是让一颗 GPU 运行得更快，而是让几十颗 GPU 能够像一个大型计算系统一样协同工作。
KV Cache 与 Astera Labs
Astera Labs 的产品与 AI Inference 的一个重要概念——KV Cache——正在产生直接联系。
KV Cache 是 Key-Value Cache 的缩写。
大型语言模型生成文字时，会保存之前 Token 计算产生的一部分中间结果。
如果没有 KV Cache，每生成一个新 Token，都可能需要重新计算大量前面的内容。
使用 KV Cache，可以避免这些重复计算。
但问题是：
对话越长，KV Cache 越大。
同时服务的用户越多，KV Cache 总容量越大。
这正在成为 AI 推理系统一个非常大的 Memory 问题。
Astera Labs 已经把 KV Cache Storage Disaggregation 和 Integrated KV Cache Server 列为 Leo 和 Scorpio 的重要应用架构。
CXL Memory 可以帮助保存 KV Cache
HBM 非常快，但非常贵，而且容量有限。
如果把所有 KV Cache 都永久放在 GPU HBM 中，会占用宝贵的 HBM 容量。
因此 AI 系统正在探索：
把当前最需要的数据放在 HBM。
把部分 KV Cache 放到 DDR5。
甚至把更加冷的数据放到 SSD。
CXL Memory 可以在 HBM 和 SSD 之间提供另外一个大容量 Memory Tier。
这样系统就可能形成：
GPU SRAM
↓
HBM
↓
CXL DDR Memory
↓
SSD
这种多层 Memory Hierarchy 可以在性能、容量和成本之间取得更好的平衡。
这也是 Astera Labs 越来越直接进入 AI Memory 市场的原因。
Time to First Token
AI 推理还有一个常见指标叫 TTFT。
TTFT 是 Time to First Token 的缩写，也就是“生成第一个 Token 所需要的时间”。
用户向 AI 输入问题以后，如果系统需要很长时间才开始回答，用户会明显感觉系统很慢。
因此降低 TTFT 是大型 AI 服务非常重要的目标。
Astera Labs 在 2026 年 9 月发布 Leo X-Series 时表示，在其相关平台测试中，Fabric-Attached Memory 架构针对长上下文和 KV Cache 工作负载可以改善推理性能。
公司公布的特定测试结果包括最高约 62% 更快的 Time to First Token，以及最高约 22% 更多的 Tokens per Second。
这里需要注意，这些数字来自 Astera Labs 自己公布的测试条件，并不是所有 AI 系统都一定能够获得相同提升。
Tokens per Second
Tokens per Second，简称 TPS，就是 AI 模型每秒能够生成多少 Token。这是衡量 AI 推理吞吐性能的重要指标之一。
但是实际部署大型语言模型以后，数据中心更关心：
一台服务器能同时服务多少用户？
每秒能够生成多少 Token？
每个 Token 成本是多少？
每瓦电力能够产生多少 Token？
因此 Astera Labs 使用一个很有意思的词：Token Economics。
也就是整个 AI 数据中心最终要优化的不是某一个芯片理论速度，而是每一个 Token 的成本。
Memory、Fabric、GPU、NIC 和 SSD 都会影响这个成本。
Aries Smart DSP Retimer
Astera Labs 另外一个非常重要的产品系列是 Aries Smart DSP Retimer。
Retimer 可以翻译成“重定时器”。
PCIe 和 CXL 信号速度越来越高以后，一个现实问题就是 信号无法无限距离传输。
高速数字信号经过 PCB 铜线以后，会发生衰减、失真、Jitter 和其他问题。距离越长，速度越高，问题越严重。
Retimer 的作用就是：
接收已经衰减的高速信号。
重新恢复时钟和数据。
重新生成干净信号。
然后继续向下一段线路发送。
因此当大型 AI 服务器中 CPU、GPU、CXL Memory 和 PCIe Device 距离越来越远时，Retimer 会变得非常重要。
为什么 AI 服务器需要大量 Retimer
传统 PC 主板距离比较短。
但是 AI Server 可能拥有：8 颗 GPU ，多颗 CPU，多个 NIC，大量 NVMe SSD，CXL Memory，Fabric Switch，而且这些设备可能分布在大型服务器机箱甚至整个机架中。
随着 PCIe 5、PCIe 6 速度不断提高，信号完整性越来越难保证。
因此高速 AI 服务器可能需要大量 Retimer。
Astera Labs 正是在这个市场建立了自己的连接芯片产品线。
所以从某种意义上说：AI 芯片越多，互连越复杂，Astera Labs 的产品价值越高。
COSMOS 软件平台
Astera Labs 并不只销售芯片。公司还开发了 COSMOS 软件平台。
COSMOS 全称是 COnnectivity System Management and Optimization Software。它可以用于配置、监控和诊断大量高速互连设备。
例如一个大型 AI Rack 中可能存在几十甚至几百条 PCIe、CXL 和其他高速连接。
如果某一条链路不断出现错误，运维人员需要知道：
是哪颗芯片？
哪一条 Lane？
信号质量怎么样？
发生了多少 Error？
Firmware 是什么版本？
链路有没有降速？
COSMOS 就是用来帮助大型云数据中心管理这些连接资源。
这体现出 Astera Labs 的商业模式并不是只卖一颗 Controller，而是提供：
Silicon + Firmware + Software + Diagnostics。
Astera Labs 与 HBM 有什么关系
Astera Labs 本身不生产 HBM，但是它和 HBM 所在的 AI 系统关系非常密切。
一颗 AI GPU 周围可能安装 HBM4。但是 GPU 不可能只和 HBM 通信。
它还需要访问：其他 GPU，CPU，NIC，CXL Memory，SSD，KV Cache Appliance。
所以可以简单理解成：
Astera Labs 解决 GPU 走出本地 HBM以后如何高速连接其他资源。
因此 两者不是竞争关系，而是 AI Memory Hierarchy 中的不同层级。
Astera Labs 与 SK hynix、Micron 的区别
SK hynix 和 Micron主要制造：DRAM Cell，DDR Memory，HBM Stack。
Astera Labs主要制造：Memory Controller，Fabric Switch，Retimer，高速互连芯片。
可以简单理解：
Micron 制造“内存”。
Astera Labs 制造“通往内存的高速公路和交通控制系统”。
没有 DRAM，就没有数据存储。但是如果连接系统速度太慢，再快的 DRAM 也无法充分发挥性能。
所以随着 AI Memory 越来越复杂，Memory Connectivity 本身正在成为一个独立的重要半导体市场。
Astera Labs 与 Marvell、澜起科技的关系
从 AI Memory 企业分类来看，Astera Labs 与 Marvell、Montage Technology 澜起科技等公司更加接近。
这些企业不一定制造 DRAM Cell，而是围绕：Memory Controller，CXL，DDR Interface，PCIe，Memory Expansion，Fabric 开发芯片。
因此在 AI Memory 分类中，可以把 Astera Labs 标记成：
CXL Memory / AI Memory Connectivity / Smart Memory Controller
Rack-Scale AI
Astera Labs 现在非常强调一个概念：Rack-Scale AI。Rack 就是服务器机架。
过去一台 Server 是基本计算单元。
现在大型 AI 系统越来越像 整个机架才是一台计算机。
例如一个 Rack 中可能安装：
几十颗 GPU。
多颗 CPU。
大量 HBM。
数 TB DDR Memory。
数十颗 NVMe SSD。
高速 Ethernet NIC。
Fabric Switch。
CXL Memory。
如果这些部件不能高效连接，再强大的 GPU 也可能等待数据。
因此 AI 竞争正在从 “谁有最快 GPU” 逐渐变成 “谁能够把整个 Rack 做成一台高效率 AI Computer”。
Astera Labs 把这个阶段称为 AI Infrastructure 2.0。
从 Server-Centric 转向 Fabric-Centric
传统服务器设计是 Server-Centric。
也就是：CPU 是中心，Memory 属于 CPU，SSD 属于服务器，GPU 属于服务器。
新的 Rack-Scale AI 则越来越接近 Fabric-Centric。
也就是：GPU，CPU，Memory，SSD，NIC。全部连接到高速 Fabric。资源不再必须固定属于一台服务器。
这就会产生：
Composable Infrastructure。
Disaggregated Memory。
Shared Memory。
Pooled Memory。
Fabric-Attached Memory 这些概念。
Astera Labs 的 Leo 和 Scorpio 正是围绕这一趋势设计的。
为什么 Astera Labs 值得关注
Astera Labs 值得关注的核心原因，并不是它会取代 HBM。而是 AI Memory 正在从“几颗内存芯片”变成“整个内存系统”。
未来 AI Accelerator 的性能可能越来越取决于：
HBM 有多快。
HBM 有多大。
DDR Memory 有多少。
CXL Memory 有多少。
KV Cache 放在哪里。
GPU 之间怎样共享数据。
Memory 能不能池化。
Memory 能不能动态分配。
整个系统的 Fabric 延迟有多低。
因此 Memory Controller 和 Fabric Switch 的重要性正在快速提高。
Astera Labs 正好位于这个变化的中心。
Astera Labs 在 AI Memory 产业中的位置
如果把 AI Memory 企业按照技术层级划分，可以这样理解。
SK hynix、Samsung、Micron：HBM 和 DRAM。
Sandisk、Kioxia、长江存储：NAND、SSD 和 AI Storage。
NEO Semiconductor：下一代 3D DRAM、X-SRAM 和新型高带宽 Memory Architecture。
Astera Labs：CXL Memory、Memory Controller、Memory Pooling 和 AI Memory Fabric。
因此 Astera Labs 并不是传统 Memory Manufacturer。
它更准确的定位是：AI Memory Infrastructure Semiconductor Company。也就是“AI 存储基础设施半导体企业”。
总结
Astera Labs 是一家成立于 2017 年、总部位于美国 San Jose 的高速互连半导体企业，目前在 Nasdaq 上市，股票代码 ALAB。
公司的核心技术集中在 PCIe、CXL、Ethernet 以及 AI Fabric，为大型 AI 和云数据中心解决 CPU、GPU、Memory、SSD 和网络设备之间的数据传输瓶颈。
在 AI Memory 领域，Astera Labs 最重要的产品是 Leo Smart Memory Controller。
Leo 可以把 DDR4 和 DDR5 通过 CXL、PCIe 或其他高速 Fabric 接入服务器和 AI 系统，从而实现 Memory Expansion、Memory Sharing、Memory Pooling 和 Fabric-Attached Memory。
2026 年 9 月，公司进一步推出 Leo X-Series 以及 Leo 2 E-Series、P-Series，新产品支持 CXL 3.2、PCIe 6、DDR4 和 DDR5，并把 AI KV Cache、Agentic AI、长上下文推理和 Rack-Scale Memory 作为重要应用方向。
与此同时，Astera Labs 的 Scorpio Smart Fabric Switch 可以连接大量 GPU、CPU、NIC、SSD 和 Memory Device，而 Aries Retimer 则负责保证越来越高速、越来越长距离的 PCIe 和 CXL 信号能够可靠传输。
因此，Astera Labs 不是传统意义上的 HBM 或 DRAM 制造商。
全球重要的 CXL Memory Controller、AI Memory Expansion、Memory Pooling 和 Rack-Scale AI Fabric 芯片企业。
如果说 SK hynix、Samsung 和 Micron 制造的是 AI 系统需要的“高速内存”，那么 Astera Labs 制造的就是让 CPU、GPU 和这些内存能够高速连接、共享和扩展的“AI Memory 高速公路”。
随着 AI 系统从单颗 GPU、单台服务器进一步发展到整个 Rack 共同计算，Astera Labs 所处的 Memory Connectivity 和 AI Fabric 市场很可能变得越来越重要。