---
title: "📌 一、AI 内存墙困境 🧱AI 内存墙，即 AI 基础设施所需的内存容量与带宽，与传统内存架构所能提供的容量与带宽之间日益扩大的差距，正以惊人的速度加速扩大。"
topic_id: 22255824848814141
created_at: 2026-05-05T11:56:27.872+0800
source: zsxq
type: topic
cssclasses: zsxq-vault
---

# 📌 一、AI 内存墙困境 🧱AI 内存墙，即 AI 基础设施所需的内存容量与带宽，与传统内存架构所能提供的容量与带宽之间日益扩大的差距，正以惊人的速度加速扩大。

- 序号：490
- 星球链接：[打开网页](https://wx.zsxq.com/group/15522451881222/topic/22255824848814141)
- 附件：图片 0，音频 0，文档 0
- 音频文件：_无音频_

## 图片

_无图片_

## 正文

📌

一、AI 内存墙困境
🧱AI 内存墙，即 AI 基础设施所需的内存容量与带宽，与传统内存架构所能提供的容量与带宽之间日益扩大的差距，正以惊人的速度加速扩大。
📉对数据中心运营商及其客户而言，后果正日益严峻：处理器闲置、设备利用率低下、处理时间延长、成本攀升，最终导致投资回报率下降。
💸与此同时，内存 —— 在数据中心半导体支出中仅次于 GPU—— 价格仍在持续飙升。
二、Marvell Structera S 系列核心价值
🔌Marvell Structera S 系列 CXL 交换机，可通过提供一条扩展路径，为基础设施添加 TB 级共享内存，实现带宽与容量的动态分配，以此提升资源利用率与应用性能。
📶CXL 交换机不仅能提升内存容量，更能帮助数据中心运营商更智慧地运用内存资源。
三、产品迭代与扩展
✨Structera S 是 Marvell 旗下 XConn Technologies 开发的革命性 Apollo 系列 CXL 交换机的前身。
🏆去年发布的 Structera S 20256（前身为 XConn Apollo I）成为首款商用 PCIe 5.0/CXL 2.0 版 CXL 交换机。
🚀Marvell 正通过 Structera S 30260 扩展产品线，以支持 PCIe 6.0/CXL 3.x。
⚙️Structera S 30260 支持连接 16 或 32 个 CPU/GPU，提供高达 48TB 的共享内存和 4TB / 秒的累积带宽。
📅Marvell 本周在 OFC 2026 上现场展示了 Structera S 30260，并计划于 2026 年第三季度向客户提供样品。
四、CXL 如何突破内存墙
🔧CXL 通过绕开内存墙来攻克这一难题。它并非增加处理器数量或扩大 HBM 堆栈容量，而是通过主机 CPU、GPU 或 XPU 上可用的 PCIe 通道来添加内存。
💡通过 CXL 交换机添加可共享的 DRAM，可提高内存利用率、简化数据传输、优化编程模型并降低功耗，同时维持严苛的数据访问与隔离标准。
💻DRAM 不再专属于单个 XPU，而是成为池化资源，从而实现更高的利用率。
五、性能实测数据
📊来自阿里云与 XConn 的 2025 年获奖论文展示：将 CXL 交换机与云原生数据库的池化内存系统结合，可实现 2.1 倍的吞吐量提升；通过 CXL 内存共享，则可实现 1.55 倍的提升。
🖥️某配置展示了一个采用两颗 CXL 交换机连接至 16TB 额外容量内存池的四 CPU 系统。共享内存方案实现了比本地内存高 16 倍的扩展性，且延迟比直接内存访问低 72%。
📊某配置展示了由 CXL 池化技术连接 8 个 GPU 的双 CPU 服务器，16TB 内存共享可将推理吞吐量提升 4.8 倍，首次令牌生成时间减少 82.7%。
六、Structera S 关键特性
✅：Structera S 通过交换机实现内存往返访问的延迟低于 460 纳秒。
✅：同时支持 DDR5 和 DDR4，通过内存扩展提升供应链灵活性，帮助系统架构师降低成本。
✅：与 Marvell 现有 CXL 系列交换机在电路板、引脚、功耗及封装层面完全兼容，额外增加了 CXL 专用功能，简化了设备制造商和数据中心运营商的认证流程，降低部署成本并缩短上市时间。
✅：提供业界最低的每端口功耗。
七、Marvell CXL 产品矩阵
🏢凭借 Structera S，Marvell 成为业界首家且唯一一家拥有覆盖三大产品类别的完整 CXL 产品组合的企业，三大类别分别为内存扩展、内存加速与内存池化，且可在同一基础设施中共存。
📈CXL 内存扩展器最多可扩展 128GB 的内存，Marvell 近期发布的第三代扩展器可将单颗 CPU 的可用内存扩展至 128GB。
🔌CXL 内存加速器可在不增加额外内存容量的前提下，将推理性能提升近 4 倍。
💻CXL 内存池化技术可在数据中心内部署 TB 级共享内存。
八、生态系统布局
🌱Marvell 也在持续培育 CXL 交换技术的生态系统。
🔧Marvell 首创的 CXL 内存加速器，可支持更少 TB 级容量的服务器，每台服务器的内存容量比传统方案高 16 倍。
💻其内存扩展器与内存池化方案，能在不增加额外服务器的前提下，将单台服务器的内存容量扩展至 128TB，大幅提升 AI 任务处理效率。

## 总体总结

主题正文
1. 📉对数据中心运营商及其客户而言，后果正日益严峻：处理器闲置、设备利用率低下、处理时间延长、成本攀升，最终导致投资回报率下降。
2. 🔌Marvell Structera S 系列 CXL 交换机，可通过提供一条扩展路径，为基础设施添加 TB 级共享内存，实现带宽与容量的动态分配，以此提升资源利用率与应用性能。
3. 🏆去年发布的 Structera S 20256（前身为 XConn Apollo I）成为首款商用 PCIe 5.0/CXL 2.0 版 CXL 交换机。
4. ⚙️Structera S 30260 支持连接 16 或 32 个 CPU/GPU，提供高达 48TB 的共享内存和 4TB / 秒的累积带宽。
5. 🖥️某配置展示了一个采用两颗 CXL 交换机连接至 16TB 额外容量内存池的四 CPU 系统。
6. 📊某配置展示了由 CXL 池化技术连接 8 个 GPU 的双 CPU 服务器，16TB 内存共享可将推理吞吐量提升 4.8 倍，首次令牌生成时间减少 82.7%。
7. ✅：与 Marvell 现有 CXL 系列交换机在电路板、引脚、功耗及封装层面完全兼容，额外增加了 CXL 专用功能，简化了设备制造商和数据中心运营商的认证流程，降低部署成本并缩短上市时间。
8. 🏢凭借 Structera S，Marvell 成为业界首家且唯一一家拥有覆盖三大产品类别的完整 CXL 产品组合的企业，三大类别分别为内存扩展、内存加速与内存池化，且可在同一基础设施中共存。
