Marvell正通过更大容量、更高带宽的内存扩展方案,瞄准AI推理基础设施升级带来的需求增长。
据彭博报道,10月12日,Marvell正式发布第二代Structera X 3406和3506 CXL内存扩展器。公司称,这是业界首款六通道CXL 3.2内存扩展器,单控制器最高支持9TB DDR4或6TB DDR5内存,内存通道数量较上一代增加50%。两款产品预计于2027年第一季度开始向客户提供样品。
此次发布旨在应对AI推理工作负载日益突出的内存瓶颈。随着大型语言模型(LLM)规模扩大、上下文窗口延长以及KV缓存需求快速增长,传统服务器架构的内存容量与带宽正面临更大压力,内存逐渐成为制约AI性能和基础设施效率的关键因素。
AMD、Arm、阿里巴巴、三星和SK海力士等企业均对新产品及相关生态合作表示支持。
核心技术升级:更多通道,更大容量
Structera X 3406和3506在上一代产品基础上实现了内存通道、扩展容量及压缩性能等方面的升级。
在内存配置方面,两款产品均支持六通道内存。其中,3406支持18个DDR4 RDIMM插槽,最高容量达9TB;3506支持12个DDR5 RDIMM插槽,最高容量为6TB。在主机互联方面,两款产品均支持最多四台主机共享内存资源,主机互联带宽最高可达256GB/s,采用PCIe 6.0 x16接口。
在压缩性能方面,新产品内置LZ4压缩引擎,压缩和解压缩吞吐量最高达250GB/s,较上一代提升5倍,可将有效内存容量扩大至原来的2至3倍。
Marvell表示,在大型语言模型推理场景中,新产品可在相同上下文长度下,将首字节响应时间(TTFT)缩短40%至50%;在深度学习推荐模型(DLRM)场景中,单控制器每秒查询量最高可提升至原来的2倍,嵌入表有效容量则可扩大至原来的2至3倍。
瞄准超大规模数据中心,生态合作持续扩展
Marvell表示,第二代Structera X沿用已向超大规模数据中心客户出货的第一代2404/2504产品的软件栈和生态集成方案,旨在加快新产品的客户导入进程。
多家行业伙伴公开表达了支持。AMD企业副总裁Raghu Nambiar表示,双方的合作依托EPYC处理器的性能与可扩展性,帮助企业在AI和数据密集型应用需求增长的背景下扩展内存容量、提高资源利用效率。
Arm云端AI go-to-market副总裁Eddie Ramirez表示,Structera X将CXL 3.2、内存扩展和压缩能力引入Arm生态,为超大规模数据中心高效运行复杂AI工作负载提供更多选择。
三星电子内存产品规划副总裁Jangseok Choi和SK海力士下一代产品规划与使能负责人Uksong Kang则表示,双方已分别与Marvell完成Structera产品与各自DDR内存的验证。
完善CXL产品组合,布局内存池化与分解架构
Marvell客制化云端解决方案执行副总裁兼总经理Will Chu表示,公司是业内唯一提供完整端到端CXL产品组合的供应商,产品覆盖多个层级:用于内存扩展的Structera X、用于近内存加速的Structera A,以及面向机柜级CXL内存共享的PFMA(Photonic Fabric™ Memory Appliance),覆盖从直连内存扩展到内存池化与分解的不同应用场景。
市场研究机构Objective Analysis总经理Jim Handy指出,CXL正逐步应用于AI系统,其高带宽、大容量特性有望带来显著收益。他还表示,在内存供应紧张、价格高企的背景下,IT管理者正考虑利用CXL在DDR5系统中复用DDR4内存模组,以降低成本;具备内存压缩功能的控制器则有望进一步增强这类方案的吸引力。
Structera X 3406和3506将于10月12日至15日在加州圣何塞举行的OCP全球峰会上亮相,正式样品预计于2027年第一季度推出。