美光科技在服務器內存領域取得新突破,有望為AI數據中心基礎設施帶來新的硬件路徑。
9月15日,美光宣佈,成功完成全球首款512GB DDR5 RDIMM內存模組的演示驗證,並已在多個服務器平台上完成測試。該產品使單台雙路服務器的DDR5內存容量上限突破12TB,可為大規模AI推理、內存數據庫以及高密度虛擬化等工作負載提供更高的內存容量。AMD與英特爾均已啓動對該模組的主動驗證,傳輸速率最高可達9200 MT/s。
對數據中心運營商而言,這款超高密度內存模塊的另一大看點是能效。與採用4條128GB模組的方案相比,單條512GB模組的運行功耗降低逾60%,有望在提升內存容量的同時降低數據中心的電力消耗。
技術突破:垂直封裝堆疊實現超高密度
512GB模組的高容量得益於美光自主研發的先進垂直互連封裝技術。該技術利用硅通孔(TSV)將多層DRAM裸片進行垂直堆疊和互連,在有限封裝空間內提升存儲密度,同時保持數據中心架構所需的性能水平。
美光雲內存業務部門高級副總裁兼總經理Raj Narasimhan表示,512GB RDIMM能夠支持多太字節級服務器,在不改變現有服務器機箱尺寸的情況下,同時滿足更大規模AI和數據庫工作負載、更高虛擬化密度以及更高能效的需求。
在性能方面,針對Spark支持向量機(SVM)數據分析等內存密集型工作負載,512GB RDIMM相較256GB DDR5配置可帶來最高1.4倍的性能提升。對於RocksDB、Redis等內存數據庫和緩存平台,該模組也有望提升吞吐量和併發處理能力,並支持更大規模的數據集。
生態系統驗證:AMD與英特爾同步推進
為了推動512GB DDR5 RDIMM進入下一代服務器平台,美光正與AMD和英特爾展開工程協作,驗證產品的兼容性並推進後續部署。
AMD企業副總裁Amit Goel表示,AMD與美光的緊密工程合作,將計算與內存創新進一步結合,有助於客戶充分釋放AMD平台的性能,並共同應對現代工作負載規模和複雜性不斷上升帶來的基礎設施需求。
英特爾數據中心事業部平台與系統工程總經理Karin Eibschitz Segal則表示,AI及其他數據密集型工作負載的增長,正在對服務器基礎設施提出更高要求,內存容量和帶寬對整體系統性能的重要性日益提升。英特爾正與美光密切合作,驗證512GB DDR5 RDIMM,並推動面向下一代數據中心工作負載的服務器平台落地。
需求驅動:AI工作負載推高內存容量需求
大型語言模型(LLM)、智能體AI、實時推理以及高核心數CPU工作負載的快速擴張,正推動服務器內存市場向更大容量、更高帶寬和更優能效演進。512GB RDIMM能夠將更多數據保留在主內存中,減少對較慢存儲層級的依賴,從而降低數據搬移帶來的性能損耗。
企業端的需求也印證了這一趨勢。JPMorganChase基礎設施平台首席信息官Darrin Alves表示,隨着數據中心工作負載持續增長,如何在整個技術棧中平衡計算、內存和效率變得越來越重要。美光512GB RDIMM等高容量內存技術,有助於企業承載更大規模的內存工作負載、提升資源利用率,並增強擴展現代計算環境所需的靈活性。
美光表示,512GB DDR5 RDIMM預計將於2027年下半年根據客戶需求進入量產階段。