SK海力士正在以两项突破性技术重新定义AI基础设施的内存架构边界。在2026年OCP全球峰会上,这家韩国存储巨头发布了MARS内存加速架构与HBF高带宽闪存技术,剑指当前AI推理与训练中日益严峻的内存瓶颈问题。
SK海力士高级副总裁Hoshik Kim在峰会上披露,MARS系统可将多轮AI推理场景中的首次标记时间(TTFT)提升3至5倍,尾延迟亦大幅压缩。这一性能跃升直接针对现有以处理器为中心的集群架构所固有的资源失衡问题,有望降低GPU过度配置带来的总拥有成本(TCO)。
与此同时,HBF技术在保持接近HBM级别带宽的前提下,将容量扩展至HBM的14倍,并计划于2028年初推出样品。
上述两项技术的发布,标志着SK海力士在HBM主赛道之外开辟了一条差异化路线。在HBM供应持续紧张、英伟达等AI芯片厂商对高带宽内存需求居高不下的背景下,这两项技术或将对现有AI存储架构形成重要补充,并对存储产业链竞争格局产生深远影响。
MARS:以内存解聚打破GPU过度配置困局
传统以处理器为中心的分布式计算集群面临结构性瓶颈。Kim在峰会上指出,现有架构存在两大核心缺陷:其一,资源失衡——某台服务器上的闲置内存无法便捷地与其他节点共享;其二,扩展僵化——增加内存容量往往意味着购置整台新服务器节点。这两大问题叠加,迫使运营商不得不对GPU进行过度配置,推高TCO并造成系统效率低下。
MARS(Memory-Centric AI Rack-Scale System)的核心逻辑在于内存解聚。Kim将其描述为"将内存从传统CPU/GPU服务器约束中解耦,构建一个专用的大规模内存池",从而实现从"单服务器内存余量"向"池化级效率"的跨越。在架构层面,MARS将这一内存托盘级内存池的概念进一步扩展至机架规模,使计算与内存作为共享基础设施协同运作。
在实际应用场景中,MARS的价值尤为突出。Kim以多轮AI智能体推理服务为例说明,该系统能够将多轮对话中急剧膨胀的KV缓存存储于共享内存系统,而不会耗尽GPU内存与存储资源。据TrendForce现场报道,Kim援引测试数据称,与重新计算方案相比,MARS可实现TTFT提升3至5倍,尾延迟的改善尤为显著。
对于AI推理服务商而言,TTFT是衡量用户体验的关键指标,尾延迟的压缩则直接关系到大规模并发场景下的服务稳定性。MARS所针对的GPU过度配置问题,亦是当前AI数据中心运营成本居高不下的重要根源之一。
HBF:以容量换取架构弹性,2028年进入样品阶段
HBF(High Bandwidth Flash,高带宽闪存)是SK海力士在HBM之外布局的另一技术路线。Kim在峰会上明确了HBF与HBM的定位关系:"HBF将HBM级别的带宽扩展至机架规模的容量……HBF的带宽约为HBM的一半,但容量约为HBM的14倍。"
这一定位揭示了HBF的核心价值主张:以适度的带宽折让换取大幅扩展的容量空间,从而在机架层面构建更具弹性的存储层级。对于大模型推理中需要承载海量参数与上下文的场景,容量瓶颈往往比带宽瓶颈更为制约系统性能,HBF的14倍容量优势因此具有实质性意义。
在技术路线图方面,SK海力士已于今年7月发布OCP HBF规范0.7版本,预计明年初推出1.0版本,HBF Cube样品则计划于2028年初提供。这一时间线意味着HBF距离大规模商业化部署仍有约两年窗口期,但规范的持续推进表明产业标准化进程正在加速。
对AI芯片与存储产业链的潜在影响
MARS与HBF的发布,折射出存储厂商在HBM供应紧张背景下寻求多元化突破的战略意图。当前,HBM产能高度集中,英伟达等AI芯片厂商对HBM的旺盛需求持续推高供应压力,这为替代或补充性内存架构提供了市场空间。
从技术逻辑看,MARS并非直接替代HBM,而是通过内存解聚在系统架构层面提升整体内存利用效率,减少对GPU内存扩容的依赖。这意味着在不增加HBM采购量的前提下,数据中心运营商有望通过部署MARS改善推理性能,对HBM需求形成一定的边际抑制效应。HBF则在存储层级上提供了HBM的容量补充,有助于缓解大模型部署中的容量约束,但其带宽折半的特性决定了其更适合作为分级存储架构中的补充层,而非HBM的直接替代。
对于存储产业链而言,SK海力士此次在OCP峰会上的集中发布,亦是向云计算厂商和AI基础设施运营商传递技术路线图的重要信号。随着HBF规范走向1.0版本并于2028年进入样品阶段,围绕新型存储架构的生态竞争或将提前展开,三星、美光等竞争对手的应对策略值得持续关注。