半导体与芯片

HBM高带宽内存:AI时代的存储瓶颈与产能争夺

2026年07月01日  ·  约5000字  ·  ¥3.00

如果你以为AI芯片的竞争只是比谁的晶体管更多、算力更高,那你可能错过了一条更隐秘但同样激烈的主战场:HBM高带宽内存。在过去两年里,英伟达H200的性能提升有超过40%来自HBM3e带来的内存带宽增长,而不是GPU核心的改进。

这揭示了一个残酷但真实的事实:AI算力的瓶颈已经从计算单元转移到了存储子系统。大模型的推理过程本质上是一场内存访问密集型的操作。以GPT-5的一次典型推理为例,生成每个token需要读取KV Cache中的数据,这个过程的带宽需求高达每秒数百GB。如果内存带宽跟不上,GPU的计算单元做得再快也只能空转等待数据。

HBM(High Bandwidth Memory)就是为了解决这个问题而生的。与传统的DDR内存不同,HBM通过硅中介层(Silicon Interposer)将多个DRAM die垂直堆叠,用贯穿硅通孔(TSV)实现层间互连。这种三维堆叠结构将数据总线宽度从DDR5的64位一口气提升到1024位。一个典型的HBM3e堆叠包含8到12层DRAM die,提供24GB到36GB容量和超过1TB/s的带宽。

HBM4即将把这场竞赛推向新的高度。根据JEDEC在2025年发布的HBM4标准草案,HBM4将把数据总线宽度提升到2048位,单堆叠带宽有望突破1.5TB/s。SK海力士已经宣布将在2026年下半年量产HBM4,三星的HBM4时间表也大致同步。一个英伟达Rubin架构GPU如果搭载8个HBM4堆叠,总带宽将超过12TB/s,这对万亿参数模型的推理来说,意味着延迟可以降低到接近实时的水平。

但HBM的供给远远跟不上需求。2026年全球HBM产能估计只能满足英伟达一家约70%的需求。而AMD、英特尔、华为、谷歌、亚马逊等厂商也都在抢购HBM。这种供需失衡意味着HBM的价格在短期内不会下降,也意味着谁控制了HBM产能,谁就控制了AI芯片的命脉。

以下为付费内容(约4000字),涵盖完整的技术分析、产业链拆解与深度洞察。付费¥3.00解锁全部内容。

Praesent commodo cursus magna, vel scelerisque nisl consectetur et. Donec sed odio dui. Aenean eu leo quam...

✓ 已解锁完整内容

HBM技术演进:从HBM2e到HBM4

回顾HBM的技术演进,每一步都是在和物理定律较劲。

HBM2e(2018-2020):每堆叠8层,每层8Gb,总容量16GB,带宽460GB/s。这个阶段HBM还只是高端GPU的"加分项",并不是必需品。

HBM3(2022-2024):每堆叠12层,每层16Gb,总容量24GB,带宽819GB/s。信号速率从3.2Gbps提升到6.4Gbps,跨过了关键的带宽门槛。英伟达H100是首个大规模使用HBM3的产品。

HBM3e(2024-2025):将容量提升到36GB(12层×24Gb),带宽突破1.2TB/s。英伟达H200和Blackwell B200都采用HBM3e。这个阶段HBM已经成为AI芯片的性能瓶颈所在,也是成本中占比最高的组件之一。

HBM4(2025-2026):JEDEC标准在2025年Q2发布。关键革新包括:2048位总线宽度、单堆叠带宽目标1.5TB/s以上、更先进的TSV工艺。更重要的是,HBM4将逻辑die和DRAM die的堆叠方式做了一次架构调整。逻辑die将被放置在堆叠的底部,直接面对处理器,减少了信号路径长度。

但HBM4的量产难度比HBM3e高出一个数量级。TSV的深宽比要求从HBM3的10:1提升到15:1以上,钻孔工艺良率大幅下降。而且12层以上的堆叠意味着每颗芯片的热密度急剧增加,散热设计成为新的工程难题。

三巨头的产能博弈

全球HBM市场由韩国双雄SK海力士和三星主导,美光正在奋力追赶。

  • SK海力士:目前是HBM市场的绝对霸主,占据超过50%的份额。SK海力士在HBM上的先发优势来自其MR-MUF(Mass Reflow Molded Underfill)封装技术,这种技术可以在堆叠芯片之间注入填充材料,同时实现电气连接和散热。SK海力士2026年计划将HBM产能再提升50%,新的M15X工厂已经破土动工。
  • 三星:拥有从DRAM到逻辑芯片到先进封装的全产业链能力,理论上是最全面的HBM玩家。但三星在HBM3e阶段因散热问题被英伟达减少了订单份额。三星在HBM4上押注了TC-NCF(Thermal Compression Non-Conductive Film)技术路线,与SK海力士的MR-MUF形成技术路线之争。
  • 美光:作为唯一的美国DRAM厂商,美光在HBM领域起步较晚但追赶迅猛。其HBM3e产品已获得英伟达认证,HBM4目标在2026年底量产。美国芯片法案对美光的补贴也为其HBM扩产提供了资金支持。

HBM产业链的投资逻辑

HBM是一个寡头垄断的市场,投资机会集中在三个方向。

上游设备与材料:HBM制造的关键设备包括TSV刻蚀机(泛林半导体和东京电子主导)、晶圆键合机(EVG和SUSS主导)、以及用于先进封装的临时键合和剥离设备。材料方面,底部填充胶、硅通孔电镀液和热界面材料的需求量将随HBM上量而快速增长。

中游DRAM制造商:SK海力士、三星、美光三家是直接受益者。但从投资角度看,SK海力士和美光在HBM上的业绩弹性更大,因为HBM在两家公司的营收占比更高。

下游AI芯片厂商:逻辑看似矛盾:HBM涨价对AI芯片厂商是成本压力。但头部AI芯片厂商可以将HBM成本转嫁给最终客户,而中小型AI芯片公司可能在HBM产能争夺中被挤出局。这个市场正在加速向头部集中。

国产HBM的现状与前景

中国在HBM领域处于严重落后的位置。国内最先进的DRAM厂商长鑫存储(CXMT)目前主要生产DDR4/LPDDR4产品,HBM还需要跨越多个技术门槛。TSV工艺、晶圆减薄、多层堆叠、先进封装,每一个环节都需要独立突破。不过值得关注的是,长鑫存储已经在2025年完成了HBM2的工程样品,虽然没有大规模量产,但技术路线的可行性已经得到验证。从HBM2到HBM3的跨越预计需要2-3年时间,这意味着国产HBM可能要到2028年前后才能与国际主流水平接轨。

付费阅读

本文完整内容(约4000字)

¥3.00
微信支付

请使用微信扫描二维码完成支付