高频宽记忆体HBM是什么?为什么英伟达、AMD都在抢HBM?

撰稿人：大仁

发布日期: 2026年08月11日
更新日期: 2026年08月11日

在生成式 AI 与大语言模型爆发的浪潮中，算力竞争已经演变成一场关于“数据搬移速度”的生死战。

过去，评价一块 AI 芯片(GPU/NPU)性能，行业习惯看“浮点运算能力”(TFLOPS/PFLOPS)。但如今，英伟达(NVIDIA)、AMD 等芯片巨头面临的最大挑战并非计算单元不够快，而是“内存墙”数据从内存传输到 GPU 计算核心的速度，远远跟不上计算核心处理数据的速度。

而高频宽记忆体(High Bandwidth Memory，简称 HBM)，正是打破这一瓶颈的核心武器，HBM概念股迎来火爆行情。

高频宽记忆体

什么是高频宽记忆体HBM?

HBM是一种基于 3D 堆栈技术的高性能 DRAM 存储器架构。如果把传统的 DDR 或 GDDR 显存比作平房或高楼大厦，那么 HBM 就是将多层 DRAM 芯片纵向堆叠在一起的“摩天大楼”，并通过极精密的技术直接与 GPU 封装在同一块基板上。

高频宽记忆体HBM封装结构

▶HBM 的三大技术突破：

1.3D 芯片堆叠(3D Stacking)

利用 TSV(Through-Silicon Via，硅通孔技术) 在 DRAM 芯片上打出数以千计的微小孔洞，将 4 层、8 层甚至 12/16 层 DRAM 纵向连接起来，极大缩减了占板面积。

2.极宽的数据总线(Ultra-Wide Bus)

传统的 GDDR6 显存位宽通常为 32-bit，即使多颗组合也多在 256-bit 到 384-bit 之间;而单个 HBM 堆栈的通道位宽就高达 1024-bit(到了 HBM4 更是扩展至 2048-bit)。位宽扩大几十倍，数据吞吐量呈现指数级上升。

3.先进封装与极短传输路径(In-Package Integration)

HBM 不再插在主板或独立焊在 PCB 上，而是通过台积电 CoWoS 等先进封装技术，与 GPU 芯片共同安置在同一个中介层(Interposer)上。传输距离从厘米级缩短到毫米级，延迟与功耗大幅降低。

在 AI 加速卡(如 NVIDIA H100/H200/B200、AMD MI300X/MI350)的成本与性能构成中，HBM 占到了举足轻重的地位。巨头们抢购 HBM，背后有四个核心驱动力：

1.破解“内存墙”：别让 GPU 核心空转等待

深度学习训练与推理需要实时调取数百亿至数万亿级别的参数。如果内存带宽不足，算力再强的 GPU 也会因为“等数据送达”而处于空转闲置状态(即受限于带宽瓶颈)。

2.大语言模型对“高容量+高速度”的双重渴求

一个 700B(7000亿参数)的模型，光是把参数加载进显存就需要数百 GB 的容量，更不用说运行时产生的 KV Cache 和中间计算状态。

AMD MI300X 搭载了 192GB 的 HBM3，主打就是靠单卡超大显存容纳更大模型。
NVIDIA H200 升级为 141GB HBM3e，比前代 H100 的推理性能大幅提升。
NVIDIA Blackwell(B200/GB200)与 Rubin 架构则全面迈向 HBM3e 与 HBM4.显存容量与带宽直接决定了能支撑多大规模的 AI 集群。

3. 能耗比(Performance-per-Watt)的硬性指标

数据中心最贵的不只是硬件，还有电费与散热成本。

在传统电路中，将数据在 PCB 板上传输厘米级的距离会消耗大量能量。HBM 通过硅通孔和中介层极短的传输距离，使得每传输一个 Byte 数据所需的能量(pJ/bit)比传统显存低 50% 以上。

对于动辄数万张 GPU 组成的 AI 数据中心来说，这能省下惊人的电力开销。

4. 产能即血脉：谁抢到 HBM，谁就能掌控市场份额

HBM 的制造工艺极其复杂，良品率提升缓慢，且产能被三大存储巨头(SK 海力士、三星、美光)高度垄断。

“拿到多少 HBM 产能，就能出货多少 AI 加速卡。”对英伟达而言，锁定 HBM 供应链能巩固其市场统治地位，防止竞争对手弯道超车;对 AMD 而言，抢占高品质 HBM 则是其旗舰 AI 芯片能否放量冲刺、瓜分市场份额的关键命脉。