NOR Flash 与 HBM 技术发展:从启动存储到 AI 高带宽内存

在存储半导体里,NOR Flash 和 HBM 是两个非常有代表性的方向。

NOR Flash 代表的是 高可靠、小容量、适合启动和固件存储 的非易失性存储技术;HBM 则代表 超高带宽、高封装复杂度、服务于 AI GPU 和高性能计算 的高端 DRAM 技术。

它们都属于“存储”,但产业逻辑、技术壁垒和下游应用完全不同。

一句话概括:

NOR Flash 是设备上电后的“第一段可信代码存储”;
HBM 是 AI 加速器旁边的“超高带宽数据血管”。


一、NOR Flash 是什么?

NOR Flash 是一种非易失性存储器,断电后数据不会丢失。它最典型的用途不是大容量存文件,而是保存启动代码、固件和程序。

常见应用包括:

应用场景NOR Flash 的用途
PC 主板BIOS / UEFI
路由器Bootloader、系统固件
MCU / IoT程序代码存储
汽车电子ECU 固件、仪表、ADAS 启动代码
工业设备控制程序、配置参数
手机 / SoC启动代码、小容量固件

NOR Flash 经常是系统上电后最先被读取的存储器之一。很多设备能不能正常启动,首先取决于 NOR Flash 里的启动代码是否可靠。


二、NOR Flash 与 NAND Flash 的区别

NOR 和 NAND 都是 Flash,但用途差异非常大。

可以这样理解:

NOR Flash 更像“代码仓库”;
NAND Flash 更像“硬盘或 SSD”。

对比项NOR FlashNAND Flash
主要用途启动代码、固件、MCU 程序SSD、UFS、eMMC、大容量数据
随机读取弱于 NOR
顺序读写一般
容量通常较小通常很大
单 bit 成本
写入 / 擦除速度较慢较快
是否适合 XIP适合通常不适合
坏块管理相对简单复杂,依赖 ECC 和控制器
典型容量MB 到几百 MBGB 到 TB

这里有一个很重要的概念:XIP,Execute In Place,原地执行

意思是 CPU 可以直接从 NOR Flash 的地址空间中取指执行,而不一定要先把代码完整搬到 RAM 中。这对 MCU、Bootloader、低成本嵌入式系统非常重要。

NAND Flash 虽然容量大、成本低,但它更适合做数据存储,不适合直接执行代码。


三、NOR Flash 的基本原理

NOR Flash 通过改变存储单元晶体管的阈值电压来表示 0 和 1。

传统 NOR Flash 常见的是浮栅结构:

Control Gate
    │
Floating Gate  ← 存储电荷
    │
Channel

当浮栅中存有电荷时,晶体管的导通阈值会发生变化。读取时,通过检测晶体管是否导通,就可以判断这个存储单元代表 0 还是 1。

NOR 之所以叫 NOR,是因为它的存储阵列连接方式类似 NOR 逻辑结构。它的优势是支持较好的随机读取能力,因此适合代码存储和直接执行。


四、NOR Flash 的主要类型

1. Parallel NOR

Parallel NOR 是并行接口 NOR Flash,数据线较多,随机读取速度较快,过去常用于 PC BIOS、早期嵌入式系统等场景。

优点是读取性能好,缺点是引脚多、封装成本高、容量扩展不方便。

2. SPI NOR

现在更常见的是 SPI NOR。

常见接口包括:

SPI
Dual SPI
Quad SPI / QSPI
Octal SPI / OPI
xSPI

SPI NOR 引脚少、成本低,非常适合 MCU、IoT、路由器、打印机、工业控制板等设备。

很多嵌入式板子上看到的小容量 Flash 芯片,本质上就是 SPI NOR。

3. SLC NOR 与 MLC NOR

NOR 也可以按照每个 cell 存几个 bit 来区分:

类型每个 cell 存储位数特点
SLC NOR1 bit可靠性最好,适合车规和工业
MLC NOR2 bit容量更高,但可靠性和寿命压力更大

对于启动代码、车规、工业控制等高可靠场景,SLC NOR 更常见。


五、NOR Flash 为什么容量通常不大?

NOR Flash 的结构为了支持随机读取和 XIP,需要更多连接和外围电路,因此单位面积存储密度不如 NAND。

所以 NOR Flash 通常是 MB 到几百 MB 级别,而 NAND Flash 可以做到几十 GB、几百 GB,甚至 TB 级别。

这也是为什么我们不会用 NOR Flash 来做 SSD。它太贵,密度也太低。


六、NOR Flash 的行业壁垒

NOR Flash 看起来不像 HBM 那么“高端”,但它有自己的壁垒。

1. 高可靠性

NOR Flash 往往保存启动代码。启动代码一旦损坏,设备可能直接无法启动,甚至“变砖”。

车规和工业场景对 NOR Flash 的要求尤其高,包括:

高温可靠性
长寿命
抗干扰能力
数据保持能力
低失效率
宽电压工作范围

2. 工艺与一致性

NOR Flash 需要精确控制阈值电压分布、擦写一致性、电荷保持、读干扰、擦除干扰和高温数据保持。

对于车规和工业产品,稳定性往往比容量更重要。

3. 接口兼容性

SPI NOR 需要兼容大量主控平台,包括:

MCU
SoC
FPGA
路由器芯片
车载 MCU
工业控制器

很多 SoC 的 BootROM 支持哪些 NOR Flash 型号、哪些指令集,是非常现实的门槛。

4. 客户认证周期长

车规和工业客户非常保守。NOR Flash 供应商进入汽车或工业供应链,通常需要经过漫长认证。

认证内容包括:

温度等级
擦写寿命
数据保持时间
长期供货能力
批次一致性
失效率
质量体系

因此 NOR Flash 是一个“慢生意”:增长可能没有 HBM 那么爆发,但客户粘性强,生命周期长。


七、NOR Flash 的主要厂商

全球 NOR Flash 主要玩家包括:

厂商特点
Winbond 华邦SPI NOR 重要玩家
Macronix 旺宏NOR 老牌厂商,车规和嵌入式市场较强
GigaDevice 兆易创新中国大陆 NOR 龙头之一
Infineon / Cypress车规、工业市场较强
ISSI工业和车规存储
Micron曾有 NOR 业务布局

NOR Flash 行业比 DRAM、HBM 分散一些,但在高端车规和工业市场,品牌、可靠性、认证和长期供货能力非常重要。


八、HBM 是什么?

HBM,全称 High Bandwidth Memory,高带宽内存。

它本质上仍然是 DRAM,但结构和普通 DDR、GDDR 完全不同。

HBM 的核心做法是:

把多层 DRAM die 垂直堆叠起来;
通过 TSV 硅通孔连接;
再通过超宽接口放在 GPU / AI 加速器旁边。

它不是单纯靠频率高来提高带宽,而是靠 超宽总线 + 近距离封装 + 多层堆叠 来实现极高带宽。

普通 GDDR 更像“高频窄路”,HBM 更像“低频超宽路”。


九、HBM 的基本结构

典型 HBM Stack 可以理解为:

顶部 DRAM die
   │
DRAM die
   │
DRAM die
   │
Base die / Logic die
   │
TSV + Micro-bump
   │
Silicon Interposer / 先进封装
   │
GPU / AI ASIC

关键技术包括:

技术作用
DRAM die 堆叠提高容量
TSV垂直连接多层 die
Micro-bumpdie 与 die 之间互连
Base die接口、控制、测试等
Silicon Interposer连接 GPU 与 HBM
2.5D / 3D 封装实现近距离高带宽互连
热管理解决多层堆叠后的散热问题

HBM 的难点并不只是 DRAM 本身,还包括 TSV、超薄晶圆处理、堆叠良率、先进封装、散热和系统级验证。


十、HBM 几代技术发展

1. HBM1:初代高带宽内存

HBM1 是第一代高带宽内存。它最早由 AMD 与 SK hynix 等厂商推动,主要用于解决 GPU 显存带宽瓶颈。

HBM1 的核心突破是:

DRAM die 垂直堆叠;
使用 TSV 连接;
放在 GPU 旁边;
通过 1024-bit 超宽接口提升带宽。

典型参数:

项目HBM1
位宽1024-bit
堆叠常见 4-Hi
单 stack 容量约 1GB 到 4GB
单 stack 带宽约 128GB/s
代表应用AMD Fiji / Radeon R9 Fury X

NVIDIA 基本没有大规模采用 HBM1,而是直接从 HBM2 开始进入 HBM 时代。


2. HBM2:进入 NVIDIA 数据中心 GPU

HBM2 是 HBM 真正进入高性能计算和数据中心 GPU 的一代。

相比 HBM1,HBM2 提升了容量、带宽和堆叠成熟度。

典型参数:

项目HBM2
位宽1024-bit
数据速率约 2.0–2.4Gb/s per pin
单 stack 带宽约 256–307GB/s
堆叠4-Hi / 8-Hi
代表 NVIDIA 产品Tesla P100、Tesla V100

NVIDIA 从 Pascal P100 开始大规模采用 HBM2。P100 使用 HBM2 + CoWoS 封装;V100 继续使用 HBM2,成为 Volta 时代 AI 和 HPC 的核心 GPU。

这一代主要供应商是 Samsung 和 SK hynix,Micron 后续也参与 HBM 生态。


3. HBM2E:A100 时代的主力

HBM2E 可以理解为 HBM2 的增强版,E 代表 Extended。

它的核心提升包括:

更高 pin 速率;
更高 stack 容量;
更高带宽;
更适合 AI 训练和 HPC。

典型参数:

项目HBM2E
位宽1024-bit
数据速率3.2–3.6Gb/s per pin
单 stack 带宽约 410–461GB/s
堆叠8-Hi / 12-Hi
代表 NVIDIA 产品A100 80GB、部分 H100 PCIe

A100 80GB 使用 HBM2E,显存带宽超过 2TB/s,是 Ampere 时代数据中心训练和推理的重要基础。

需要注意的是,H100 这一代也存在不同版本:H100 SXM 主要使用 HBM3,而部分 H100 PCIe 版本使用 HBM2E。


4. HBM3:H100 SXM 时代

HBM3 是 Hopper H100 的核心升级之一。

它不只是频率提升,还提升了通道数量和并发访问能力。

典型参数:

项目HBM3
位宽1024-bit
数据速率最高约 6.4Gb/s per pin
独立通道数16 个
pseudo-channel32 个
单 stack 带宽最高约 819GB/s
堆叠4-Hi / 8-Hi / 12-Hi,预留 16-Hi
代表 NVIDIA 产品H100 SXM、H100 NVL、部分 GH200

HBM3 对 AI 大模型训练非常关键。大模型训练和推理中,很多场景并不是 GPU 算力不足,而是显存容量和显存带宽不足。

H100 的强大不仅来自 Tensor Core,也来自 HBM3 带来的高带宽。

这一代中,SK hynix 明显领先,尤其是在 HBM3 量产、良率、NVIDIA 认证和供货方面取得了先发优势。


5. HBM3E:H200 与 Blackwell 时代主力

HBM3E 是 HBM3 的增强版,是当前 AI GPU 中非常关键的一代。

它的重点是把单 stack 带宽推进到 TB/s 级别,同时进一步提高容量。

典型参数:

项目HBM3E
位宽1024-bit
数据速率约 8–9.8Gb/s per pin
单 stack 带宽约 1.0–1.2TB/s 级
堆叠8-Hi / 12-Hi,部分走向 16-Hi
容量24GB、36GB、48GB 等
代表 NVIDIA 产品H200、GH200 HBM3E、B200、GB200、B300 / Blackwell Ultra

NVIDIA H200 使用 141GB HBM3E,带宽达到 4.8TB/s。Blackwell 系列继续使用 HBM3E,其中 B200、GB200、B300 / Blackwell Ultra 都围绕 HBM3E 构建。

这一代的主要厂商包括:

SK hynix
Micron
Samsung

SK hynix 在 HBM3E 初期继续领先;Micron 追赶速度很快;Samsung 作为 DRAM 大厂,也在积极追赶和扩大份额。


6. HBM4:下一代 AI 内存核心

HBM4 是下一代高带宽内存,面向 Rubin / Vera Rubin 等后续 AI GPU 平台。

HBM4 最大的变化是接口宽度翻倍:

HBM3 / HBM3E:1024-bit 接口
HBM4:2048-bit 接口

典型参数:

项目HBM4
位宽2048-bit
标准速率最高约 8Gb/s per pin
产品速率部分路线超过 11Gb/s per pin
独立通道数32 个
单 stack 带宽标准约 2TB/s,部分产品可超过 2.8TB/s
主要应用下一代 AI GPU、AI ASIC、HPC
对应 NVIDIA 平台Vera Rubin / Rubin

HBM4 的核心不是单纯把频率拉高,而是通过接口宽度翻倍和通道数增加来提升带宽和并发访问能力。

HBM4 对 GPU / AI ASIC 的封装、IO 设计、功耗、散热和信号完整性提出了更高要求。

主要参与厂商仍然是:

SK hynix
Samsung
Micron

十一、HBM 代际演进总览

世代核心变化典型带宽级别代表 NVIDIA 产品
HBM1初代 TSV 堆叠 DRAM约 128GB/s per stackNVIDIA 基本未大规模使用
HBM2容量和带宽提升,进入 HPC GPU约 256–307GB/s per stackP100、V100
HBM2EHBM2 增强版,A100 主力约 410–461GB/s per stackA100 80GB、部分 H100 PCIe
HBM3通道数增加,H100 主力最高约 819GB/s per stackH100 SXM、H100 NVL
HBM3ETB/s 级 stack 带宽,AI 爆发期主力约 1.0–1.2TB/s per stackH200、B200、GB200、B300
HBM42048-bit 接口,32 通道标准约 2TB/s+ per stackVera Rubin / Rubin

如果只看 NVIDIA AI GPU 的路线,可以简化为:

P100 / V100 → HBM2
A100 → HBM2E
H100 → HBM3 / 部分 HBM2E
H200 → HBM3E
B200 / GB200 / B300 → HBM3E
Vera Rubin / Rubin → HBM4

十二、HBM 各代由哪些公司掌握?

HBM 不是某一家公司的私有技术,而是 JEDEC 标准化的 3D 堆叠 DRAM 技术体系。

但真正能量产、通过 NVIDIA 等大客户认证,并进入 AI GPU 核心供应链的厂商非常少,主要是三家:

SK hynix
Samsung
Micron

1. SK hynix

SK hynix 是当前 HBM 超级周期中最受益的厂商之一。

它的优势在于:

HBM3 / HBM3E 先发;
NVIDIA 认证节奏快;
堆叠良率和 TSV 经验强;
与 AI GPU 客户绑定深。

从 H100 到 H200,再到 Blackwell,SK hynix 都是非常关键的 HBM 供应商。

2. Samsung

Samsung 是全球 DRAM 巨头,技术底子和产能实力非常强。

但在 HBM3 / HBM3E 初期,Samsung 的节奏相对 SK hynix 慢一些,主要挑战集中在:

功耗;
散热;
良率;
NVIDIA 认证;
稳定供货节奏。

不过 Samsung 仍然是 HBM4 时代最重要的竞争者之一。

3. Micron

Micron 在 HBM2 / HBM3 早期存在感不如 SK hynix,但在 HBM3E 和 HBM4 上追赶很快。

Micron 的优势包括:

美国本土供应链价值;
先进 DRAM 工艺能力;
HBM3E / HBM4 追赶速度快;
与 NVIDIA 的合作加深。

HBM4 时代,Micron 有机会进一步提高在高端 AI 内存供应链中的地位。


十三、NVIDIA GPU 与 HBM 对照表

NVIDIA 产品架构HBM 代际备注
Tesla P100PascalHBM2NVIDIA 首代大规模 HBM GPU
Tesla V100VoltaHBM216GB / 32GB HBM2
A100 40GBAmpereHBM2A100 初期版本
A100 80GBAmpereHBM2E带宽超过 2TB/s
H100 PCIeHopperHBM2EPCIe 版本常见 HBM2E
H100 SXMHopperHBM380GB HBM3,约 3TB/s+
H100 NVLHopperHBM3面向大模型推理
H200HopperHBM3E141GB HBM3E,4.8TB/s
GH200Grace HopperHBM3 / HBM3E存在不同版本
B200BlackwellHBM3EBlackwell 主力 GPU
GB200Grace BlackwellHBM3EGrace + Blackwell 组合
B300 / Blackwell UltraBlackwell UltraHBM3E最高 288GB HBM3E
Vera Rubin / RubinRubinHBM4下一代 AI 平台

需要注意的是,NVIDIA 通常会采用多源供应策略。某个 GPU 平台可能同时认证多家 HBM 供应商,实际某个批次、某个 SKU 使用哪家 HBM,公开资料通常不会逐卡披露。


十四、HBM 与 GDDR 的区别

HBM 和 GDDR 都可以作为 GPU 显存,但路线不同。

对比项HBMGDDR
典型用途AI GPU、HPC、数据中心加速器游戏显卡、图形 GPU、部分 AI 芯片
接口极宽,1024/2048-bit per stack相对较窄
提升带宽方式超宽接口 + 近距离封装高频率 + 多颗粒
封装2.5D / 3D,靠近 GPU传统 PCB 周边布局
带宽密度极高中高
能效更好一般
成本很高较低
技术壁垒极高高,但低于 HBM

一句话:

GDDR 是高频窄路;HBM 是低频超宽路。

HBM 像是在 GPU 旁边修了一条超级宽的高速公路,但修路成本非常高。


十五、为什么 HBM 对 AI 特别重要?

AI 大模型训练和推理中,很多时候瓶颈不是算力,而是数据搬运。

GPU / AI ASIC 需要频繁访问:

模型权重
KV cache
activation
optimizer state
embedding
中间张量

训练阶段尤其依赖:

显存容量
显存带宽
多 GPU 通信

推理阶段,尤其是长上下文推理,特别依赖:

KV cache 容量
KV cache 读取带宽
显存带宽

所以现在 AI GPU 的竞争,不只是 TFLOPS 的竞争,而是:

算力
HBM 容量
HBM 带宽
芯片互联
先进封装
软件栈

HBM 已经从传统意义上的“显存配角”,变成 AI 算力基础设施中的核心瓶颈之一。


十六、NOR Flash 与 HBM 的产业逻辑对比

NOR Flash 和 HBM 都是存储芯片,但商业逻辑完全不同。

对比项NOR FlashHBM
技术定位启动 / 固件 / 代码存储AI / HPC 高带宽内存
是否断电保存
容量小到中等中到大
带宽极高
成本结构单 bit 较贵,但总成本可控极贵
工艺重点可靠性、数据保持、接口兼容DRAM、TSV、堆叠、先进封装
客户MCU、汽车、工业、消费电子NVIDIA、AMD、AI ASIC、HPC
认证周期极长且系统级复杂
行业壁垒稳定、可靠、长期供货极限性能、良率、封装、客户绑定
周期性相对温和与 AI 和 DRAM 周期强相关

可以这样总结:

NOR Flash 的壁垒是“稳定、可靠、长期认证”;
HBM 的壁垒是“极限性能 + 极限封装 + 极限资本开支”。


十七、HBM 的真正壁垒是什么?

HBM 的竞争不是单纯比“谁的 DRAM 做得好”,而是比一整套系统能力。

核心壁垒包括:

DRAM die 设计
先进 DRAM 制程
TSV 硅通孔
超薄晶圆处理
多层堆叠良率
Micro-bump / Hybrid bonding
热管理
信号完整性
CoWoS / 2.5D 封装产能
NVIDIA / AMD / AI ASIC 客户认证
大规模稳定供货能力

所以 HBM 更像是:

存储厂商 + 台积电先进封装 + NVIDIA GPU 平台 的联合工程

这也是为什么 HBM 的客户绑定更深、毛利更高、认证周期更长,也更难被后来者快速追上。


十八、总结

NOR Flash 和 HBM 分别代表了存储半导体的两个极端。

NOR Flash 解决的问题是:

设备上电之后,第一段可信代码从哪里来?

HBM 解决的问题是:

AI 芯片每秒要搬运 TB 级数据,怎样才能喂饱计算单元?

NOR Flash 更重视可靠性、长期供货和生态兼容;HBM 更重视带宽、容量、堆叠、先进封装和大客户认证。

如果从产业价值看:

NOR Flash 是嵌入式系统的启动生命线;
HBM 是 AI 算力系统的数据输血管。

随着 AI 大模型继续发展,HBM 的重要性会越来越高。未来从 HBM3E 到 HBM4,再到后续更高堆叠、更高带宽的方案,存储芯片将不再只是计算系统的附属品,而会成为决定 AI 芯片性能上限的核心基础设施之一。

而 NOR Flash 虽然没有 HBM 那么耀眼,但它依然是汽车、工业、MCU、IoT 等系统中不可替代的基础器件。它的价值不在于“高性能”,而在于“可靠启动、长期稳定、低失效率”。

这就是存储半导体很有意思的地方:同样是 memory,一个负责让系统可靠启动,一个负责让 AI 模型高速奔跑。

发表评论