上一层我们说,HBM 的思路是「超多车道、适中车速」。这一层回答三个问题:为什么行业选了加宽而不是加速,车道是怎么在物理上铺出来的,以及这个选择要付出什么代价。
带宽 = 车道数 × 车速
内存带宽由两个因子相乘:数据通道的宽度(一次能并行传多少位)和每条通道的速率(每秒能传多少次)。想提高带宽,要么加宽,要么加速。
两条路的成本曲线完全不同。加速的麻烦在于:频率越高,信号越容易互相干扰、越难保持完整,而且功耗大致随频率水涨船高——传输每一个 bit 花的能量越来越贵。加宽的麻烦在于:上千根数据线要从内存走到处理器,普通电路板根本塞不下这么多线。
HBM 的答案是把「塞不下」这个问题交给先进封装解决:用硅中介层承载超密布线,把内存搬到处理器身边毫米级的距离,然后把数据通道加宽到 1024 位以上。车道足够多之后,每条车道反而可以跑得从容——频率不高,功耗友好,总带宽却远超「少而快」的方案。
TSV:楼里的电梯
加宽还带来第二个问题:一层 DRAM 芯片的容量有限,想要大容量就得多层堆叠。可堆起来的楼层之间怎么通信?
传统封装用引线键合(wire bonding):金属细线从每层芯片的边缘引出去,像沿着楼外墙爬的消防梯——绕远、拥挤,层数一多就走不通了。
TSV(Through-Silicon Via,硅通孔)换了思路:直接在芯片上垂直打孔,孔里填上铜,让信号从楼顶直通楼底,像给大楼装电梯。每个孔直径只有几微米,一颗 HBM 堆栈里有几千根这样的垂直通道,数据、供电各走各的电梯,不用再绕到楼外。
「宽车道」和「电梯」组合在一起,就是 HBM 的全部秘密:TSV 提供了在垂直方向铺设海量通道的物理手段,硅中介层提供了水平方向连接 GPU 的高速公路,两者共同把 1024 位以上的数据通道变成现实。
堆叠的三重代价
天下没有免费的带宽。盖楼的代价体现在三处:
- 散热:芯片楼里每一层都发热,楼上楼下的热量互相叠加,而热量只能穿过整栋楼传到顶部散热器。层数越多,楼中间越容易「捂出」高温,这直接限制了堆叠层数和运行频率。
- 良率:一栋 12 层的楼,任何一层是坏的,整栋楼报废。假设单层良率是 95%,12 层连乘下来只剩一半左右。所以每层芯片在堆叠之前都要严格筛选(行业叫 known good die),堆叠和打孔工艺本身也要足够成熟——这是 HBM 制造真正的护城河。
- 成本:TSV 蚀刻、层间键合、中介层封装,每一步都是普通 DRAM 不需要的工序。同样的容量,HBM 的成本是普通内存的数倍,这也是它只出现在高端加速卡上的原因。
工程权衡如何塑造竞争格局
把上面三重代价翻译成商业语言,就能看懂 HBM 市场为什么长成现在这个样子。
良率是一门学习曲线生意:谁先量产,谁就先积累缺陷数据、先改进工艺,后来者要用真金白银的报废晶圆去追赶——这解释了先发者的份额优势为什么能维持多年。散热与功耗的极限逼着存储厂商和 GPU 厂商深度联合设计,认证周期以年计,客户一旦锁定就很难切换——这解释了为什么「进入某家 GPU 供应链」本身就是里程碑事件。而堆叠成本决定了 HBM 是一门高投入、高单价、产能稀缺的生意——存储行业从「大宗商品的周期波动」里,第一次长出了一块「按客户定制、以产能换承诺」的高端业务。
看懂 TSV,你看懂的不只是一个封装技术,而是整个存储行业竞争规则的改写。
