Report Content

报告正文

一块AI芯片最贵的，往往不是GPU，是它身边这几摞"楼"

聊AI芯片，所有人张口都是GPU、是算力。可真拆开一块顶级AI加速卡你会发现：紧挨着那颗GPU、密密麻麻围了一圈的，是几摞不起眼的小方块。它们叫HBM。论金贵、论抢手，它一点不比GPU差。

先把结论撂这儿：HBM（高带宽内存）干的活，就是把好几层内存芯片竖着叠成"楼"、再搬到紧贴GPU的地方，专门给算力"喂饭"。GPU再能算，数据喂不上去也是干瞪眼——HBM，就是那个负责把饭快速端到嘴边的关键角色。

传统内存，是一块块芯片平铺在电路板上，离处理器老远，靠一条不宽的通道来回运数据。好比仓库摊在城市另一头，就一条小马路进出，能快到哪去。

HBM换了个思路：不摊平了，改叠高。 把多层DRAM内存芯片像盖楼一样一层层垂直摞起来，再整摞搬到GPU旁边、共同焊在一小片"硅底座"上。仓库不建远处了，直接盖成一栋高楼、戳在工厂隔壁——这就是所谓的3D堆叠。

结果就是路又短、又宽得夸张。一摞HBM和GPU之间,是上千条数据通道同时并行(业界叫1024位总线),相当于把那条小马路,一口气拓成了上千车道的高速。这，就是"高带宽"三个字的由来。

问题来了：芯片一层层摞上去容易，可数据怎么在楼层之间上上下下？

答案是一项硬核工艺——硅通孔（TSV，Through-Silicon Via）。说白了，就是拿激光在每一层芯片上，笔直钻出一堆极细的孔，再灌进铜，做成一根根垂直的"电梯竖井"。信号不用再绕到芯片外面兜一大圈，直接顺着竖井在楼层间穿上穿下。

正是靠着TSV这套"打竖井"的本事，才能把4层、8层、乃至12层DRAM稳稳叠成一摞，还让每层都通着电、跑得起数据。HBM的"高"，是TSV一根根竖井给撑起来的。

那AI为啥这么离不开HBM？一句话：GPU这张嘴，实在太能吃了。

跑大模型时，海量的参数和中间数据，得一刻不停地在内存和计算单元之间来回搬。GPU的算力这些年一路狂飙，可传统内存往外"端饭"的速度，几乎原地踏步——两头一拉开，GPU就只能停下手、干等着下一批数据上桌。这段"饿着干等"的憋屈，学界给了个名字，叫"内存墙"。

HBM，就是专门来拆这堵墙的。上千车道的宽路、又近又快的位置，让数据能像流水线一样源源不断喂进GPU，把它"饿着"的时间尽量压到最短。没有HBM把饭端够快，再猛的算力也是空转。 这也是为什么如今几乎每一颗高端AI芯片，身边都得围上一圈HBM——它不是配角，是刚需。

叠楼、打竖井、再严丝合缝焊到GPU边上，每一步都是工艺硬门槛，良率上不去、产能爬得慢。于是就有了个耐人寻味的局面：HBM如今几乎被少数几家内存大厂牢牢攥在手里，长期供不应求，价格还一路看涨。

一颗AI芯片能造多少、卖多贵，很大程度上不取决于GPU本身，反而被身边这几摞HBM给"卡"住了脖子。这块最不起眼的小方块，正悄悄成为整条AI算力链上，最要命的那一环。

看到这你大概品出味儿了：HBM难就难在——它是先进制程和先进封装两样硬功夫拧在一起的结晶。芯片要叠得起、通得了电、封得进GPU旁边那一小片硅上，每一环都是当下"卡脖子"最要命的地方。

从最上游的算力设计，到HBM、先进封装这些关键配套，再到国产芯片正在一寸寸爬坡的每一步——这条链子到底走到了哪，才是真正决定AI能跑多远的东西。

想把算力这盘大棋、国产芯片到底走到哪一步看明白？ 我们做了份《算力革命与国产芯片·全景研究》——公众号后台回复「芯片」，拿去看。