为什么AI时代，先进封装突然重要了？

这两年，先进封装突然成了半导体行业的高频词。

Chiplet、HBM、2.5D、3D封装、CoWoS、Hybrid Bonding……

很多人第一次接触这些概念时，会有一个很自然的疑问：

封装以前不就是把芯片包起来吗？为什么现在突然变得这么重要？

如果只是从“封装工艺升级”这个角度去理解，很容易把先进封装看成半导体制造中的一个局部技术。

但实际上，先进封装今天之所以重要，根本原因并不在封装本身。

而在于：

芯片性能继续提升的方法，正在发生变化。

过去几十年，我们主要依靠把晶体管做得越来越小来获得更高性能。

但到了AI时代，仅仅把晶体管继续做小，已经越来越难解决整个系统的问题。

先进封装，正是在这个背景下走到了舞台中央。

一、过去的芯片升级，核心逻辑其实很简单

过去几十年，半导体产业最经典的发展方式就是：

把晶体管做得更小。

晶体管变小以后，一块同样大的芯片上可以放更多晶体管。

晶体管更多，通常意味着更强的计算能力。

同时，制程不断进步，还可以帮助降低一定的功耗，提高芯片集成度。

所以过去我们讨论芯片性能，最常见的问题就是：

“这颗芯片是几纳米？”

从180nm、90nm、45nm，一路发展到今天的先进制程。

这种思路本质上是在做一件事：

尽可能把更多功能塞进一颗芯片里。

过去，这套方法非常有效。

但问题是，越往先进制程走，难度和成本都在快速上升。

晶体管当然还可以继续缩小，但已经不像过去那样“轻松”。

更重要的是，即使晶体管能够继续缩小，也不代表整个系统的所有问题都会自动解决。

AI芯片就是一个非常典型的例子。

二、AI时代的新问题：芯片“算得快”，数据却未必“送得快”

我们平时谈AI芯片，最容易注意的是“算力”。

多少TOPS。

多少TFLOPS。

多少核心。

多少晶体管。

这些指标当然重要。

但是，现代AI计算还有一个同样重要的问题：

数据从哪里来？

一颗GPU真正工作的时候，并不是自己凭空进行计算。

它需要不断从内存中读取数据。

比如模型参数、特征数据、中间计算结果，都要不断在计算单元和存储系统之间移动。

这时候就会出现一个很现实的问题：

GPU的计算速度可以越来越快，但如果数据送不过来，GPU就只能等。

可以把它理解成一家工厂。

工厂里原本有100台机器，后来升级成了1000台高速机器。

机器确实更快了。

但如果原材料还是通过原来的几条小路运进来，那么很快就会出现一个尴尬情况：

机器有能力生产，但原材料供应不上。

这就是现代高性能计算系统越来越重视“带宽”的原因。

而这也是HBM和先进封装越来越重要的直接原因之一。

三、HBM为什么要和GPU放得那么近？

很多人第一次看到AI芯片封装结构时都会发现：

HBM几乎是“贴”在GPU旁边的。

为什么？

为什么不能像普通电脑内存一样，把内存放在稍远的位置？

原因并不复杂。

因为距离越远，数据传输就越困难。

传统方式更多依赖主板上的线路进行数据传输。

但随着AI计算需要的数据量越来越大，仅靠传统互联方式，很难持续满足不断增长的带宽需求。

HBM的思路，则相当于把内存直接搬到了GPU旁边。

这样做有什么好处？

第一，距离更短。

第二，可以提供大量并行的数据通道。

可以继续用高速公路来理解。

传统内存更像是几条速度很高的公路。

而HBM更像是在GPU旁边直接修了一大片多车道高速路网。

不一定要求每一条车道都疯狂提速，但因为车道数量非常多，所以单位时间内能够通过的数据量大幅增加。

这就是为什么HBM特别适合AI和高性能计算。

它真正解决的，不只是“内存更快”。

而是：

让数据能够更高效地送到计算单元。

但这里又出现了一个新问题。

HBM可以靠近GPU，可GPU和HBM并不是直接随便放在一起就行。

两者之间需要大量、高密度、高性能的互联。

这时候，先进封装就真正登场了。

四、为什么传统封装开始“不够用了”？

传统封装时代，封装最重要的任务之一，是保护芯片，并把芯片连接到外部电路。

但到了今天，封装承担的任务已经发生了很大变化。

它不只是“保护芯片”。

还要负责：

把GPU和HBM连接起来；

把多个Chiplet连接起来；

实现高速数据传输；

解决供电问题；

控制信号完整性；

同时还要处理散热和应力问题。

换句话说，过去很多发生在“一颗芯片内部”的连接，现在逐渐开始发生在“封装内部”。

这是一件非常重要的变化。

过去如果想提高系统集成度，我们最直接的办法是：

把更多功能做进同一颗芯片。

而今天，我们开始越来越多地使用另一种方式：

把不同芯片通过高密度封装重新组合成一个系统。

这也是Chiplet兴起的重要背景。

五、为什么不干脆一直做更大的单芯片？

有人可能会问：

既然需要更强算力，为什么不直接做一颗越来越大的GPU？

为什么还要把芯片拆开，再重新封装？

原因之一，是成本和良率。

芯片并不是面积越大越划算。

制造芯片的晶圆上，不可避免会存在一定缺陷。

芯片面积越大，碰到缺陷的概率通常也越高。

如果一颗超大芯片中只有一个关键区域出现缺陷，整颗芯片都可能报废。

而如果把一个大系统拆成几个较小的芯片，也就是Chiplet，就有机会分别制造、筛选，再进行组合。

除此之外，还有另一个问题：

不是所有功能都需要最先进的制程。

例如，一颗高性能芯片中，负责核心计算的部分可能非常需要先进制程。

但某些I/O功能、接口模块、模拟模块，并不一定非要使用同样先进、同样昂贵的制程。

于是就出现了一种新的设计思路：

计算模块用先进制程。

I/O模块可以使用其他成熟制程。

内存由专门的存储工艺制造。

最后再通过先进封装，把这些不同的芯片组合成一个系统。

这就是所谓的“异构集成”。

从这个角度看，先进封装已经不再只是制造后端的一道工序。

它开始参与系统架构本身。

六、先进封装真正接棒的，是“系统性能增长”

所以，如果我们重新回头看今天的先进封装，就会发现一个很有意思的变化。

过去，提升芯片性能最主要的路径是：

把晶体管做小。

而今天，越来越多的性能提升开始来自：

把不同芯片连接得更近、更快、更高效。

这里的核心已经不只是晶体管。

而是系统。

计算单元怎么连接？

存储怎么连接？

不同Chiplet之间怎么通信？

数据怎么移动？

功耗怎么降低？

热怎么导出去？

这些问题开始共同决定一颗高端芯片最终能够做到什么水平。

因此，从更大的视角来看：

先进封装并不是摩尔定律失效后的“补丁”。

它更像是半导体产业从“晶体管缩放”走向“系统缩放”的重要工具。

七、先进封装为什么会越来越重要？

理解了这一点，我们就很容易理解为什么先进封装的战略地位还会继续提高。

因为AI的发展正在同时推动几个趋势：

计算规模越来越大；

内存带宽要求越来越高；

数据搬运量越来越大；

芯片功耗越来越高；

单颗芯片继续做大的成本越来越高。

这些趋势共同指向一个结果：

未来芯片很可能越来越不像“一颗芯片”。

而更像一个小型计算系统。

里面有计算芯片、存储芯片、I/O芯片、各种专用加速模块。

然后通过先进封装，把它们组合起来。

到那个时候，封装做得好不好，直接影响的就不只是芯片是否能够正常工作。

而是：

整个系统能够达到多高的性能。

八、真正值得记住的，不是那些技术名词

所以对于刚开始关注先进封装的人来说，我反而不建议一开始就陷入RDL、TSV、Micro-bump、Hybrid Bonding这些技术细节。

这些技术以后都可以慢慢讲。

更重要的是先记住一条主线：

AI时代，计算能力增长越来越受到“数据搬运”和“系统互联”的限制。

先进封装的价值，就是让多个芯片之间能够像一颗芯片一样，更高效地协同工作。

所以它真正解决的问题，并不是：

“怎么把芯片包装得更高级？”

而是：

当单纯依靠晶体管缩放越来越困难以后，我们还能怎样继续提升整个计算系统的性能？

这才是先进封装真正走到舞台中央的原因。

也是我们理解Chiplet、HBM、2.5D、3D封装乃至未来更多新技术的起点。

下一篇，我们继续回答一个非常关键的问题：

既然做一颗大芯片这么直接，为什么整个行业却开始把芯片“拆开”？

也就是：

Chiplet，到底解决了什么问题？