AI加速器

英伟达在中国AI加速器市场份额趋近于零，引发市场震动。随着美国对华芯片出口管制加剧，英伟达被迫转向间接销售渠道，导致中国AI算力市场出现空缺。国产AI芯片制造商如华为昇腾、寒武纪、海光等开始填补这一缺口，推动国产替代供应链快速发展。同时，汽车制造行业受到芯片价格上涨的影响，迫使车企加快自研芯片的步伐，寻求供应链自保。资本市场上，国产芯片厂商股价飙升，反映出市场对其前景的信心。然而，国产芯片在高端制程和软件生态方面仍存在差距，需克服技术和生态上的瓶颈。总体而言，这场变革标志着全球半导体产业链的结构性重组，开启了技术路线、产业安全和商业博弈的新阶段。

AI硬件加速的原因在于神经网络计算的特点：计算密度高、并行性强且控制逻辑简单。GPU因其SIMT执行模型、深多线程隐藏延迟和成熟软件生态成为当前事实标准。TPU/NPU和ASIC分别针对特定场景优化，而FPGA具有可重构特性，适合边缘推理和快速架构实验。LPU专为大模型推理服务设计，注重内存管理和延迟。未来AI硬件的发展趋势包括内存瓶颈、软硬协同设计和场景专业化。

AI加速的关键瓶颈在于数据搬运、通信和不规则算子，而非单纯的计算能力。当前硬件加速解决方案虽多样，但普遍面临内存带宽、延迟、面积和成本等方面的挑战。无论是GPU、TPU、ASIC还是新型架构，其性能受限于数据传输效率，而非单纯计算能力。因此，有效优化应集中在减少数据移动，提高内存和通信效率上。

AI加速器市场在未来十年将出现明显的分化，通用GPU（如英伟达）将继续主导训练市场，而定制ASIC（如云厂商自研）则将在推理市场占据主导地位。预计到2033年，AI加速器市场的总规模将达到6040亿美元，其中通用GPU的年复合增长率约为16.1%，而定制ASIC的增长率为44.6%。 四大云厂商（谷歌、微软、亚马逊、Meta）纷纷推出自家定制的AI加速器，如谷歌的TPU v7 Ironwood、微软的Maia 200、亚马逊的Trainium 3和Meta的MTIA。这些芯片在性能、功耗和成本方面各有优势，特别是定制ASIC在推理领域的成本效益更为突出。 英伟达推出了Vera Rubin架构，试图在推理市场上夺回部分市场份额，但面对定制ASIC的竞争，英伟达的CUDA生态系统仍然是其主要优势。然而，随着定制ASIC的普及，英伟达在推理市场的份额可能会大幅下降。 此外，台积电的3nm工艺成为各大厂商争夺的关键资源，导致芯片产能紧张。数据中心的基础设施也需要相应调整，以适应不同类型的AI加速器，包括散热、互联和组网等方面的变化。 对于基础设施规划师、运维团队和战略决策者而言，未来的数据中心将面临更多挑战，需要制定相应的应对策略，以确保高效运行。

AI加速器的性能瓶颈早已不再是计算单元本身，而在于内存和互联架构。随着大模型的兴起，内存带宽和延迟成为关键挑战。当前AI加速器采用多种创新技术应对这一难题，包括高带宽内存HBM、片上网络NoC、3D堆叠计算、近存计算和存内计算、多芯片互联等。新的三维分类框架将AI加速器分为六个类别，强调内存架构、互联拓扑和集成策略的重要性。未来，chiplet架构、先进封装技术和近存/存内计算有望进一步推动行业发展。