今年的中国智驾圈,除了争功能、争性能,还有一个吵得最凶的是一个数字。
有人上午刚喊出「全球最强大脑」,三个小时后就被对手更大的数字盖了过去。
有人把同一颗芯片标了两遍,一遍 560 TOPS,一遍 1960 TOPS,还管后一个数叫「吹牛算力」。
芯片一个晶体管都没动,纸面数字变成了 3.5 倍。
最蹊跷的是,这里面好像没有人说假话。每个数字单看都算得出来,但是,要想去横向比较,却没法比。
所以,这篇文章我们想要讲一件事:你天天看到的关于智能辅助驾驶汽车算力芯片的那个 TOPS,到底该怎么读。
希望你读完本文能回答三个问题:这个数怎么算的,各家能不能直接比,L2 到 L4 各要多少。
01、TOPS 是铭牌马力,不是到轮上的劲
先说 TOPS 是什么。
它的全称是每秒万亿次运算(Tera Operations Per Second)。芯片厂宣传页上那个「254 TOPS」「560 TOPS」,说的就是这颗芯片每秒理论上能做多少次整数运算。
它是怎么算出来的?其实很简单。
自动驾驶芯片里真正干算力活的,是 NPU 里一大片叫 MAC 的乘加单元,一排排像稻田一样铺在硅片上。把它们的数量乘上运行频率,再乘个 2(一次乘加算两次运算),就是峰值 TOPS。
比如一片 128×128 的阵列,一共 16384 个乘加单元,跑在 2GHz,再乘 2,算下来大约是 65.5 TOPS。
一颗自动驾驶 SoC 怎么分工,算力几乎都压在 NPU 里的乘加阵列(MAC)上。结构为示意
特斯拉在 2020 年的一篇 IEEE 论文里写得很清楚:它 HW3 芯片里每块神经网络加速器是 96×96 的乘加阵列、跑在 2GHz。
同样的乘法算下来,每块约 36.9 TOPS,论文取整后是两块合计 72 TOPS。阵列尺寸一公开,这个数谁都能自己验一遍。
所以,这个算力数字是「乘」出来的,不是「测」出来的。 它是阵列规模和频率的乘积,是这颗芯片在最理想状态下、一个时钟都不浪费时的理论上限。
它跟发动机铭牌上的「最大马力」是一回事:标的是峰值,不是你平时踩油门真正到轮子上的那股劲。
所以记住第一句:TOPS 是算力的上限,不是实际算力。
02、同一个数字,五家用五把尺子
更麻烦的是,现在的智驾算力就算都叫 TOPS,大家量的也不是同一把尺子。
这是读算力数字最大的坑,至少有三层。
01第一层:精度不同,数字差一倍
同一块硅片,用 INT8(8 位整数)算,得出的 TOPS 通常是 FP16(16 位浮点)的两倍;要是用更低的 FP4,又能再翻一倍。
英伟达的 Thor 就是典型。同一颗芯片,官方资料里既写着「1000」,也写着「2000」。两个数都没错:1000 是按 INT8 算的,2000 是按 4 位浮点 FP4 算的,精度降一档,数字就翻倍。
02第二层:稀疏还是稠密
「稀疏算力」是另一个障眼法。
它假设你的模型权重里有一半是 0,可以直接跳过不算,于是把数字乘 2。问题是这些 0 得靠剪枝专门剪出来,而且只有符合条件的那些层才吃得到这一倍。
地平线征程 6P 那个 560 TOPS,官方脚注写得很老实:这是 1/2 稀疏下的有效算力。换成稠密口径,得打个对折,大约 280。
英伟达也是这么标的。Thor 的 Jetson 版官方表格列得很细:FP4 稀疏 2070,FP4 稠密 1035,INT8 稠密只有 517。
上一代的 Orin X 标称 254,按地平线创始人余凯的说法,稠密是 127。
03第三层:干脆自己定义一个「有效算力」
最让人没法比的是这一类。
小鹏图灵的官方数字是「每颗 750 TOPS 有效算力」。注意「有效算力」四个字,这是小鹏自己定义的一套度量,没有公开的换算公式。
理想的马赫 100 也类似。李想今年 2 月给的数字是单颗 1280 TOPS,同样叫「有效算力」,另一个说法是相当于英伟达 Thor-U 的 3 倍。这是个相对值,怎么折算出来的,同样没有公开。
开头那个 1960 也属于这一类。10 月 30 日,余凯在微博上拿征程 6P 做了个演示:换成业内有人在用的「等效算力」折法,560 就能标成 1960。他自己管这个数叫「吹牛算力」。
所以你看到小鹏 750、英伟达 Thor-U 700,觉得两家差不多?
一个是厂商自定义的「有效算力」,一个是芯片标称的峰值,这俩数字不在一个坐标系里,不能相减,也不能相除。
各家公布的 TOPS 口径不一,折算到稠密 INT8 后差距大幅收窄。折算为本文按公开口径的粗略推算
上面这张图里,真正能勉强放一起比的,只有英伟达和地平线,因为它们的口径至少是公开的。可就算这两家,也还得先把稀疏口径换成稠密,才算站上同一条起跑线。
还有个更隐蔽的坑:很多系统标的是「几颗相加」。
开头那场只维持了三个小时的「最强大脑」之争,两边的数都是加出来的:理想的 2560 是两颗 1280,小鹏的 3000 是四颗 750。
特斯拉 HW3 常被写成 144 TOPS,其实是两颗芯片各 72 相加。两颗独立供电、独立启动,设计意图是一颗坏了另一颗顶上,备份的那颗不该算进来。
双 Orin 的 508 是另一种情况:两颗都在干活,但各跑各的模型,没法当成一颗 508 的芯片用。
Waymo 博客说自研芯片合计「超过 1000 TOPS」,可它在 Hot Chips 上披露的单颗机器学习算力是 160 TOPS(INT8),据报道车上两颗互为备份。
第二句:看到 TOPS,先问它是哪把尺子量的、是不是几颗相加,换算到单颗、单精度、真正在算的那块,再比。
03、标称 100,实际常年只用 20 到 50
假设现在两颗芯片的口径都统一了,是不是就能比峰值谁高谁赢了?
还不行。因为峰值和你实际用得上的,差着一大截。
芯片工程里有个词叫 MAC 利用率,说的是那一大片乘加单元,真正在干活的比例有多少。
一颗标称 100 TOPS 的芯片,跑真实网络时,往往只有 20% 到 50% 的单元在被喂数据,剩下的都在干等。 这是业内常说的经验区间,不是哪一颗芯片的实测。
为什么会等?因为算力再大,数据喂不进来也白搭。这就是业内说的「内存墙」。
打个比方。MAC 单元是一群手速飞快的厨师,内存带宽是把菜送到灶台的那条传送带。厨师再多,传送带跟不上,大半厨师就只能站着。
学术上判断一个算法到底卡在哪,有个经典工具叫 Roofline 模型,一句话概括就是:要么你缺算力(厨师不够),要么你缺带宽(传送带太慢),对症才有用。
给你个具体的数。拿一颗 128 TOPS、配 273 GB/s 内存带宽的芯片来算,屋顶线的拐点落在 469 ops/byte:算子的「算术强度」低于这个数,阵列就在空等。
按示意值估算,VLA 大模型解码这类算子的强度只有 2 左右,只摸得到峰值的 0.4%;复用多一点的矩阵乘到 4%;大卷积能到 43%。同一颗芯片,不同算子之间差了上百倍。
作为参照,特斯拉 HW3 跑高复用的卷积时,论文给出的利用率超过 80%。
自动驾驶的感知主干,早年以卷积为主,偏「缺厨师」,这时候堆 TOPS 管用。
可现在都转向 BEV、Transformer、端到端大模型,大量运算变成了在内存里搬来搬去,变成了「缺传送带」。这时候你再堆 TOPS,厨师更多了,菜还是送不上来。
这就是为什么新一代芯片都在拼命堆 LPDDR5X 带宽和片上 SRAM,而不只是比谁 TOPS 高。
顺带说一句:同样一片 MAC 阵列,数据流调度和片上缓存设计得好,有效算力能高出一截。特斯拉自研 NPU 的核心 know-how,很大一块就在这里。
标称算力乘以真实利用率,才是能用上的有效算力。比例为示意
第三句:标称乘上利用率,才是你真正能用的算力。一颗利用率 50% 的 300 TOPS,顶得上一颗利用率 25% 的 600 TOPS。
04、算法这边,怎么把算力「榨」出来
既然利用率这么关键,那算法团队每天在忙的,很大一部分就是把它从 20% 往 50% 拉。
手段大概四样,我用大白话讲。
•量化:把训练出来的高精度模型压成 INT8 再上车。和 FP16 比,同一片阵列的吞吐翻倍、带宽占用减半。代价是精度会掉一点,得靠训练时的手段补回来,我们之前写特斯拉算法的文章提到特斯拉采用这种方式。
•算子融合:把一串小运算合并成一步做完,少往内存里来回搬中间结果,专治「缺传送带」。这件事主要靠芯片配套的编译器。
•稀疏化:把模型里真的削出一堆 0 来,才能吃到芯片标称的那份「稀疏算力」。吃不满,那份翻倍就是纸面的。
•按芯片改模型:这是最关键的一条,也是这几年变化最大的地方。
为什么说「按芯片改模型」变化最大?因为算法范式换了三代。
卷积当家的年代,运算很规整,MAC 阵列喂得满,TOPS 是个挺好的指标。
到了 BEV 加 Transformer,大量不规则的访存冒出来,带宽和 SRAM 比 TOPS 更卡脖子。
再到今天的端到端、VLA 这种视觉语言动作大模型,车端参数量已经到了几十亿,还在奔着上百亿去,跑起来越来越像在车上跑一个 ChatGPT。
这时候内存装不装得下、带宽够不够快,比峰值 TOPS 更能决定你跑不跑得动。
算法从卷积到端到端换了三代,瓶颈从缺算力转向缺带宽、缺内存。年份算力为示意区间
这也解释了一个很多人想不通的现象:为什么车企非要自己做芯片。
因为,通用芯片灵活但利用率吃亏;等你算法不怎么变了,针对它定制一套数据流,就能在更低的标称 TOPS 下,跑出更高的实际算力。 自研芯片的护城河,就在这。
第四句:换一颗更高 TOPS 的芯片,有时候不如把现有芯片的利用率拉上去来得实在。
05、五家芯片,拆开看结构
讲完原理,我们把前面出现过的几家芯片拆开,看看里面到底长什么样。
一颗自动驾驶 SoC,通常是 CPU 管调度和逻辑、GPU 管图形和一部分并行计算、NPU(有的叫 BPU)管神经网络这块最吃算力的活,再加 ISP 处理摄像头图像、安全岛管功能安全。
英伟达是个例外,它的神经网络主要也跑在 GPU 上。
五家主控 SoC 的 CPU/GPU/NPU 拆解。部分为媒体口径,官方未给完整 spec sheet
其实当前智驾芯片的发展趋势有:
一是越做越集成。例如地平线征程 6P 把 BPU、CPU、GPU、MCU 全塞进一颗 SoC,片内访存的确定性时延做到 130 纳秒,这就是在抠利用率。
二是自研 NPU 的车企,不约而同都走「专用数据流加大片 SRAM」这条路。特斯拉、小鹏、理想都是。它们宁可牺牲通用 GPU 的灵活性,换那几十个百分点的利用率。
三是 L4 根本不是单芯片的比赛。Waymo 第 6 代是一整套多芯片系统:自研 ASIC 负责传感器前端处理和融合,后面的主驾驶模型交给另外的大算力平台,再叠上一层功能安全冗余。
所以拿车企的单颗 L2++ 芯片去和 Waymo 比 TOPS,是拿家用灶台比中央厨房,比错了对象。
06、L2 到 L4,到底各要多少算力
看完了关于算力的科普,很多人好奇辅助驾驶L2到自动驾驶L3/L4到底要多少算力?
我把业界大致的区间画成了下面这张图,当然,这些是区间,不是法规划的及格线。
L2 到 L4 的大致算力区间,以及 L3 多出来的算力花在哪。门槛为业界区间,非法规硬指标
当然这些数字也不算精准,只是参考。
第一,门槛是被算法推高的,不是等级定出来的。
同样是城市 NOA,2022 年靠卷积加规则,30 TOPS 的芯片就能跑起来;到 2024 年换成端到端大模型,主流配置已经是 200 TOPS 以上。等级没变,要的算力翻了好几倍。
第二,L3 相比强 L2++,多出来的算力主要花在「冗余」上,而不是「能力」上。 L3 意味着在它负责的场景里,出了事责任要从驾驶员转到系统这一侧,法规就要求计算、传感、供电都得有失效备份。
第三,L4 是另一个物种。它要的不只是更高的 TOPS,还要一整套多芯片冗余阵列,上面叠着激光雷达重感知和远程接管。
前面说过,Waymo 的自研芯片对外讲「超过 1000 TOPS」,可单颗真正用来跑融合网络的机器学习算力只有 160 TOPS(INT8),其余的算在了图像前处理、点云、雷达 FFT 这些环节和那颗备份芯片上。
所以到了 L4,单颗峰值早就不是重点,重点是整套系统怎么把活分开、怎么留冗余。
记住第五句:算力门槛是区间,会随算法和传感器一起往上走;跨级别比 TOPS,意义不大。
07、写在最后
回到开头。智驾芯片算力问题,可能不那么重要,因为他背后有一系列支撑,简单一句话判断还挺难。
不过,TOPS 就像相机的像素,只代表上限。下次看到它,可以按这五步还原来解读。
读懂一个算力数字的五步法。为本文方法归纳
不过最终,智驾算力的比拼,最后还是要落在产品体验上,犹如手机电脑到现在单纯比较CPU和内存的比较少了。
以上就是今天的分享,欢迎留言聊聊你的看法。
*未经准许严禁转载和摘录-获取本文参考资料方式:加入我们的知识星球可以下载公众号海量参考资料包含以上参考资料。
58