芯耀
与非AI
4
上月高通于旧金山举办 AI Day，正式宣布进军云端 AI 市场，新产品名称为 Cloud AI 100，其他具体信息有：内建芯片为 7nm 制程，AI 性能超过 350 TOPS，相较于 Snapdragon 855，AI 性能有 50 倍以上，该产品预计在 2019 下半年提供样品给客户测试，至于其他相关技术规格，高通官方还没有任何透露。
虽是后进者，但仍有一席之地
截至目前为止，资料中心推论加速卡的主要投入厂商，包括 NVIDIA、AMD、Xilinx、Altera 与寒武纪科技，如今高通也加入战局，显然该市场拥有相当大需求。单以资料中心的 AI 推论应用来看，其涵盖的应用层面相当广泛，象是语意识别、人脸识别、基因定序、财务金融与医疗等，再加上不同的运算精度范围及软件框架等，也使得资料中心的 AI 推论运算所需之硬件规格，必须具备一定弹性与多元能力，方有机会获得客户采用。
以 NVIDIA 推出的 Tesla T4 加速卡为例，尽管该产品是以 Turing GPU 为核心基础，但也能满足语意辨识等应用，不光聚焦在图像识别等相关领域。
单以现阶段市场态势来看，先进者推出的产品已有不少获得客户采用，而高通的 AI Day 有 Facebook 与 Microsoft 等主管亲自站台，所以 Cloud AI 100 也有很高机会获得青睐，因此高通即便是后进者，在该市场上的表现显然也能占有一席之地。
Cloud AI 100 架构成谜，实际性能仍待确认
高通跨足资料中心 AI 推论应用，推出第一款加速卡产品，但事实上，基于不同的运算精度范围，同一芯片能提供的运算效能仍有不同。若以 NVIDIA 的 Tesla T4 来看，在 INT4 运算精度的情况下，性能峰值可达到 260 TOPS，INT8 则为 130 TOPS。
考量 AI 运算效能，除了制程有一定的重要性外，其运算架构也是重要关键。尽管高通未进一步说明 Cloud AI 100 详细规格，但以过去高通在 AI Engine 的设定，分别以 CPU、GPU 与 DSP 因应不同的运算精度范围，加上 Cloud AI 100 的 AI 运算性能可超过 350 TOPS 以上，所以初步推测，Cloud AI 100 可能以 DSP 或 CPU 为硬件规格的主轴，运算精度则以 INT8 或 INT4 为计算基准，但高通至今为止，仍未有 INT4 的相应产品线，这也是必须留意之处。
若 Cloud AI 100 在运算精度范围以 INT8 为基准，那么硬件架构上，高通很可能在 CPU 或 DSP 有大幅度突破，但实际真相为何，恐怕也只能等高通揭露更多细节，才能真相大白。
阅读全文
