824
1、AI芯片江湖迎来搅局者
上面这位小姐姐，手上拿着的不是砖头，而是一块芯片。
在CPU芯片领域，延续至今的“摩尔定律”正在随着制程工艺逼近物理极限而有了延缓的趋势，甚至失效的可能。
就在摩尔定律的增长放缓脚步的同时，半导体芯片的计算也正在从通用走向专用，其中AI计算正是其中增长最快的一种专用计算。
海量的可用数据、深度学习算法的发明和 GPU 计算的高性能这三种融合的力量共同推动了 AI 时代的到来。
众所周知，作为GPU(图形处理器)的发明者英伟达（NVIDIA）的主要收入来源是图形和游戏，但近些年来其用于数据中心的 GPU 销售额正在迅猛攀升。
2019 年，前四大云供应商 AWS、谷歌、阿里巴巴和 Azure 中 97.4% 的 AI 加速器实例（用于提高处理速度的硬件）部署了英伟达 GPU。
Cambrian AI Research 的分析师 Karl Freund 表示，它占据了人工智能算法训练市场“近 100%”的份额。Top 500 超级计算机中近 70% 使用了它的 GPU。
得益于在GPU领域的霸主地位，英伟达（NVIDIA）在AI芯片的发展中领先优势巨大，但挑战者也正在竞相迎头赶上。
谷歌于 2015 年开始制造自己的芯片；
在 2016 年收购 Annapurna Labs 后，亚马逊去年开始将 Alexa 的大脑转移到自己的 Inferentia 芯片上；
百度拥有昆仑，最近估值为 20 亿美元；
高通拥有 Cloud AI 100；
IBM 正在致力研发一种节能设计。
AMD 收购了 Xilinx 用于 AI 数据中心产品；
英特尔在 2019 年为其 Xeon 数据中心 CPU 添加了 AI 加速模块，它还收购了两家初创公司，2016 年以 4.08 亿美元收购了 Nervana，2019 年以 20 亿美元收购了 Habana Labs。
尚未被抢购走的初创公司则纷纷发布了他们自己的硬件：在过去几年中，Graphcore、SambaNova、Cerebras、Mythic AI、Blaize 和 TensTorrent 等公司都发布或展示了自己的 AI 芯片。
在这其中，Cerebras尤为值得关注，这是一家AI芯片初创公司。与传统芯片制造思路不同，Cerebras将整片晶圆制成了一个巨大的芯片，以储存处理更多数据。
世界最大芯片WSE
2019年8月20日，在Hot Chips顶会上，Cerebras发布了一款震惊世界的芯片：全球有史以来最大的计算机芯片wafer-scale engine （WSE），和餐盘差不多大。2021年4月21日，Cerebras Systems推出了其新的二代芯片Wafer Scale Engine 2（WSE-2）。
通常情况下，芯片制造商会将12英寸的硅切成薄片，切完后，晶圆片会继续被切割成数百个独立的小芯片，然后在这些小芯片上集成晶体管。
而Cerebras公司推出的WSE芯片跟我们常规理解的芯片不太一样，它直接生长在一整块晶圆上。
Cerebras特意设计了一套系统，可以绕过任何制造缺陷，保证100％的良品率，毕竟坏掉一颗，就直接废掉一块晶圆。这种晶圆级集成的技术使Cerebras公司的WSE芯片具备了足够的技术竞争力。
英伟达（NVIDIA）于2020年5月4日发布的全新Ampere GPU A100 (GA100核心)可以说是目前最强芯片之一，面积超过800平方毫米、有540亿晶体管，然而在Cerebras 的WSE芯片面前，GA100也得叫爸爸。
WSE总计1.2万亿个晶体管，核心面积超过46225mm2，集成了40万个核心以及18GB SRAM缓存
今年4月份发布的二代产品WSE 2，采用台积电7纳米制程工艺，WSE 2 的晶片尺寸与 WSE 保持一致，但几乎所有功能都翻倍增加。WSE 2 拥有 85万个核心，2.6 万亿个晶体管——相比之下，市场上第二大的 AI CPU 约为 826 平方毫米，拥有 0.054 万亿个晶体管。相比于 英伟达（NVIDIA）的Ampere GPU A100 (GA100核心) 的 40MB 内存，Cerebras 引入了 40GB SRAM 的板载内存，是前者的 1000 倍。
基于WSE-2、Cerebras的系统以及软件平台，Cerebras也推出了新一代深度学习系统CS-2，来突破系统上的限制。这么强大的性能自然需要强大的供电，CS-2采用了9+3的冗余供电配置来驱动WSE-2。但这样的供电自然也面临着散热上的挑战，Cerebras在CS-2内部运用了一套水冷散热系统，用水冷来对WSE-2散热，再由风冷来降低水温。
与此同时，CS-2的空间占用并不大，这个26英寸高的机器仅仅占用15U的机架空间，虽然大于英伟达的HGX A100系统，但考虑到性能的提升，这点空间占用还是可以接受的。
CS-2散热系统 / Cerebras
AI超级计算机CS-1
在2019年超级计算大会上，Cerebras展示了其基于Cerebras WSE的AI计算机CS-1。CS-1也不负众望，在具有5亿个变量的模拟计算中，击败今年世界排名第81的超级计算机Joule。
在2020年超级计算大会上，CS-1展示了自己针对火焰模拟的超强计算能力。在实际应用场景中，快速模拟燃煤电厂的燃烧过程，可以帮助人类预防大型事故的发生。
据Cerebras首席执行官Andrew Feldman表示，类似燃烧过程模拟、天气预报、飞机机翼设计、核电站温度预测等许多流体动力学模拟问题，都是CS-1的“长项”。 据悉，流体动力学模拟的难点在于要考虑的变量参数过多。比如，假设某个问题需要考虑100万个乃至更多的多维数据集，那么就可能需要50万个变量参与到模拟计算中。
而CS-1凭借三大性能优势应对这一难题：1、超高内存；2、高带宽和低延迟的有源通信结构；3、优化高带宽计算的处理器架构。在这背后，是CS-1搭载的Cerebras WSE带来的超强性能，Cerebras WSE单芯片即包含40万个AI核、18GB的内存、9PB的内存带宽和每秒100 PB的核对核带宽。“在这个工作量级，晶圆级CS-1是有史以来最快的机器，”Feldman说，“当今没有基于CPU甚至GPU的超算可以在模拟燃烧过程等应用场景内击败CS-1。”
基于第一代WSE-1芯片设计建造的CS-1系统自从两年前诞生以来，已在美国能源部的阿贡实验室和劳伦斯利弗莫尔国家实验室安装使用。另外，除了之前提到的美国匹兹堡超算中心部署了CS-1系统以外，爱丁堡大学的超算中心EPCC，英国制药公司葛兰素史克(GSK) 也是CS-1系统的用户。
据Cerebras官方网站介绍，当今最先进的模型，需要几天或几周的时间进行训练，并且通常在数十、数百甚至数千个GPU上进行分布式训练，以使训练时间更可控。这些庞大的处理器集群很难编程，并且面临通信和同步费用高的瓶颈。
基于第二代WSE-2芯片建造的新一代CS-2系统专门为加速AI应用而设计，旨在实现快速、灵活的训练和低延迟的数据处理，可以在更小的空间和更低的功耗下，提供更高的计算性能。
CS-2拥有更高的计算密度、更快的内存和更高的带宽互连，从而将训练速度提升数个数量级、使推理的延迟更低，并且易于部署。Cerebras芯片，将集群的AI计算和内存资源带到单个设备上，一个CS-2的性能相当于整个GPU集群的性能，同时具有单个设备的简单性。
CS-2在一个芯片上有85万个内核，提供了集群规模的速度，同时避免了通信缓慢的问题。同时这也意味着，即使是最大、最复杂的ML模型，也不需要分布式训练或并行编程，因此能节省数周的模型调整和配置时间。由于形成了最高带宽、最低延迟的通信结构，因此大型模型的实时推理延迟得以降低，无需量化、缩小规模和牺牲精度。
在2021年8月22 ~ 24日在线举办的“Hot Chips 33”上，Cerebras公司发表了面向本公司新一代AI(人工智能)加速器“CS-2”的新内存扩展技术和软件执行架构。这样一来，单个晶圆尺度芯片就可以训练120万亿个参数模型，据说人脑中约有100兆个突触，因此这也是世界上首个“大脑级”AI解决方案。
2、小众市场的突破口
尽管Cerebras的WSE-2是一个性能怪兽，但它的应用面并没有A100那么广，更像是面向小众市场。
就拿WSE-1的一些客户来说，多数在进行一些生物及医学研究，比如癌症治疗、药物发现等，且多用于超算中心与国家实验室，比如上面提到的匹茨堡超算中心和阿贡国家实验室。而英伟达的A100则可以用于各种AI和HPC应用，这也是Cerebras目前的解决方案没有突破的，但考虑到Cerebras的定位也不是为了做到全面覆盖，专注于一个市场反而是Cerebras能做到如此优秀的原因所在。
其实值得关注的是像WSE-2这种晶圆级集成的技术，实现这类芯片的良率是巨大的挑战，并不是每家公司都像Cerebras一样在WSE-2上实现100%良率的。
Cerebras 公司看准了晶圆级引擎的市场空白，切入到这一小众领域，这种差异化的竞争策略有利于其突破目前英伟达一家独大的AI芯片市场。可以预见，随着WSE版本迭代更替，这种晶圆级芯片能在未来AI和超算芯片市场上拥有一席之地。
下载ECAD模型
