2024年AI将无处不在

随着生成式AI进入主流，并且随着数十亿美元的AI处理器芯片销售，AI被认为在2023年迎来了爆发之年。而2024年，这一趋势将会更加显著。

如果说2023年生成式AI是各类内容创作者的创新工具，那么2024年将变得更加聚焦，并更加关注成本与利润。

例如，使用预训练好的Transformer软件来解决特定行业和企业生产力问题。包括半导体芯片本身的编程和EDA。但在整体上，生成式AI将针对特定公司定制，使它们能够开发IP，获得洞察力，并从其专有数据中受益，同时保持数据的私有性。

这可能会创造出不同大小和架构的处理器机会。

第一波部署‍‍‍‍‍

由Nvidia主导的第一波部署主要针对的是超大规模计算中心和数据中心运营商。其中一些随后开始开发自己的芯片替代产品，但据Nvidia的Jensen Huang称，2024年将在政府和企业级别以及具有更高应用特定性的领域看到上升的机遇。

直到目前为止，配备大型通用GPU阵列的芯片已足以应对数据中心的大多数AI算法和模型。当我们向企业级别转移时，2024年是否会有足够的销售量来证明设计和生产更多特定算法的加速器是合理的？我认为会有，而芯片封装风格可能能够支持混合搭配风格的AI加速器组合。

这种转变可与20世纪发生的转变相比。就是从主要机构和政府使用大型计算机到商业企业使用更实惠的小型计算机的转变。与那次转变一样，AI的软件基础设施将是成功的关键。

我们已经开始看到这种转变初现端倪，即搭载了AI能力的PC。这预计会托管许多增强的AI应用，包括更丰富的视频、音频、图片和文本编辑、游戏和“co-pilot”软件。

但我们也可以预见，对AI的开源访问将对隐私和安全产生影响。已有证据表明，滥用AI进行电子邮件和报告撰写导致了一些企业信息泄露问题。其中一部分是由于许多AI的基于云和开源性质所致。预计到2024年，会有更多的尝试将信任、风险和安全管理正式纳入AI的基础层面。

边缘计算‍‍

将任何特定的AI处理负载从云端转移到网络边缘的趋势似乎是显而易见的。这部分是网络边缘计算能力增加的自然后果。我们看到直接支持AI的微控制器，以及众多提供边缘AI处理器的初创公司。这可能是提高能效的关键，这是AI领域日益面临的挑战。这将避免通信数据和推理的能耗及其相关的延迟。

然而，AI从云到边缘的进展在2024年仍会很缓慢，原因有几个。其一是关于在边缘进行何种类型的AI处理的问题。AI适用于许多不同的应用，虽然特定算法的硬件可以提供最佳性能和能效，但它也使市场机会碎片化。

第二个原因是AI带来的负担，不仅仅是在使用点的推理，还包括AI算法开发、积累训练数据集、进行训练以及整体平台的筛选和调整。这种软负担是为什么在云端准备面向多个客户的AI通常是有意义的原因。许多希望将AI带到边缘的客户可能只能用于视频或音频流或其他类型数据的预制程序。

虽然我们可以对从云到边缘的发展方向充满信心，但迄今为止，Nvidia似乎在继续专注于数据中心提供GPU用于AI方面做出了正确的时机判断。这使Nvidia成为了业界排名第一的芯片公司。

Nvidia‍‍

预计Nvidia将在2024年继续巩固其市场领先地位。然而，AI领域的情况能迅速变化。Nvidia的崛起可能会因为中国市场的销售损失以及来自AMD、Intel和其他公司的竞争而在2024年受到抑制。

2022年10月，美国商务部收紧了对出口至中国的AI芯片的性能阈值。这可能是一个打击，因为中国在过去几个季度中占Nvidia数据中心收入的20%-25%。

Nvidia声称正在与美国政府合作，根据新的出口制度为中国客户提供低性能的AI解决方案。但值得注意的是，美国商务部长Gina Raimondo在最近的一次演讲中警告，半导体公司不应试图在其部门设定的性能标准之下行动，并违背制裁的精神。

即使Nvidia失去了中国市场的大部分销售额，其财务指导预测表明，由于其他地区的需求，公司的收入将在2024年继续保持高增长。

AMD和Intel将希望他们能够满足其中一部分需求。

AMD最近宣布推出其MI300系列AI-GPU处理器，并声称其性能超过Nvidia的H100。AMD声称MI300x在TensorFloat、浮点、块浮点和整数数据类型上的性能比H100高出32%。

Intel的Pat Gelsinger在纽约举行的一次新闻活动中展示了该公司下一代Gaudi 3数据中心AI加速器，以及推出Core-Ultra AI-PC处理器和第五代Xeon服务器处理器。Gaudi 3的具体规格尚未公布，将于2024年推出。Gelsinger将该组件描述为“out of fab, in the lab, being powered on, looking healthy.”

感知侧的AI

如果传统的边缘AI概念只是刚刚开始在智能手机和PC中取得进展，那么还有另一种类型的边缘AI。那就是隐藏在组件内部或感知侧的AI。

虽然类似的例子越来越多，但我仅举几个例子。

索尼的iMX500，作为图像传感器市场的领导者，拥有一个1,230万像素背照式图像传感器和一个索尼自主开发的逻辑芯片，包括内存和图像信号处理器以及用于AI信号处理的DSP。这些传感器可以在逻辑芯片上进行3.1毫秒的AI处理。由于这在单帧周期内，因此可以在每秒30帧的视频录制中实时跟踪物体。

另一个例子是ST的ASM330LHHXG1（IMU）。它包含一个三轴加速度计和三轴陀螺仪，用于“始终感知”应用时的功耗不到800微安。该传感器包括一个机器学习内核和有限状态机，用于高效地进行事件检测和分类。

位于Bristol的Altered Carbon开发了一种具有多个感知区域的石墨烯传感器。它能够在不同区域感知挥发性有机化合物（VOCs），这意味着它可以使用AI技术进行训练，被描述为“电子鼻”。类似系统在过去已经存在，其中电子鼻是“校准”的，但Altered Carbon声称其方法更小、更准确、成本效益高，而且可以在工作中进行训练。

可以看出，在许多应用中，确定性的、透明的、校准的传感器的概念将成为过去。在许多应用中的前进方向将是带有机器学习的感知功能，以提供有用的信息。

AI芯片市场的增长‍‍‍‍‍‍‍‍‍‍‍‍

AI芯片市场的规模是一个有待讨论的问题。据Gartner预测，2023年AI芯片市场的价值将达到534亿美元，比2022年增长20.9%，然后在2024年增长25.6%，达到671亿美元。各家观点各异，定义一个包括GPU、微控制器、FPGA、传感器以及专门的AI加速器的市场并不容易。但几乎所有预测者都同意，AI芯片市场将在几年内达到大约30%的年复合增长率。

尽管如此，仍有一些公司会在所有似是而非产品上都贴上AI标签来做市场推广。这可能会夸大对AI的期望。市场可能还会有调整。

AI用于数据处理、推理和自然语言及其他接口的应用，是一件至少与计算机、微处理器和互联网的发展同等重要的事件。它当然是这些事件的逻辑延伸，就像它们一样，它也会重塑社会和就业选择。

AI是一个非常重要的议题。应用程序和软件正在到来，休闲、创意和工作场所行为正在改变，硬件必须演变以高效地满足这些需求。Nvidia拥有重要的先发优势，但市场上仍有很大空间供其它公司进行竞争或寻找自己的利基市场。在2024年，还有时间加入这场变革，但短期内，AI市场可能会在云端集中，或在感知端变得更简单。重要的边缘AI尚未找到可以克服市场碎片化的杀手级应用。2024年AI-PC的到来可能会开始解决这个问题。