到2034年,预计全球边缘设备人工智能(AI)芯片市场将增长至220亿美元,最大的三个垂直行业是消费电子、工业和汽车。
IDTechEx认为,边缘AI芯片/芯片组包括负责处理机器学习工作负载的特定神经网络架构,涵盖GPU、CPU、ASIC、DSP和FPGA,封装包括片上系统、多芯片模块和2.5D+,应用包括垂直行业(工业、医疗保健、汽车、零售、媒体和广告、消费电子等)的语言、计算机视觉和预测。
什么是边缘AI?
边缘计算和云计算环境之间的区别较大,因为各自都有自己的需求和功能。边缘计算环境是在位于网络边缘(靠近用户)的设备上执行计算,通常与创建数据的设备相同。这与处于网络中心的云计算或数据中心计算形成了鲜明对比。
边缘AI是在上述设备的网络边缘部署的AI应用,其好处包括不必在云和边缘设备间发送数据执行计算,设备可以快速做出决策,而无需连接互联网或云。许多边缘设备是用电池运行的,此类边缘AI芯片需要比数据中心的功耗更低,也不需要先进的边缘节点。
采用AI芯片的消费类边缘设备包括:可穿戴设备、音箱、智能手机、相机、智能电视、平板、笔记本、智能家居、车辆等;企业设备包括:传感器、安全摄像头、健康监测设备、个人辅助机器人、监测装置、生产线机器人等。
AI芯片的边缘设备
除了消费类设备,还有一种电信边缘,它位于网络最边缘和数据中心之间,但它与数据中心中的AI相似,不是“真正的”边缘。在云端,由于AI算法的计算密集性,训练通常发生在云中,需要先进的节点功能,用于训练的芯片比推理芯片更昂贵。
AI芯片有哪些功能?
首先是图像分类。机器学习系统最常见的任务是为给定图像内容分类,也可以用作其他计算机视觉工作负载的特征提取,如字幕和风格转移。
二是目标检测和图像分割。对象检测返回给定范围内对象的边界框坐标,为每个输入图像像素分配一个对象类(对象位置和对象形状)。目标检测是机器人和自动驾驶系统的重要组成部分。
AI芯片的功能
三是自然语言处理(NLP)和语音识别。NLP利用文本中不同单词之间的关系理解文本,并寻求理解上下文的细微差别。这项技术能够从文本中提取信息和见解。语音识别具有实时识别和转录音频的能力。
四是提出建议。对于社交媒体和电子商务网站来说,推荐是一种非常有用的工具,通过评估用户和服务项目(如产品和广告)之间的互动,为用户提供个性化的结果。
五是强化学习。相关算法可以用来训练在决策能力上与人类竞争的智能体(如神经网络),这已被用于训练围棋和国际象棋代理(agent)。
AI应用的巨大变革和市场潜力
如今,AI已经在许多不同应用中显示出巨大的变革潜力,从高频交易的欺诈检测到使用生成式AI(如ChatGPT)编写书面文档以及创造性提示的大幅时间节省。
尽管在数据中心使用具有神经网络架构的芯片(处理机器学习工作负载)很普遍,但它处于AI应用重要机会的的边缘。为边缘设备提供更多功能,以及在某些应用中能够将人工时间完全外包给智能系统,对最终用户来说显而易见。
边缘AI处理收入趋势预测
现在,AI已进入世界领先设计师的旗舰智能手机,并将在从汽车到家用智能电器的许多不同设备上推广应用。预计到2034年,消费电子、工业和汽车行业的垂直领域将为处于边缘的AI芯片带来最多的收入。
按行业垂直细分的收入预测
目前,边缘AI在消费市场占据主导地位,据预测,用于企业目的的AI比消费市场增长更快。到2024年底,企业AI芯片将占总收入的20%以上;2034年底将超过25%。几个重要因素是:已在现有芯片组中采用AI架构的智能手机出现饱和,尽管高端化仍在继续,AI收入也在增加;ADAS技术进步和公共交通工具的采用,以及先进芯片技术在本地处理计算密集型工作负载的可能性。
2024年至2027年,AI芯片收入将显著增长,2025年ADAS进入主机厂的生产线,之后是ADAS系统的采用增加。
消费与企业增长预测
按应用划分,包括:语言(NLP、语音识别和音频增强)、预测(强化学习和推荐以及预测分析)和计算机视觉(对象检测和图像分类)。其中计算机视觉将AI芯片用于监控摄像头、机器人和自动驾驶汽车等,都依赖于物体检测。
按应用划分的趋势预测
物联网中的AI
鉴于AI(允许自动化和免提访问)和Wi-Fi连接是实现物联网(IoT)的两个关键技术,智能家居尤其是AI消费电子产品是主要增长途径。
在IoT中,电器可直接相互通信,智能电视、镜子、虚拟现实耳机、传感器、厨房用具、清洁用具和安全系统都可以通过部署AI和Wi-Fi进入互联状态,AI允许通过智能家居设备进行免提访问和语音命令。为此,未来10年,消费电子垂直领域的增长在一定程度上将反映AI带入家庭带来的机会。2034年,IoT行业将是边缘AI芯片收入最多的行业。
智能手机和平板中的AI
智能手机是当今AI技术最接近实际应用的平台,提供了比以往任何时候都更强大、更个性化的用户体验。2020年以来发布的196款智能手机中,91款采用了神经网络架构来实现AI加速。
芯片组制造节点(nm)与智能手机价格(英镑)对比
2020年至今,高通一直占据旗舰手机芯片主导地位,到2023年,只有一款旗舰手机Tecno Mobile Phantom V Fold采用联发科芯片组。高通在低端市场的表现也不错,调查发现,价格最低的小米Redmi 10C也使用了高通SM6225 骁龙680 4G芯片组,但没有神经网络架构。
高通第一款支持AI的SoC是2016年发布的骁龙820。此后,每个骁龙8系列芯片组都有一个AI引擎。
联发科首款AI加速功能SoC是2017年发布的Helio X30。最便宜的AI手机都使用联发科芯片组,包括使用MT6853 Dimensity 800U 7nm SoC的Vivo V21 5G,以及使用Dimensity 8050 6nm SoC的Tecno Mobile Camon 20 Premier。最昂贵的智能手机都是高通SoC,华为Mate X3用的是4nm骁龙8+Gen 1,索尼Xperia PRO是骁龙865 5G。
配备专门处理AI算法硬件的最便宜的平板电脑采用联发科(12nm)芯片组,包括Acer Iconia Tab P10、Amazon Fire HD 10和Amazon Fire HD10 Plus,都是联发科Kompanio 500 SoC。
通常,平板电脑的价格随节点进程而增加。不过,最昂贵的平板电脑都有专有硬件,如微软Surface Pro 9使用微软SQ3 SoC(高通骁龙8cx Gen 3笔记本处理器的变体),苹果iPad Pro使用苹果M2。
对近年来发布的48个平板的调查显示,不支持AI的芯片组是在更宽节点制造的,在12至14nm之间。在调查的平板电脑中,不支持AI的芯片组也最便宜,不过,在零售价格相近的平板电脑上也可以找到支持AI的芯片组,支持AI的芯片组的节点分布在4nm–7nm。
汽车中的AI
汽车行业的AI主要用于ADAS和车内娱乐,包括紧急制动、自适应巡航控制和自动泊车系统,还包括信息娱乐显示屏。AI芯片位于中央微控制器(MCU)中,与传感器和天线等外围设备相连。
车载AI计算可用于多种目的:一是驾驶员监控,监控头部和身体位置,检测睡意,并在事故期间改变座位;二是ADAS,AI负责物体检测、转向和制动的适当校正;车载娱乐,车载虚拟助理的工作方式与智能手机非常相似。
汽车中的AI
在计算效率方面,在用于ADAS的L2级芯片中都有AI推理功能。Renesas R-Car V4H能够以每秒16万亿次运算/瓦(TOPS/W)的速度实现最高的计算效率,但最多只能提供34TOPS。高通、地平线、英伟达和AMD的SoC都提供100多个TOPS,其中高通是130瓦提供700TOPS。
车用高性能芯片的计算效率
边缘AI芯片前景可期
边缘AI芯片是专门用于处理AI应用的大量计算任务的芯片,涵盖消费电子、智能家居、智能驾驶、云计算、智能金融及智能教育等领域。随着AI技术的不断进步与发展,边缘AI芯片行业也迎来了投资热潮。
边缘AI芯片的主要公司
从现在到2034年,在三大垂直行业——消费电子、工业和汽车领域,边缘AI芯片的应用场景将不断拓展,从最初的智能语音识别、图像处理等领域,逐渐拓展到智能驾驶、智能家居、智能安防等领域。
然而,边缘AI芯片也面临着一些挑战。例如,由于高度专业化、定制化的特点,其设计和生产需要耗费大量人力物力,同时也需要不断跟进AI算法的更新和发展。此外,由于边缘AI芯片的应用场景复杂多样,需要具备强大的适应性和可靠性,因此对芯片的设计和生产提出了更高的要求。
未来,随着5G技术的普及和应用,边缘计算将更加广泛地应用于各个领域,为边缘AI芯片提供了更多的应用场景和机遇。
1288
下载ECAD模型