三年疫情结束,高通骁龙峰会终于又带着一系列全新处理器,重新回归茂宜岛。在过去的三年中,骁龙从未错过智能终端任何一次巨大的进步,数次为智能终端设备打出“最强辅助”,给用户带来旗舰体验。
如今属于生成式AI的时代到来,新一代骁龙8又是如何诠释新的标杆旗舰体验的?
移动旗舰标杆体验,逐渐与骁龙8系深度绑定
“骁龙正在改变人们的生活、工作和娱乐的方式,我很高兴地和大家分享,骁龙已经成为全球近30亿部终端的核心。”在2023骁龙峰会首日主题演讲上,高通公司高级副总裁及CMO莫珂东说道。
这种改变正在被更多消费者接受。根据高通公布的数据显示,消费者可能购买骁龙终端的意愿是竞品的9倍多,智能手机用户推荐骁龙的可能性,是其他竞品的10倍。在购买新智能手机时,购买搭载骁龙的智能手机意愿是其他品牌的三倍。另外,消费者愿意为骁龙终端多支付16%的溢价,相比去年的12%有所增长。
消费者对骁龙品牌的认可度逐年上升,除了一直以来高通在建设骁龙的品牌价值带来的丰硕成果之外,更多的是骁龙移动平台给消费者带来的切实领先体验。
以过去一年第二代骁龙8的发布为例,这一代旗舰移动平台,不仅采取了业界领先的台积电4nm工艺,Kryo CPU性能提升35%,能效提升40%,Adreno 740 GPU性能提升25%,能效提升45%,而且还在AI方面做出了四个方面的关键升级。
包括在Hexagon处理器中加入专用的供电系统,进一步提升芯片处理的能效比;对内存读/写进行改进,尽量减少对外部数据的读写,降低能耗;通过微切片的推理方式,将单个神经网络拆分成几万个微切片,然后将其分配到张量、标量、向量加速器上,从而提高整个神经网络的推理速度。此外,还率先支持INT4 AI精度格式。
伴随着第二代骁龙8的发布,小米、vivo、OPPO、moto和魅族等移动手机品牌都成为首批搭载的客户,且在诸多方面带来了出色的表现,包括高能效处理、终端侧智能、极速稳定连接,以及顶级影像、音频和游戏等特性。
而且从第二代骁龙8开始,高通就已经开始了推动生成式AI走向终端侧体验的尝试,率先支持Stable Diffusion在终端侧的部署。
面对生成式AI时代的到来,骁龙是否可以带来新的惊喜持续诠释“旗舰标杆”?
第三代骁龙8全新升级,生成式AI时代树立新标杆
据骁龙峰会上公布的相关参数,第三代骁龙8移动平台每个子系统都实现了提升,与前一代平台相比,CPU性能提升高达30%,GPU性能提升25%。在AI和影像上也做了全新升级。
“第三代骁龙8具有迄今为止我们在智能手机平台中集成的最强大终端侧智能,赋能真正满足用户所需的突破性AI体验”,高通高级副总裁兼手机、计算和XR业务总经理阿力克斯·卡图赞在峰会演讲中说到。
那么,第三代骁龙8所带来的突破性AI体验具体表现在哪些方面?又是如何实现的呢?
高通技术公司产品管理总监,也是第三代骁龙8的产品负责人Lekha Motiwala介绍道,高通相信AI和生成式AI无疑将成为下一个颠覆性技术,因此在三年前启动第三代骁龙8移动平台开发工作时,就已经将终端侧智能放在首位,以便让消费者利用终端侧AI的强大功能和更多可能性尽享全新用例。
一方面,增强的高通Hexagon NPU让生成式AI推理速度更快。“事实上,这是我们迄今为止最先进的Hexagon,比前代的推理速度快98%,每瓦特性能提升40%”,Lekha Motiwala补充道。
另一方面,高通AI引擎中的另一关键组件——高通传感器中枢,能够将AI性能提升至前代的3.5倍,并且内存提升30%。接入大语言模型(LLM)的AI助手能够与高通传感器中枢协同工作,利用位置和活动数据等信息,结合情境提供个性化的回答。
在生成式AI方面,第三代骁龙8能够支持高达100亿参数的模型,能够以每秒生成20个token的速度运行大语言模型,在移动终端保持领先。
为实现这一速度,高通先将庞大的AI模型量化,再使用高通自家的AI软件栈工具对其进行压缩,加载到内存中。
聊天机器人的体验则更为直观。用户语音可以经过基于Transformer的自动语音识别模型Whisper,部分在高通传感器中枢上运行,然后由经过压缩和量化的70亿参数Llama 2基础模型将进行文本到文本的推理。
为了让模型在终端流畅运行,高通的推测性解码技术也首次在边缘终端中使用。
这项技术使用更小的草稿模型,首先在CPU上进行大量推理,然后快速生成3个推测性token并备注模型处理标记,一个好的草稿模型能以较高的接受率预测下一个token,从而使token生成速度翻倍,同时保持准确性。最后,AI助手生成的语音要经过CPU上运行的文本到语音AI模型而生成。最后,使用高通的5G技术从Skyscanner的云端服务器接收信息。
搭载这些全新的技术,移动终端厂商的AI能力也有了较大的改善。
荣耀CEO赵明在骁龙峰会上表示,荣耀Magic6 将搭载第三代骁龙8移动平台,并且成为一款搭载AI端侧大模型的旗舰手机。
基于终端大模型,荣耀的语音助手YOYO也可以根据用户提供的简短提示来创建主题视频,从用户本地媒体库中检索具有相同主题的原材料,并通过对话更改背景音乐或模板。
遍布智能终端,打造强劲旗舰体验平台
高通紧跟生成式AI时代的动作,不仅仅体现在第三代骁龙8的提升上,还体现在持续打造跨不同终端的骁龙产品生态上。
在此次骁龙峰会上,高通宣布推出骁龙Seamless,能够支持终端间轻松发现彼此并进行连接协作。基于高通低功耗、低时延的蓝牙和Wi-Fi技术,以及高通传感器中枢赋能的始终感知功能,用户能够创建连接智能手机、笔记本电脑、平板电脑、耳塞、智能手表和XR设备的自组织智能网络。
与此同时,高通还推出了骁龙X Elite平台,凭借颠覆性的处理能力和AI性能开启智能计算新时代,能够支持在终端侧运行超过130亿参数的生成式AI模型。
另外还有第一代高通S7 Pro音频平台,借助终端侧AI、革命性的超低功耗Wi-Fi连接和对扩展个人局域网(XPAN)技术的支持,从而开创了全新音频创新时代。
正如我们看到的,高通骁龙8系早已并非独立个体,而是与PC、耳机等智能终端紧密结合,以建立生态的方式共同打造旗舰级体验,诠释新的旗舰标杆。