芯耀
与非AI
321
9月22日，首届沉浸式消费嘉年华暨2026 AI终端创新发展大会在北京市经济技术开发区（北京亦庄）正式开幕。AMD大中华区市场营销副总裁纪朝晖出席大会并作主题报告。纪朝晖指出，当推理成为AI主要的工作负载，token成本成为企业的“不可承受之重”，但若将智能体部署在智能体PC、智能体主机等本地新型计算设备上，只将重型任务交给云端大模型，就能将token成本降低80%，“这就像大部分时间，我们都是买了食材在家做饭，只有重要场合才出去吃。”
智能体引领产业进入AI“下半场”，token消耗成为“不可承受之重”
自2022年11月30日ChatGPT上线至今的近4年时间，AI产业的发展可以分为两个阶段。在前三年，全球大模型公司都在努力把AI做得更聪明，使其服务于用户的生产、工作、学习，驱动AI训练计算量以每年5倍的速度持续膨胀。
而过去一年，把AI“用起来”成为产业的重心，因而在大模型训练计算量继续成长的同时，AI推理的工作负载也迅速攀升。在2025年，AI推理与AI训练两种工作负载的占比达到5:5，2026年AI推理的占比已经来到60%。到2030年，AI推理的占比将继续提高，达到80%以上。
“我们已经进入AI的下半场，从让大模型变得越来越聪明，到全世界努力把AI用起来。”纪朝晖表示。
智能体是AI从对话式机器人走向生产力工具的关键，不仅是“把AI用起来”的核心范式，也是AI+千行百业进入快车道的转折点。普通大模型的工作模式很简单，用户输入问题，它给出答案。而智能体要全能得多，用户给它一个任务，它会通过推理、子智能体的调用、数据的处理、任务的分派、工具的调用，最终反馈用户一个执行的结果。
但智能体的自主性，是以token消耗量急剧提升为代价的。Gartner数据显示，智能体应用相比对话式机器人，token消耗会增加5～30倍。IDC数据显示，到2027年全球2000强企业（G2000企业）AI token的消耗量会比当前增加1000倍。在这样的趋势下，token越来越成为企业的成本难题。
像在家做饭一样使用智能体，端侧AI占大头
对于企业难以负担token成本的现象，纪朝晖作了一个生动的比喻：“如今企业使用AI的方式，就像我们每一顿饭都去餐厅吃——大部分AI应用的token都来自云端的token供应商，我们要向它们购买token和API。但我们在家里过日子，真的是每一顿饭都在外面吃吗？其实大部分时间，我们都是买了食材在家做饭，只有重要场合才出去吃。”
那么，如何像“在家做饭”一样使用智能体呢？相关研究显示，如果将日常辅助办公放在AI PC的小模型上，将智能体AI员工所需的智能体应用放入智能体主机的中模型上，只有跑复杂推理任务时才用云端的大型推理模型，可以让企业的AI token消耗降低80%以上——使用AI PC和智能体主机上的本地模型，就等同于平时“在家做饭”，而使用云端大模型就是“去餐厅”。
要实现这种基于任务选择模型和计算位置的方式，离不开端侧AI。它不仅能解决token消耗越来越贵的问题，还满足了用户对合规、安全、隐私、IP保护、即时性、数据主权的需求。最重要的是，端侧模型的能力在过去几年获得了显著的提升，使端侧AI成为可能。
“我们可以看到，最新Qwen3.8本地可部署模型（参数27B）的能力，已经达到最前沿云端大模型的80%～90%，足以驱动端侧智能体的使用。智能体的到来，正在掀起新一轮AI终端的进化浪潮。”纪朝晖说道。
推出AI计算新设备，遴选AI用例带头人
今年3月，AMD提出了智能体主机（Agent Computer）这一新的计算品类，随后又提出了智能体PC（Agentic PC）。在本次演讲中，纪朝晖进一步阐释了两种设备的使用方式：智能体主机是给智能体用的，智能体PC是智能体和人一起用的。
相比传统PC需要人不断通过键盘、鼠标进行操作，智能体主机只需要用户派发任务（比如用飞书发给它）就能24小时不间断地工作直至任务交付。
“智能体主机把智能体放到端侧而非云端。未来的企业可能是1000个人类员工和1万个智能体AI员工一起工作。AI员工有一部分会跑在云端，但是由于合规、隐私、数据安全保护、数据主权等原因，要求它大部分落在端侧。”纪朝晖说道。
要构建一台智能体主机，首先要“放入”作为基座的大模型（至少27B）及其所需的24G以上显存，来承载智能体的运行需求。有了这样的模型能力，就相当于聘请了一位博士毕业生，但缺乏工作经验也不行，因而还需要包含相关行业30年工作经验的私有知识库，以及RAG KV cache膨胀所需的20G以上存储空间。接下来要部署的是财务、客服、人事、工程师等AI员工，每位AI员工都需要10G以上的显存，再给它们一套严格的SOP（标准作业流程）——这样一台设备才能胜任智能体主机的框架。
“如果您用一台智能体PC，它的AI能力能使您的工作效率提升一倍。如果企业部署智能体主机，可以让团队的工作效能提升十倍。如果企业采用智能体工作站或服务器，可以让整个企业的效能提升百倍。未来智能体将对企业能力提升起到至关重要的作用。”纪朝晖表示。
虽然AI将改变未来工作模式的趋势已经明确，但许多用户对于如何用AI“倍增”自己的能力还缺乏具体的概念。为此，AMD组织了锐龙AI智能体创新应用大赛，其目的是将通过AI实现了3倍、5倍乃至10倍生产力的“先行者”筛选出来，作为样例。比如，金属加工销售曹冬冬在电商平台接活时，因为后端工厂的各种数控机床的工艺和成本不一样，很难提供准确的报价。而智能体主机将工厂后端所有机床的工艺流程、工时、费用信息全部交给智能体，只要将客户的图纸交给智能体主机，就能得到清晰完整的报价。高中生Sophia Liu，用智能体主机做了智能体辅助教学，帮助老师分层教学、因材施教。
“我们每一个人都会成为AI时代的超级个体。”纪朝晖说道。
作者丨张心怡
编辑丨吴丽琳
美编丨马利亚监制丨连晓东
