AMD为什么押注一个违背半导体周期的AI芯片方向？

引言

2026年8月6日，AMD宣布拟收购加拿大AI芯片公司Taalas，计划把其技术纳入未来加速器路线图，并与Instinct GPU开发系统级方案。

Taalas成立于2023年，由Tenstorrent联合创始人Ljubisa Bajic创办。常见AI芯片通常先制造通用计算硬件，再在运行时将模型权重从外部存储器加载到芯片中；Taalas则试图反过来，在芯片设计和制造阶段就把特定模型的基础权重直接固化进硬件。公司称，其首款芯片HC1采用TSMC 6nm工艺，在一颗技术演示芯片中固定了Llama 3.1 8B（约80亿参数）的基础权重。

这条路线把效率潜力和周期风险绑在了一起：模型几个月就可能改版，为它制造的芯片还来得及交付并收回成本吗？

一、为什么“为模型造芯片”首先撞上半导体周期？

模型几周或几个月就能改版，芯片却要经过设计冻结、制造、封装、测试和交付。等芯片做出来，原来针对的模型可能已经换代。

图1｜模型从A迭代到D，芯片仍在制造和交付。

专用芯片通过提前固定更多计算路径和模型信息，可以减少运行时的控制开销和数据搬运，但代价也很直接：一旦模型发生较大变化，与之对应的硬件设计也可能需要修改。Taalas试图缩短的正是改版时间。其待审专利申请描述了一种做法：复用大部分底层电路，只调整负责固定模型权重的高层金属连接。

这些金属层同样需要通过光刻掩模形成。该专利申请称，修改高层掩模的成本只有修改底层掩模的1/10到1/100；EE Times采访称，HC1更换模型只需修改两张掩模。Taalas首席执行官还称，把模型转换为芯片设计所需的RTL代码约需一周。这能缩短模型改版的设计时间和掩模成本，但晶圆制造、封装和测试的周期仍然无法省掉。

二、有些AI芯片的性能已接近NVIDIA GPU，企业为什么还是不换？

但周期并不是AI芯片进入生产体系的唯一门槛。一些通用AI芯片已在特定任务和测试中接近NVIDIA GPU的整机性能，企业仍不会因此轻易换平台。真正难换的是整套生产体系：框架、算子库、编译器、多卡通信和部署工具都要重新适配，团队经验也要重建。换芯片往往意味着上线变慢，成本和风险上升。

这套生产体系并不是天然属于GPU，而是在长期技术演进中逐步围绕CUDA形成的。GPU最初服务于图形渲染，其大规模并行计算能力后来被证明适合神经网络。NVIDIA于2006年推出CUDA，把GPU开放给通用计算；2012年AlexNet用GPU训练ImageNet后，深度学习对GPU的需求快速增长。此后cuDNN、框架、编译器、多卡通信和调试工具持续围绕CUDA积累，最终形成今天难以替换的生产体系。

绕开CUDA的路线一直在发展。华为用CANN支撑昇腾，Google以TPU和XLA构建自己的软硬件体系，AMD也用HIPIFY迁移部分CUDA代码。但换个平台，函数库、实际性能和多卡运行仍要重新验证。还有一条更激进的路线，是减少对通用软件栈本身的依赖，FixyNN把CNN部分网络固定进硬件；HNLPU进一步尝试把大模型权重固化进芯片互连。Taalas则公开了HC1技术演示芯片，并称其在制造时固定了Llama 3.1 8B的基础权重。这已经不只是换一套CUDA替代品，而是在把原本由软件决定的一部分计算，提前变成硬件。

三、CUDA为什么让GPU路线越来越难绕开？

换平台困难还只是表层。CUDA更深的壁垒，是它已经嵌进模型开发和部署流程。模型最终要落实为矩阵乘、注意力等具体计算，由GPU内核执行。新模型走向生产，不仅要能跑，还要打通低精度计算、多卡并行和部署。已有内核、函数库和通信工具可以直接复用；缺少关键组件时，团队就要自己补算子和内核，重新验证精度、性能和稳定性，并随着GPU和框架升级持续维护。

图2｜模型从结构和算子进入GPU（图形处理器）内核，再受存储和多卡执行约束；成熟GPU路径会反过来塑造模型工程选择。

这笔工程成本也会反过来塑造模型设计。GPU的算力、显存和互联决定性能边界，CUDA生态则把适应这些约束的优化方法沉淀成成熟工具。为了在现有GPU集群上跑得更快、更省，团队会调整模型并行、压缩KV Cache、改变专家路由，或重写注意力计算。久而久之，模型工程与GPU软硬件栈越来越深地相互适配。但既然模型可以迁就硬件，另一种思路就是反过来，让硬件更彻底地迁就模型。Taalas走的正是这条路。

四、Taalas到底把芯片专用化推到了哪一步？

理解Taalas，可以先看AI芯片的一条基本取舍：芯片越通用，越容易适配不同模型；越专用，效率潜力越高，但模型变化时改芯片的压力也越大。Taalas走的正是高度专用化的一端：它甚至把模型权重固化进芯片，因此获得更高效率的同时，也必须解决模型快速迭代带来的改版问题。

中央处理器（CPU）把较多电路留给分支、缓存和控制，擅长处理难以预知的程序。图形处理器（GPU）用大量并行单元处理AI计算，仍可通过软件更换任务，但效率高度依赖内核、数据布局和多卡通信。张量处理器（TPU）进一步固定矩阵计算路径，让编译器提前安排执行，同时仍能在芯片造好后加载多种模型。市场上的专用化路线已经很多，Trainium、Gaudi、Groq、Cerebras、Etched等芯片从计算单元、数据流到芯片形态做了不同程度的专用化，但大多仍是在芯片制造完成后加载模型权重。

Taalas则直接针对具体模型造芯片。HC1在制造时固定了Llama 3.1 8B的基础权重；模型发生较大变化，芯片也可能需要重新定制甚至制造。

图3A｜CPU与GPU保留较多运行时选择；TPU及其他AI ASIC把更多计算路径提前固定。

图3B｜Taalas的两份专利申请分别描述固定权重的连接网格，以及“模型核+微调区”；EE Times称HC1片上SRAM可存微调权重或KV Cache。输入输出仍需流动。

五、AMD拟收购Taalas，想买到什么？

AMD可能看中的核心能力，是把模型基础权重直接做进芯片。GPU在生成文字时，需要不断从显存读取大量权重，性能和能耗容易受内存带宽限制。Taalas的专利思路是把一部分权重选择直接固化在金属互连中，让芯片运行时少读权重、少搬数据，从而提高带宽受限推理的生成速度和能效。公司自测中，HC1运行Llama 3.1 8B的单用户速度达到每秒16,960个Token。

固定基础权重，并不等于模型被完全锁死。另一份专利在芯片中保留少量可改写区域，用于LoRA等微调；HC1片上SRAM还可保存微调参数和KV Cache。也就是说，固定的是Llama 3.1 8B的基础权重，提示词、上下文和部分微调参数仍可调整。

但这些性能优势仍缺少大规模实物验证。目前公开芯片只有运行Llama 3.1 8B的HC1，性能数据主要来自公司自测；HC1采用3位和6位参数，公司自测的模型质量低于GPU基准。面向DeepSeek R1-671B的方案仍停留在模拟阶段，公司预计需要约30颗不同的定制芯片；第二代4位方案也仍待实物验证。

放回AMD的产品线看，Taalas补上的可能正是“为具体模型造芯片”的能力。它的价值首先在于用专用化换取更高的推理性能和能效，但这种优势并非对所有负载都一样大：如果瓶颈主要来自权重搬运，固定权重的收益更明显；如果大量时间花在KV Cache、中间结果或芯片间通信上，收益就会下降。

六、模型专用芯片怎样回本？

图4｜具名模型的专用化投入要在需求下降前摊回；可复用的平台和IP可以跨代回收。

这类芯片能否回本，主要取决于两个变量：模型能稳定运行多久，以及调用量有多大。Taalas设想的是，让同一套“芯片+模型”持续运行一年，用推理成本的节省覆盖定制、制造、部署和运维投入。

但这笔账目前缺少真实客户数据。Taalas公布的单用户速度为每秒16,960个Token，来自公司自测；成本优势也主要基于公司估算，仍要等批量产品验证。

AMD真正承担的是模型周期风险：GPU负责追赶快速变化的模型，专用芯片押注已经稳定的大规模负载。如果模型先变了，芯片还没跑够量，成本就可能来不及收回来。

  参考资料：

[1] AMD：AMD Acquires Taalas to Advance Compute Solutions for Rapidly Growing AI Inference Market（2026-08-06）。

[2] Taalas：Products（HC1 Technology Demonstrator）。

[3] Taalas：The Path to Ubiquitous AI（2026-02-19）。

[4] Taalas专利申请：Large Parameter Set Computation Accelerator Using Configurable Connectivity Mesh（US20250123802A1，Pending）。

[5] Taalas专利申请：Computing Architecture with Model Core and Fine-Tuning Portion（US20250238726A1，Pending）。

[6] EE Times采访：Taalas Specializes to Extremes for Extraordinary Token Speed（2026-02-19）。

[7] CPU、GPU与CUDA官方资料：CUDA Programming Guide；GeForce 8800 GPU Architecture Overview（2006-11）；Intel 64 and IA-32 Architectures Optimization Reference Manual。

[8] AlexNet前的GPU神经网络研究：Large-scale Deep Unsupervised Learning using Graphics Processors；Deep Big Multilayer Perceptrons for Digit Recognition。

[9] Krizhevsky等：ImageNet Classification with Deep Convolutional Neural Networks。

[10] Chetlur等：cuDNN: Efficient Primitives for Deep Learning。

[11] Dao等：FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness。

[12] 华为昇腾：CANN商用版9.0.0开发文档。

[13] Google TPU / XLA资料：In-Datacenter Performance Analysis of a Tensor Processing Unit；TPU Architecture；XLA Architecture。

[14] AMD：HIPIFY Documentation。

[15] 可编程AI加速器资料：AWS Trainium Architecture；Intel Gaudi 3 AI Accelerator White Paper；Graphcore IPU Hardware Overview。

[16] 专用AI架构资料：Groq Tensor Streaming Processor；SambaNova Dataflow Architecture；Cerebras Wafer-Scale Engine；d-Matrix Corsair AI Platform；MatX One。

[17] Positron资料：Atlas Inference System；Positron’s $230M Funding Led By Financial Trading Firms；Asimov。

[18] Etched：Etched is Making the Biggest Bet in AI（2024-06-25页面存档）。

[19] NVIDIA：Getting Started with Deep Learning Performance。

[20] Whatmough等：FixyNN: Efficient Hardware for Mobile Computer Vision via Transfer Learning。

[21] Liu等：Hardwired-Neurons Language Processing Units as General-Purpose Cognitive Substrates。

[22] 模型适配GPU案例：Megatron-LM；Llama 2；DeepSeek-V3 Technical Report；Insights into DeepSeek-V3: Hardware for AI Architectures。

[23] 推理负载与瓶颈论文：PagedAttention；Speculative MoE；Fast and Memory-Efficient Video Diffusion；DistServe；Efficiently Scaling Transformer Inference；Atom: Low-Bit Quantization for Efficient and Accurate LLM Serving。

[24] AMD：Form 10-K（财年截至2025-12-27）（提交于2026-02-04）。

[25] MLCommons：MLPerf Inference v5.1 Results Comparison（2025）。

#深芯盟  #湾芯展  #半导体产业研究 #AI芯片  #AMD