AI加速器

加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论
  • 面向AI与HPC系统的CXL 4.0验证
    作者:SmartDV Technologies AI加速器、高性能计算(HPC)平台以及数据密集型系统正不断对处理器、内存与加速器设备之间的连接提出更高要求。随着系统架构日趋异构化、内存资源日益分布式化,高效传输数据只是挑战的一部分。系统还需要在日益复杂的互联拓扑结构中维持一致性、可靠性、安全性与可预测的行为。 Compute Express Link(CXL)4.0 对CXL架构进行了升级,以更
    98
    11/12 10:11
    面向AI与HPC系统的CXL 4.0验证
  • ST发布全新混合信号微控制器STM32G5,面向 AI 服务器数字电源和具身智能机器关节实时控制及高端电机应用
    服务多重电子应用领域、全球排名前列的半导体公司意法半导体 (STMicroelectronics,简称ST;纽约证券交易所代码:STM) 发布全新STM32G5系列混合信号微控制器(MCU)。该系列将帮助开发者为数据中心、机器人、光伏系统与风力发电机、工业驱动系统及商用无人机打造更高效、更智能、更安全的技术,推动物理AI发展。 意法半导体通用与汽车微控制器事业部总经理Patrick Aidoune
    ST发布全新混合信号微控制器STM32G5,面向 AI 服务器数字电源和具身智能机器关节实时控制及高端电机应用
  • 平头哥的“系统级”突围:真武V900发布背后的国产算力竞争逻辑之变
    2026年的国产AI算力赛道,正在经历一场竞争逻辑的深层切换。 过去几年,行业讨论的核心往往围绕单颗芯片的峰值算力、制程节点和能效比展开,“对标某国际大厂”是常见的叙事方式。但随着大模型参数从千亿迈向万亿、Agent应用将上下文窗口从256K推至1M甚至更高,行业逐渐意识到,单芯片的算力天花板已经很难独立支撑前沿模型的训推需求。与此同时,生态层面的现实更加棘手:数百万开发者深度绑定CUDA生态,不
    2284
    09/24 10:49
    平头哥的“系统级”突围:真武V900发布背后的国产算力竞争逻辑之变
  • AI加速器芯片里的休眠木马
    ACSAC2024论文Evil from Within演示AI加速器硬件休眠木马:在权重加载引擎植入电路,部署后经固件/驱动锁定目标模型,用L1最小后门仅改少量权重,在芯片加载权重时现场替换恶意值;内存模型不变,软件校验失效。Xilinx DPU实测面积增0.24%、成功率超90%,暴露芯片供应链硬件可信风险。
    320
    09/17 16:02
    AI加速器芯片里的休眠木马
  • 一台AI机柜4500颗芯片,买卖芯片的机会在哪里?
    德勤和SIA发布的报告详细拆解了一台顶级AI机柜,揭示了其内部芯片分布和价值分配。报告指出,AI加速器占据了大部分价值,而价值较低的芯片则分布在多个托盘中。报告还探讨了未来供电和散热的趋势变化,以及中小型芯片分销商可能抓住的机会。
    797
    08/15 21:33
  • 台积电建18座厂猛扩产能:2nm年增70%、CoWoS年增80%!
    台积电预计2022年至2026年间,AI加速器晶圆需求将增长11倍,全球半导体市场规模预计超1.5万亿美元,AI和高性能计算占比55%。台积电计划提高2nm产能,预计2026年产能年复合增长率达70%,并加速扩张产能,计划新建九座厂房。在具体产能布局方面,中国台湾有12座晶圆厂或先进封装厂正在建设中,其中4座晶圆厂及2座先进封装厂计划在2026年建成。台积电在美国、日本及欧洲等地取得多项重大进展,包括美国亚利桑那州的晶圆厂量产4nm制程,预计至2026年产能实现1.8倍的增长。在埃米级制程方面,A14制程预计于2028年进入量产,A13制程则是A14的光学微缩版,预计于2029年进入生产。台积电还推出基于N2进一步优化的N2X与N2U制程,分别于2027年与2028年量产。
  • 翻过英伟达的“围墙”,就是国产芯片的蓝海?
    英伟达在中国AI加速器市场份额趋近于零,引发市场震动。随着美国对华芯片出口管制加剧,英伟达被迫转向间接销售渠道,导致中国AI算力市场出现空缺。国产AI芯片制造商如华为昇腾、寒武纪、海光等开始填补这一缺口,推动国产替代供应链快速发展。同时,汽车制造行业受到芯片价格上涨的影响,迫使车企加快自研芯片的步伐,寻求供应链自保。资本市场上,国产芯片厂商股价飙升,反映出市场对其前景的信心。然而,国产芯片在高端制程和软件生态方面仍存在差距,需克服技术和生态上的瓶颈。总体而言,这场变革标志着全球半导体产业链的结构性重组,开启了技术路线、产业安全和商业博弈的新阶段。
  • 为什么AI需要专门的硬件加速?从GPU,TPU到LPU的技术演进全景
    AI硬件加速的原因在于神经网络计算的特点:计算密度高、并行性强且控制逻辑简单。GPU因其SIMT执行模型、深多线程隐藏延迟和成熟软件生态成为当前事实标准。TPU/NPU和ASIC分别针对特定场景优化,而FPGA具有可重构特性,适合边缘推理和快速架构实验。LPU专为大模型推理服务设计,注重内存管理和延迟。未来AI硬件的发展趋势包括内存瓶颈、软硬协同设计和场景专业化。
    2126
    05/04 08:55
    为什么AI需要专门的硬件加速?从GPU,TPU到LPU的技术演进全景
  • 内存墙之痛:为什么AI加速不能只靠堆计算单元?
    AI加速的关键瓶颈在于数据搬运、通信和不规则算子,而非单纯的计算能力。当前硬件加速解决方案虽多样,但普遍面临内存带宽、延迟、面积和成本等方面的挑战。无论是GPU、TPU、ASIC还是新型架构,其性能受限于数据传输效率,而非单纯计算能力。因此,有效优化应集中在减少数据移动,提高内存和通信效率上。
  • TPU、Maia、Trainium、MTIA:四大云厂商围堵英伟达,推理算力不再姓“黄”?
    AI加速器市场在未来十年将出现明显的分化,通用GPU(如英伟达)将继续主导训练市场,而定制ASIC(如云厂商自研)则将在推理市场占据主导地位。预计到2033年,AI加速器市场的总规模将达到6040亿美元,其中通用GPU的年复合增长率约为16.1%,而定制ASIC的增长率为44.6%。 四大云厂商(谷歌、微软、亚马逊、Meta)纷纷推出自家定制的AI加速器,如谷歌的TPU v7 Ironwood、微软的Maia 200、亚马逊的Trainium 3和Meta的MTIA。这些芯片在性能、功耗和成本方面各有优势,特别是定制ASIC在推理领域的成本效益更为突出。 英伟达推出了Vera Rubin架构,试图在推理市场上夺回部分市场份额,但面对定制ASIC的竞争,英伟达的CUDA生态系统仍然是其主要优势。然而,随着定制ASIC的普及,英伟达在推理市场的份额可能会大幅下降。 此外,台积电的3nm工艺成为各大厂商争夺的关键资源,导致芯片产能紧张。数据中心的基础设施也需要相应调整,以适应不同类型的AI加速器,包括散热、互联和组网等方面的变化。 对于基础设施规划师、运维团队和战略决策者而言,未来的数据中心将面临更多挑战,需要制定相应的应对策略,以确保高效运行。
    TPU、Maia、Trainium、MTIA:四大云厂商围堵英伟达,推理算力不再姓“黄”?
  • 算力不是瓶颈?AI加速器的真正命门在这里
    AI加速器的性能瓶颈早已不再是计算单元本身,而在于内存和互联架构。随着大模型的兴起,内存带宽和延迟成为关键挑战。当前AI加速器采用多种创新技术应对这一难题,包括高带宽内存HBM、片上网络NoC、3D堆叠计算、近存计算和存内计算、多芯片互联等。新的三维分类框架将AI加速器分为六个类别,强调内存架构、互联拓扑和集成策略的重要性。未来,chiplet架构、先进封装技术和近存/存内计算有望进一步推动行业发展。
    算力不是瓶颈?AI加速器的真正命门在这里
  • 数据中心芯片,更香了!
    数据中心,是一个热词。在最近一个季度,英伟达、博通、AMD、英特尔、Marvell、SK海力士、美光和三星的数据中心相关出货量超过了 2200 亿美元的年出货量(不包括电源芯片)。随着 LLM 的快速扩展,预计到 2030 年数据中心的半导体支出将超过 5000 亿美元,占整个半导体行业的 50% 以上。那么,哪一系列芯片又会随着数据中心的走红同步受益?在此之前,先来了解一下数据中心。
    数据中心芯片,更香了!
  • 红帽推出llm-d社区,赋能大规模分布式生成式AI推理
    该项目让生产型生成式AI像Linux一样无处不在,与创始贡献者CoreWeave、Google Cloud、IBM Research和NVIDIA合作打造,携手行业领导者AMD、思科、Hugging Face、英特尔、Lambda和Mistral AI,并获得了来自加州大学伯克利分校和芝加哥大学的支持 全球领先的开源解决方案提供商红帽公司近日宣布启动全新开源项目llm-d,以满足生成式AI(gen
  • 贸泽开售采用先进视觉AI技术的Renesas RZ/V2N微处器
    专注于引入新品并提供海量库存™的电子元器件代理商贸泽电子 (Mouser Electronics) 即日起开售Renesas Electronics的RZ/V2N嵌入式AI微处理器 (MPU)。RZ/V2N MPU兼顾了高性能和经济性,能够让更多用户将视觉AI技术部署到其应用中。多功能RZ/V2N MPU非常适合人工智能摄像头、漫游机器人、后装行车记录仪以及其他需要高级嵌入式处理能力的应用。 Re
    贸泽开售采用先进视觉AI技术的Renesas RZ/V2N微处器
  • 具身智能浪潮反思:中国制造业需要什么样的协作机器人?
    随着具身智能浪潮席卷全球,机器人行业的发展备受关注。今年两会期间,国家对人工智能创新的大力支持,为机器人产业注入了强劲动力。同时,中国人工智能企业取得的重要突破,也让市场对机器人发展与应用充满期待。 在这一背景下,全球协作机器人制造商优傲机器人(以下简称“优傲”)认为,无论AI在机器人技术上的应用最终表现形态如何,工业机器人落地离不开三重核心技术能力:安全稳定、灵活易用、持续创新。 产品多元,安全
    具身智能浪潮反思:中国制造业需要什么样的协作机器人?
  • 泰瑞达机器人携前沿AI驱动解决方案,亮相NVIDIA GTC 2025,开创 AI协作机器人先河
    泰瑞达机器人及其合作伙伴在NVIDIA GTC 2025 技术大会上,共同推出全新的 AI 驱动机器人解决方案。作为全球开发者人工智能领域的盛会,GTC 2025 由NVIDIA主办,主要展示和交流人工智能、加速计算等前沿技术及应用的重要平台。此次发布标志着 AI加速器在商业可行应用中的首次公开演示。 泰瑞达机器人首席 AI 官James Davidson表示:“物理 AI 为机器人赋予了感知和响
    泰瑞达机器人携前沿AI驱动解决方案,亮相NVIDIA GTC 2025,开创 AI协作机器人先河
  • 独立Altera回归!AI时代FPGA如何继续远航?
    Altera从独立FPGA供应商,到被Intel收购,再到重新独立运营,FPGA市场已经经历了快速变化,不只是收购整合改变了原有竞争格局,市场、产业、应用领域的竞争也更加激烈。与此同时,AI也带来了新的机遇和挑战,FPGA赛道竞争激烈,不仅面临着传统FPGA对手的竞争,某些场景下还要和GPU、ASIC等芯片比拼加速计算能力。
  • 马斯克Grok 3和DeepSeek巅峰对决,如何重塑AI芯片战场?
    随着Grok 3的推出,AI大模型似乎迎来巅峰对决的时刻。Grok 3和DeepSeek不仅在技术上各具特色,更在应用场景和算力需求等方面展现出了各自的特色和潜力。一个是偏向于大算力的通用巨模型,一个是算法优化主导的高效模型范式,它们的发展和应用亦将深刻影响着未来的算力趋势和AI芯片的走向。
  • 更低成本、更高效率:英特尔Gaudi 2D面向DeepSeek优化
    DeepSeek发布Janus Pro模型,其超强性能和高精度引起业界关注。英特尔® Gaudi 2D AI加速器现已针对该模型进行优化,这使得AI开发者能够以更低成本、更高效率实现复杂任务的部署与优化。
  • 如何利用业界首发的超以太网和UALink IP,高效互连技术扩展HPC和AI加速器生态系统
    任何单个GPU、XPU或其他AI加速器都无法满足AI工作负载的巨大计算需求。为了满足这一需求,需要成千上万个,甚至不久的将来可能需要数十万个这样的加速器协同工作,共同分担处理负载。
    如何利用业界首发的超以太网和UALink IP,高效互连技术扩展HPC和AI加速器生态系统

正在努力加载...