澎峰科技

4月16日，澎峰科技正式对外发布CA100智能计算一体机产品，CA100智能计算一体机是面向高性能计算、AI大模型训练、AI大模型推理等场景的一体化计算解决方案产品。

随着人工智能技术的飞速发展，GPU（图形处理器）芯片已成为科技领域的核心竞争力。英伟达（NVIDIA）以其卓越的性能和全面的CUDA生态系统长期占据市场主导地位。然而，美国政府对英伟达高端AI芯片实施的出口限制为国产GPU厂商带来了新的发展机遇，特别是华为的昇腾910B芯片，这标志着国产GPU在国际舞台上的崛起。

4月2日上午9:00，中科曙光在长沙围绕“立体计算 • 释放新质生产力”举办发布仪式，作为业界领先的智能算力云服务商，澎峰科技受邀参与。

近日，澎峰科技（PerfXLab）完成新一轮数千万人民币的融资，本轮融资由华强资本独家投资，天风证券担任财务顾问。本轮融资将主要用于研发应用于大模型AI、科学计算和工程计算的软硬融合算力解决方案产品，为我国数字化转型升级打造智慧底座，同时确立公司在加速计算领域的国际领先地位。 澎峰科技（PerfXLab）核心团队来自于中科院，于2016年在北京成立，致力于计算软件栈技术的研发，聚焦高性能计算、人工

自从2020年6月OpenAI发布chatGPT之后，基于Transformer网络结构的语言大模型（LLM）引发了全世界的注意与追捧，成为了人工智能领域的里程碑事件。但大模型推理所需要的巨额开销也引发了相关研究者的关注。如何高效地进行推理，并尽可能地减少成本，从而促进大模型应用的落地成为了目前的关键问题。于是，澎峰科技研发了一款大模型推理引擎—PerfXLLM，并且已经在高通的骁龙8Gen2平台实现了应用。接下来将分为四个部分进行介绍，第一部分将介绍PerfXLLM的整体架构设计，第二部分将展示手机端的性能表现，第三部分将详细地阐述手机端的推理优化方案，最后在第四部分将介绍PerfXLLM的未来规划。