当前,随着数据中心流量的不断增加,数据中心内部的流量被称为横向流量,现在年负荷增长率在 25%以上,给数据中心带来巨大的压力,数据中心正在面临联网危机。随着 SDN 在的增加,云服务器会在 CPU 和软件中使用很多 SDN 功能。随着网络数据爆炸式增长,额外的非应用级处理工作涌入云数据中心服务器,从而耗费更多 CPU 资源。对于云服务供应商,需要这样的计算能力支持其商业活动;对于公有云,需要把这些资源出售给客户进行变现;而边缘的一级云服务提供商,例如:亚马逊、微软,在很多年以前就已经意识到了这个问题,并从服务器上卸载联网功能,把他们转移到 SmartNIC 上来解决。

 

现在超过 80%的云服务供应商只有传统的 NIC,还没有 SmartNIC,只能继续在软件上运行联网功能。其实并不是这些云服务供应商没有遇到微软和亚马逊所面临的问题,而是很难凭一己之力采用 SmartNIC。亚马逊和微软有雄厚的研发资源,能够自行设计测试做大规模的部署,小型云服务供应商,尤其是二级和三级云服务商没有强大的研发团队,也没有专门的工程技术和能力部署自己的解决方案,所以他们更需要开箱即用的解决方案能够符合即插即入的标准,无需自行开发就能够实现卸载的优势。

 

左:赛灵思大中华区销售副总裁唐晓蕾(Maria Tang)

右:赛灵思数据中心事业部产品及平台营销副总裁 Donna Yasay

 

为了满足云服务提供商、电信公司和私有云数据中心运营商的需求,赛灵思推出了业界首款“一体化 SmartNIC 平台”— Alveo U25。赛灵思数据中心事业部产品及平台营销副总裁 Donna Yasay 向与非网介绍,“U25 将高度优化的 SmartNIC 平台与强大灵活的 FPGA 引擎相结合,实现了全可编程与一站式加速应用。U25 为应对业界最具挑战性的需求与工作负载如 SDN、虚拟交换、NFV、NVMe-oF、电子交易、AI 推断、视频转码和数据分析等,提供了一个强大的一体化 SmartNIC 平台。”

 

市场调研机构 Dell’Oro 集团预测,到 2024 年,SmartNIC 市场规模将超过 6 亿美元,占据全球以太网适配器市场的 23%。随着云服务提供商的纵向扩容,他们正在不断增加 SmartNIC 的部署,以便为业务应用释放宝贵的 CPU 核,优化服务器利用率。而电信服务提供商则是另一大具有强劲增长潜力的市场,他们正考虑将 SmartNIC 从核心网集成到边缘网,为 NFV 和 AI 推断等应用提供服务。

 

平台化的技术优势

赛灵思为什么把 Alveo U25 称为首个一体化的 SmartNIC 平台?在采访中,Donna 向与非网解释,“其它方案只关注联网或存储,Alveo U25 融合了联网、存储,又加上了计算加速的功能。从这个角度来讲,确实是首个在一张卡上实现计算、存储和联网卸载的加速平台。U25 基于赛灵思的 FPGA 技术,具有灵活性和全可编程性,可以支持 FPGA 用户级编程特征。除此之外,赛灵思为客户提供一个完全经过测试并且验证的比特文件,能够上载到卡片的启动,并且能够符合标准的行业 API。所以这张卡能够无缝地卸载并且加速服务器的联网、存储、计算,而不需要做任何额外的编程。我们还基于 OVS 标准推出一站式的应用来支持虚拟交换、卸载加速,未来推出更多一站式的应用,比如 IPSEC、加密卸载、SSL 等。”

 

Alveo U25

 

赛灵思大中华区销售副总裁唐晓蕾也表示,“对于板卡,用户认为只是一个部件,但是赛灵思在数据中心不仅提供加速计算,未来越来越多向平台方向发展,扮演越来越重要的角色。”

 

关于 Alveo U25 的技术优势,Donna 介绍,依托于赛灵思业界领先的 FPGA 技术,Alveo U25 SmartNIC 平台相比基于 SoC 的 NIC,可以提供更高的吞吐量和更强大的灵活应变引擎,支持云架构师快速为多种类型的功能与应用提速。U25 SmartNIC 平台支持“bump-in-the-wire (线缆内的块)”式无缝嵌入网络、存储和计算卸载及加速功能,可以避免不必要的数据传输和 CPU 处理,从而最大限度提高效率。而这也显著降低了 CPU 的负担并释放更多资源,以运行更多应用。嵌入式 ARM 处理器提供了独特、关键的控制层处理功能,可以支持新兴的裸机服务器用例。基本型 NIC 可提供超高吞吐量、小数据包性能与低时延。标准型全功能 NIC 解决方案与驱动程序采用获得专利的 Onload 应用加速软件,时延降幅高达 80%,并且在云应用中为基于传输控制协议( TCP )的服务器应用提高了效率 --- 最高可达 400%。

 

U25 所提供的首个开箱即用型加速应用是对 Open vSwitch ( OVS )卸载与加速的支持。这个即插即用型解决方案将从服务器卸载 90% 以上的 OVS 处理,从而将数据包吞吐量提升 5 倍以上。未来,赛灵思还计划推出针对安全功能的一站式解决方案,这些安全功能诸如 IPSec、SSL/TLS、AES-256/128,同时还有分布式防火墙和 AI 推断。

 

软硬件平台化协同助力客户节约成本

用户在服务器上把工作卸载下来并且高效的在一个 SmartNIC 平台上去运行,这意味着完成同样工作量时,所需要的服务器数量减少,硬件成本减少,大大降低云服务提供商的支出成本,从资本支出来看,采购设备的成本由于所需要服务器的数量减少而下降。另外,数据中心功耗也能够降低,从而节约运营成本。另外,一站式的应用帮助之前 80%无法使用 SmartNIC 的云服务供应商,扩展 SmartNIC 的能力。

 

Alveo U25 SmartNIC 平台在性能上兼具了 GPU 和联网处理器两者的优势,是否会带来价格上升,给云服务商带来更大成本压力?Donna 认为,“这款产品能够很好地融合联网和计算,我觉得能够为客户创造很多价值,节约很多成本。如果用户做扩展处理的话,他们可能需要用到很多微服务器,因此旧的服务器就没有办法用了,只能买新的。但是现在采用这个平台,就可以保住现有的基础设施,如果重新购买,花三分之一的成本就可以满足很多新的要求。”

 

目前,数据中心的客户也在转型,从原来的平台产品转向结合了云服务、智能计算的服务型产品,这些转型对基础硬件架构提出新的需求。Donna 表示,“现在数据中心确实有很多物联网和计算应用,正在改变整个行业,为了跟上技术的需求,软件编程也必须做到简单易用,给客户提供一站式平台。以前,FPGA 编程确实非常困难,必须是专业人士才能够做到代码级编程工作,但是现在新的 FPGA 编程非常容易,而且和 CPU 的语言类似,所以整个行业的应用都在发生转型,尽可能满足客户的需求。”

 

去年,赛灵思发布了 Vitis 软件平台,Vitis 和 Alveo U25 将如何进行结合?唐晓蕾表示,“Vitis 统一软件平台和 U25 以及所有的 Alveo 卡可以有机结合。Alveo U25 SmartNIC 平台实现了一站式加速应用,可以助力非一级云数据中心运营商更加方便地部署 SmartNIC 并迅速收获成效;U25 SmartNIC 还支持赛灵思和独立软件提供商 (ISV)提供的一站式应用。其编程模型既支持 HLS 和 P4 等高级网络编程抽象,也支持 Vitis 统一软件平台等计算加速框架,以便实现赛灵思和第三方所提供的加速应用。我们之所以要做平台化产品,是因为平台化涉及很广,无论 SaaS、FaaS 或 OS 支持要求都很高,我们希望通过 Vitis 软件平台加上 U25 硬件平台相结合,让企业在数据加速方面更快面向市场,解决以前 FPGA 的开发门槛问题。而在数据中心里,随着应用场景和新客户的不断扩展,我们必须要做硬件软件协同,才能保障客户群体的利益。”