性价比高的手机排行榜前十名DPU在数据中心上位

性价比高的手机排行榜前十名DPU在数据中心上位

AI、5G和云计算技术的飞速发展正重塑世界,数据中心作为这些技术的基石,在数字化转型中扮演着关键角色。面对挑战,传统的CPU和GPU已无法满足快速变化的应用需求,而性能更强大、更专用、异构特点更加突出的芯片才是数据中心所需。

科技巨头们已经看到了这一趋势,他们通过收购或自研掌握了更多类型的芯片。例如,英伟达先是在去年十月发布了BlueField-2,这是DPU(Data Processing Unit)的第一代。而今年4月,英伟达CEO黄仁勋在GTC 21上宣布将其数据中心策略升级为GPU+CPU+DPU,并推出了基于Arm架构的自研CPUGrace。

那么,DPU又是什么?为什么它能在数据中心“上位”?

首先,我们需要理解DPU价值前提下了解为什么我们需要DPU。黄仁勋曾指出,当下的软件定义数据中心虽然灵活,但也带来了巨大的负担,因为它们消耗20%-30%的CPU核数。这就是为什么我们需要一种新的处理器——DPU。

或者说,以往以CPU为中心的架构已不能满足市场与应用需求,以数据为核心才能更好地满足市场和应用需求。英伟达网络事业部亚太区市场开发高级总监宋庆春表示:“以前计算规模和数据量没那么大,冯诺依曼架构很好地解决了提高计算性能的问题,但随着数据量越来越大,以及AI技术发展,其传统计算模型会造成网络拥塞。”

以数据为中心意味着可以根据业务在哪里进行计算。在这种新架构中,可以解决网络传输中的瓶颈问题或丢包问题,从而提升性能。例如,一次通信延时从30-40微秒降低到3-4秒,有10倍提升。

具体来说,英伟达DPU是一种SoC,它集成了三个关键要素:

行业标准、高性能及可编程多核CPU通常基于广泛使用的大众Arm架构,与SoC组件紧密配合。

高性能网络接口,可以以线速或网络速度解析并处理数据,将其高效地传输到GPU和CPU。

多种灵活且可编程加速引擎,可以卸载AI、机器学习、安全性、电信以及存储等应用并提升性能。

因此,DPU既有针对安全性、网络、高存储能力以及AI等领域提供加速功能,也具有实现以前难以或无法实现功能的一层价值。此外,还能够减少之前由CPU完成所有操作所需内核数量,同时提高效率,比如OVS(Open vSwitch)可以卸载到DPU运行,不仅能提升效率还能实现业务隔离。

例如,在云场景下,与VMWare合作开发Monterey项目,即把一些Hypervisor里的功能卸载到DPUS上,如防火墙管理等,这样就可以完全隔离业务与基础设施操作,同时保证高安全性并保持裸金属业务性能。而与RedHat合作也证明了采用DPUs运行Hypervisor/OVS/容器操作,即使不占用任何一块物理网卡,也能实现100G甚至200G全线速,并释放出全部给业务使用。

那么如何衡量这个提升呢?

UCloud技术专家马彦青表示,“我们最初选择DPUs,是因为遇到了传统服务器带宽瓶颈,我们想解决这个问题同时降低成本。”借助DPUs及其匹配软件栈DOCA,UCloud获得了一系列显著改进效果:

原来的VPC管理集群由四台服务器组成,每个小集群都存在成本挑战;现在将VPC管理集成至DPUs内部,大幅提高转发效率。此外,由于网卡升级至25G后,又进一步提高了带宽表现,使得原本10G网卡现今达到25G带宽水平,无论是在大规模N对N任务还是金融服务行业,都显示出了显著优势,为客户节省资源避免浪费,同时维护成本亦有所减轻。

此外,对于存储方面,由于本地盘容易出现坏盘或掉磁碟盘维护麻烦,而且恢复丢失资料困难;而采用RSSD云盘后,可享受分钟级交付运维简化磁盘按需使用故障迁移快速执行三副本增强安全性。此外,在深度包检测方面借助BlueField-2测试结果表明相比软件版Hyperscan速度快3.5倍,加密解密过程同样能够通过硬件引擎高速完成,如SSL/TLS加密算法IPSec封装均可优化体验,使得整体系统运行更加稳定高效。

最终目标是实现一张卡两种模式虚拟化裸金属共存,而探索InfiniBand网络支持加快AI及超算能力也是未来方向之一,这一切都建立在持续更新完善英伟达硬件以及DOCA软件栈之上的道路上,其中DOCA1.0正式版已发布,为用户提供了一套完整工具链协助开发者最大程度利用DPUs潜力,让他们能够更有效率,更安全,更低延迟提供服务。这无疑让云原生超级电脑迅速融入我们的日常生活中,用一种新的方式展现出算力的力量。