什么是数据处理单元为什么要关心
随着Nvidia Corp.的GPU技术大会在星期一开始,最有趣的产品公告之一是引入了数据处理单元,也称为DPU。
英伟达被公认为图形处理单元的市场领导者,并且最近宣布了计划收购Arm Ltd.的计划,以转移到中央处理单元或CPU中。现在,它正在推销称为DOCA或片上数据中心的产品,该体系结构可提高数据中心网络,安全性和存储的性能。
关于DPU的一种简单思考方法是,它已经增强了网络接口卡或NIC的性能,可以执行服务器上CPU所执行的许多任务-SmartNIC,如VMware Inc.在与Nvidia的公告中所说的那样。上个星期。 通过卸载这些功能,服务器可以处理更多的裸机,虚拟或容器化工作负载。 在传统体系结构中,NIC处理基本的网络功能,而服务器上的CPU执行诸如基础结构管理以及软件定义的存储,安全性和网络等任务。
借助DPU,Nvidia已采用了Mellanox NIC,并在其中加载了芯片和软件以提高服务器性能。在GTC上,Nvidia宣布了两种DPU:
BlueField-2 DPU是具有ARM内核的Mellanox ConnectX-6 DX SmartNIC。 “卡”(实际上是板上的服务器)是完全可编程的,具有每秒200 GB的数据传输速率,并加速了网络,安全和存储功能,例如分段,根信任,密钥管理,RDMA / RoCE,块存储和压缩。
BlueField-2X是Bluefield-2,但上面装有Nvidia的用于人工智能目的的Ampere GPU。
英伟达企业计算部门负责人Manuvir Das在与分析师的会前电话会议中做出了一个大胆的预测,即“每台运入数据中心的服务器”都将装有DPU。 尽管 我认为这种说法有点激进,但我确实认为DPU会获得很大的吸引力。
基本的BlueField非常适合具有高密度虚拟机或容器的服务器。 BlueField-2X是更有趣的产品,因为它可以大大提高执行AI任务的服务器。 实时的安全分析是其中一项低落的水果用例,其中的AI用于识别可能表明违规的异常流量。 使用AI和DPU,可以以线速完成该任务,从而限制了安全事件的影响。
具有额外处理功能的NIC并不是真正的概念,但是Nvidia的时机很好。 对于那些已经从事该行业一段时间的人来说,可能还记得带有嵌入式防火墙的3Com NIC或Chelsio和Intel TOE(TCP卸载引擎),它们改善了卡上的网络处理能力。 这些是DPU的早期版本,惨遭失败。 这次有什么不同?
过去,我曾经认为TOE和类似的其他产品是个好主意,但在某种程度上却是解决问题的解决方案。 十年前,平均服务器利用率不到40%,因此,当服务器甚至没有接近极限时,没有太多理由从服务器上卸载处理。
如今,情况并非如此,因为虚拟化和容器已将服务器推向极限。实际上,与我交谈过的许多企业都在升级之前将服务器利用率推高到90%。 更换服务器可能会造成很大的破坏,并可能导致不必要的停机,因此公司会尽可能地将其淘汰。放下这些DPU之一可以将服务器的寿命延长数月甚至数年。
由AI驱动的另一个因素推动了对更快计算的需求。 Nvidia首席执行官Jensen Huang在GTC主题演讲中指出,“人工智能的并行度大大提高,而计算密集度则提高了数千到数百万倍。开发软件的方法不同。计算基础架构是不同的。工具不同。软件运行方式不同,甚至部署方法也不同。人工智能需要彻底改造计算堆栈。” DPU通过将资源移出服务器来使计算堆栈发生变化,从而使服务器可以执行其设计要执行的更多工作。
使我相信DPU可以保留的因素是生态系统支持。上周在VMWorld上,VMware宣布将在其Cloud Foundation中使用DPU。除VMware外,Red Hat,Canonical和Check Point Software还宣布了对DPU的支持。另外,包括戴尔,华硕,联想和超微在内的许多服务器制造商将把Nvidia DPU集成到他们的系统中。
进入数据中心的任何技术都必须具有强大的生态系统,因为它需要与许多其他组件一起工作。 最初的类似显卡浪潮实际上没有第三方支持,但Nvidia BlueField似乎有很多支持。
大小公司的信息技术专业人士都担心要从已经花费的美元中挤出更多资金。 今天的服务器所执行的工作负载比几年前要处理得多。 DPU可以为那些相同的服务器提供急需的性能提升,从而使企业进入AI时代。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
合创汽车试驾预约,快速通道开启豪华体验。即刻预约,享受专属试驾服务,感受智能科技与极致设计的完美融合。...浏览全文>>
-
零跑C16试驾全攻略:零跑C16是一款集智能、空间与性价比于一身的中型SUV。试驾前建议关注其智能座舱系统,支持...浏览全文>>
-
万象汽车试驾,轻松搞定试驾。只需几步,即可预约专属试驾体验。登录官网或APP,选择心仪车型,填写基本信息,...浏览全文>>
-
试驾极氪001前,新手需做好以下准备:首先,提前预约试驾时间,了解车型配置与功能;其次,检查驾驶证、身份证...浏览全文>>
-
职业教育的传承与价值,需在时代发展的逻辑中发展,在技术进步的潮流中进步。二十载的光阴更迭,坚守是优路教...浏览全文>>
-
试驾五菱凯捷可以通过以下几种常见途径进行:1 到店预约试驾 消费者可以前往当地的五菱4S店或授权经销商,...浏览全文>>
-
大力牛魔王试驾全攻略试驾一款新车,尤其是像“大力牛魔王”这样充满科技感的电动车型,需要提前做好充分准备...浏览全文>>
-
想要快速锁定北汽雷驰的试驾名额,您可以采取以下步骤:首先,提前了解北汽雷驰的试驾活动安排。通常品牌会在...浏览全文>>
-
试驾零跑汽车零跑C01,感受其带来的豪华驾乘与卓越性能。这款车型以科技感和舒适性为核心卖点,为用户带来全新...浏览全文>>
-
试驾小鹏P7+是一次令人愉悦的体验,从踏入4S店的那一刻起,就感受到无微不至的服务。工作人员热情迎接,并详细...浏览全文>>
- 合创汽车试驾预约,快速通道开启豪华体验
- 北汽雷驰试驾预约如何快速锁定试驾名额?
- 坦克试驾,开启完美驾驭之旅
- 零跑汽车试驾,如何在4S店快速预约?
- 昌河北斗星X5试驾,简单几步,开启完美试驾之旅
- 大众预约试驾如何快速锁定试驾名额?
- 试驾奔驰迈巴赫S级预约流程
- 极氪007试驾预约预约流程
- 试驾极氪009怎么预约
- 试驾深蓝S05的流程是什么
- 极狐 阿尔法S(ARCFOX αS)试驾,从咨询到试驾的完整体验
- 奔驰预约试驾,轻松几步,畅享豪华驾乘
- 奇瑞新能源试驾,体验极致驾驶乐趣
- 试驾本田雅阁,轻松搞定试驾流程
- Polestar极星试驾,从咨询到试驾的完整体验
- 北汽雷驰预约试驾需要哪些条件
- 捷途旅行者预约试驾,开启完美驾驭之旅
- 荣威预约试驾全攻略
- 山西二本综合院校排名及分数线一览表
- 300分能上的公办专科大学排名一览表