请选择 进入手机版 | 继续访问电脑版

MLperf 30项性能第一 宁畅X640AI服务器拆机首测

[复制链接]
查看: 1740|回复: 0
avatar

630

主题

630

帖子

1920

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
1920
online_admin 发表于 2021-7-20 09:44:56 | 显示全部楼层 |阅读模式
无论是云计算、大数据,亦或是近两年兴起的人工智能,新一轮技术的发展均离不开算力作为支撑。以服务器为例,业务的发展对算力和IO读写能力都有着不小的要求,尤其是在深度学习和神经网络等领域,更对服务器提出了新的要求。

顺应AI时代需求,宁畅信息产业(北京)有限公司(以下简称“宁畅”)推出的X640 G30服务器,便是一款兼备训练与推理功能型的全能型GPU服务器。这款服务器采用双路英特尔至强可扩展处理器,支持多达8个训练GPU或16个推理GPU,专为高密度GPU计算提供全方位性能支持。还支持多种不同的GPU拓补结构,针对不同的应用和模型进行GPU互联优化,实现最高效的计算平台。



宁畅X640 G30 AI服务器
值得一提的是,不久之前,搭载NVIDIA T4/A100 GPU显卡的宁畅X640 G30在AI基准性能评测平台MLPerf的ResNet、BERT、DLRM等基准测试中取得30项世界第一的成绩。(注:MLPerf是用于衡量AI、边缘计算等设备性能的基准测试平台,由云服务厂商、OEM厂商、大学、软件公司等超14个组织、50余家知名IT企业共同驱动。该基准测试包括可代表生产级别的测试用例,测试结果在行业内具有较高权威性。



没错,这次的主角就是它!
而小编也是对宁畅这款X640 G30 AI服务器进行了一次深入测评,下面让我们看看其“内功”如何。X640 G30 AI服务器采用了4U机架式机箱,整体采用银白色设计,高、宽、深“三围”为175.5mm X 482mm X 793mm。从整体上来看,不论做工、还是用料、细节,均彰显出大厂品质,宁畅这家新创公司的家底看来很厚实。



整体采用银白色设计
宁畅X640 G30 AI服务器前面板为黑色系,电源键及宁畅logo位于前面板右上角,电源键下方是ID按键,前面板左上角则是两个USB 3.0接口和VGA接口。前面版的丰富接口,充分考虑了运维人员的工作场景,十分便捷,加分!



服务器前面板
将视线转移到机器背面板,可以很明显地看到大部分后面板都是密集的散热通道,4个电源接口,1个RJ-45管理端口,2个USB 3.0接口,两个LAN口和1个串口分布在下方。本次送测的服务器在实际评测过程中使用了1600W的电源,据官方介绍,宁畅X640 G30 AI服务器可选1600W或2000W CRPS高效白金电源,可选3+1冗余或者2+2冗余,电压范围100-240Vac,多种组合的冗余电源设计,充分考虑了不同配置AI服务器的负载情况,保障稳定性。



服务器后面板
宁畅X640 G30 AI服务器的接口组成很丰富。网络方面,宁畅X640 G30 AI板载集成千兆双口RJ45,可选万兆双口RJ45、25G双口光纤,万兆双口等多种网络接口,这样丰富的网口组合,保证了“道路”通常,让服务器性能可以全面发挥。

宁畅X640 G30 打开各个管理模块的方式十分便捷,还有图注。打开上部面板,首先看下总体做工,处理器、电源、风扇、GPU等各模块简洁明朗,同时线路收于一起,丝毫不显拖拉,设计、制造很到位。



人性化图示


内部结构
在风扇模块上,宁畅X640 G30 AI服务器采用了4个热插拔风扇模组,支持N+1冗余。



风扇模块
值得一提的是,除了支持传统风冷模组,宁畅X640 G30还支持“一体闭式循环液冷散热器”以及“分体式开环冷板液冷散热器”方案,不论多“猛”的GPU、CPU都可以镇住。

但目前小编手上的机器,风冷应该已足够了,小编暂时还未拿到装有液冷模块的机型,只能向厂家要张设计图,解解馋。


宁畅闭式/开式液冷散热方案设计图示(厂商提供)
小编手上的这台X640 G30,最吸引我的还是这8块NVIDIA Tesla T4。(8GPU卡交火的梦,这次算是圆了。)



NVIDIA Tesla T4
接下来就是最振奋人心的环节,小编将通过一系列测试软件来了解这款服务器的硬实力。

初次开机时,可以轻松进入BIOS界面为服务器安装操作系统。



开机时待宁畅Logo出现后可进入BIOS


BIOS界面
宁畅X640 G30 支持Microsoft Windows Server、Red Hat Enterprise Linux、SUSE Linux Enterprise Server、Ubuntu等多种操作系统,本次评测的环境为Windows Server 2019。

首先借助CPU-Z查看一下CPU基本信息。



服务器搭载英特尔至强金牌5220 CPU


CPU基本信息


CPU-Z得分
送评的宁畅X640 G30 AI服务器搭载的是两块Intel 至强金牌5220 CPU,14nm制程,主频2.2GHz,单个CPU 18核心36线程。使用CPU-Z测试,单核得分321.2分,多核得分7844.9分。

然后通过CineBench R20测试CPU性能,这也是一款饱受认可的跑分软件。



CineBench R20得分
可以看到,宁畅X640 G30 AI服务器在模拟测试中,跑出单核268cb,多核10930cb的得分,多核分数十分恐怖。

接下来的测试项目是利用SiSoftware Sandra Lite 2020对宁畅X64 G30 AI服务器的算数、多媒体、加密、内存带宽/延时等进行全方位测试。



SiSoftware Sandra Lite 2020测试结果
可以看到,在算数性能、多媒体性能、内存延时、内存带宽以及缓存及内存测试方面,宁畅X640 G30 AI服务器的成绩都可圈可点,位于行业前列。

接下来则是本次测试的重头戏:宁畅X640 G30 AI服务器的GPU性能。

首先让我们看看宁畅X64 G30 AI服务器搭载的NVIDIA Tesla T4 GPU的基本信息。



GPU信息
小编在这里也贴出T4与其他Tesla GPU的数据对比,以及搭载T4 GPU 的X640 G30在MLperf平台跑分结果,读者可以查看了解相关信息。



Tesla T4与其他Tesla GPU数据对比


3D-unit神经网络测试结果


ResNet50残差网络测试结果


BERT语言模型测试结果
各种模型测试结果太多,小编这里就不逐一贴出了。关于宁畅X640 G30 AI服务器的GPU配置,根据官方文档,针对训练应用,支持8个NVIDIA V100 Tensor Core GPU/NVIDIA Quadro RTX 6000/NVIDIA Quadro RTX 8000全速7*24h工作,而针对推理应用,支持16个NVIDIA Tensor Core GPU提供在线大数据处理。

上文中也提到了宁畅X640 G30 AI服务器在MLPerf中的不俗表现,最高可支持10张NVIDIA A100 PCIe卡或21张NVIDIA T4 PCIe卡。在搭载四个A100 GPU的情况下,在MLperf的Resnet50、SSD、RNN-T、BERT、DLRM等10项测试中分数值取得世界性能第一;搭载16个T4 GPU配置的情况下,X640 G30打破六项世界纪录。在搭载21个T4 GPU配置下,亦取得14项性能第一。
总结:

通过上述外观、内部设计及整体实际性能的综合测试,可以看到,宁畅X640 G30 AI服务器无论是在计算、内存、和GPU方面的表现都十分不俗。
可以预见到的是,如此的性能猛兽,在未来几年内均可为企业数字化转型提供源源不断的算力,而强大的GPU运算能力,灵活可配置的计算性能,丰富的扩展,则可以在AI的应用场景中大显身手,让企业迈向智能化的道路更为通畅。
此外,人性化的设计以及扎实的做工,也彰显出宁畅这家初创公司所具备的大厂实力,为批量交付产品,提供了全面保障。纵观行业内,宁畅X640 G30是款竞争力极强的产品,结合宁畅的定制化服务,相信能有不错的市场表现。
回复

使用道具 举报

高级模式
B Color Image Link Quote Code Smilies

本版积分规则

logo
  • 反馈建议:893566502@qq.com
  • 工作时间:周一到周五 10:00-19:00

关注我们

  • wx