Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

十次方消息:以 PCIe 挑战 NVLink 架构,Dell EMC 新款 GPU 服务器重装上场,同为 4U 尺寸的 GPU 服务器,DSS 8440 以搭配 10 张 PCIe 接口卡的方式,提供接近 8 个 SXM2 形式 GPU 的运算效能。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

今年 4 月底举行的 Dell Technologies World 期间,Dell EMC 新发布一款服务器 DSS 8440,号称是专为机器学习应用,以及其他需要顶级运算效能的工作负载而设计。

这台 2 路架构、搭配 4U 尺寸机箱的服务器,与我们三年前介绍的 DSS 7000 相比,体型、重量几乎完全一样,而且,同属 Dell EMC 的极大规模基础架构 (Extreme Scale Infrastructure,ESI) 产品线,但主打的特点是强大的运算效能,而非巨量储存空间。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

在 I/O 存取的部分,DSS 8440 配备了 4 个 PCIe 交换式集线器,提供高速 PCIe 交织网络,从扩充接口卡的配置来看,这台服务器能搭配多张加速卡,例如,在机箱的内部,可容纳 10 张双宽、全长尺寸的 GPU 加速卡 (目前可安装 4、8 或 10 张 Nvidia Tesla V100); 同时,机箱背部也预留 9 个 PCIe 插槽,可安装 8 张全高尺寸接口卡,以及 1 张半高尺寸的接口卡。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

另外,具有高性价比也是 DSS 8440 的主要诉求。相较于其他搭配 8 个 SXM2 形式 GPU、强调 NVLink 互连架构的 4U 尺寸服务器,搭配 10 张 PCI 接口卡形式 GPU 的 DSS 8440,号称能以更低成本提供相近的训练效能。

例如,以 HPE Apollo 6500 Gen10 为基准,DSS 8440 能在单一机箱搭配更多张 GPU 加速卡 (10 张 Tesla V100 PCIe vs. 8 个 Tesla V100 SXM2) ; 以相同的机箱密度而言,在 Tensor 运算效能上, DSS 8440 略胜一筹 (112 TFLOPS x10 vs. 125 TFLOPS x8) ; 从电源使用效率来看,DSS 8440 在常见的深度学习框架与卷积神经网络模型的训练上,每瓦效能也是领先一些 (幅度可达 13.5%)。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

若以 Nvidia 的 DGX-1 来对比,采用 PCIe 交织网络来建构 Nvidia GPU 互连架构的 DSS 8440,也可提供相当接近的机器学习效能 (差距在 5% 以内)。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

搭配 GPU 之余,DSS 8440 未来可望搭配其他运算加速器,因为在 Dell Technologies 大会上,Dell EMC 也与他们投资的 AI 运算加速新创公司 Graphcore,宣布共同合作,预计今年稍晚,将在 DSS 8440 开始搭售 Graphcore 提供的 C2 运算加速卡 (PCIe 接口)。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

Graphcore 所开发的部分,是专门针对机器学习且基于图学的运算技术,能够在训练类型的工作负载提供更高的效能,而 C2 里面采用的运算架构,有别于 CPU 与 GPU,称为智慧处理单元 (Intelligence Processing Unit,IPU),每颗处理器有 2432 颗独立的 IPU 核心,最高提供 2 PFLOPS,而芯片上的内存容量可配置到 4.8GB,内存频宽多达 720TB/s,而 IPU 之间的资料传输也搭配了名为 IPU-Links 高速信道,具有 2.5Tb/s 的频宽,能让 DSS 8440 装载的 8 张 IPU 加速卡连结起来,成为共享的运算资源池。

根据 Graphcore 在去年底公布的消息,在他们与 Dell EMC 的合作之下,将针对企业资料中心的环境,联合推出整合式应用设备 Dell-Graphcore IPU-Appliance,当中将包含 8 张 C2,而每张 C2 加速卡会有 2 颗 Colossus GC2 的 IPU 处理器,可同时执行 10 万支平行处理的应用程序,能为整台设备提供近于 1 PFLOPS 的运算效能。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

除了运算方面的规格,在储存的配置上,DSS 8440 最多能搭配 10 台 2.5 吋硬盘或固态硬盘 (2 台 NVMe、2 台 SAS/SATA、6 台 NVMe/SAS/SATA),都位于机箱的背部,以整台服务器而言,最大可提供 32TB 的储存空间。

Dell EMC 新款 GPU 服务器上场,为顶级运算效能工作负载而生

产品资讯

Dell EMC DSS 8440

●原厂:Dell EMC

●建议售价:厂商未提供

●机箱尺寸:4U(434 x 178 x 865 公厘)

●处理器:2 颗,Xeon Scalable 系列

●内存:24 个 DDR4 插槽,最大 768GB

●储存配置:10 台 2.5 吋硬盘 (2 台 NVMe、2 台 SAS/SATA、6 台 NVMe/SAS/SATA)

●支援 GPU 加速卡:10 张 Nvidia Tesla V100

●电源供应器:4 台 2400 瓦 (1+1 备援)