性能supermicro

NVIDIAV100TENSORCOREGPU世界上强大的GPUNVIDIAV100TensorCoreGPU是深度学习、机器学习、高性能计算(HPC)和图形计算的强力加速器.
V100TensorCoreGPU采用NVIDIAVolta架构,可在单个GPU中提供近32个CPU的性能,助力研究人员攻克以前无法应对的挑战.
V100已在业界首个AI基准测试MLPerf中拔得头筹,以出色的成绩证明了其是具有巨大可扩展性和通用性的当今世界上强大的计算平台.
规格V100PCleV100SXM2V100SPCleGPU架构NVIDIAVoltaNVIDIATensor核心数量640NVIDIACUDA核心数量5120双精度浮点运算性能7TFLOPS7.
8TFLOPS8.
2TFLOPS单精度浮点运算性能14TFLOPS15.
7TFLOPS16.
4TFLOPSTensor性能112TFLOPS125TFLOPS130TFLOPSGPU显存32GB或16GBHBM232GBHBM2显存带宽900GB/s1134GB/s纠错码支持互联带宽32GB/s300GB/s32GB/s系统接口PCIe3.
0NVIDIANVLinkPCIe3.
0外形尺寸PCIe全高/全长SXM2PCIe全高/全长最大功耗250瓦300瓦250瓦散热解决方案被动式计算APICUDA、DirectCompute、OpenCL、OpenACCNVIDIAV100|数据表|2020年1月高性能计算(HPC):1个V100服务器节点最多可以替代135个CPU服务器节点3MILhromaPU050150100替代的节点数135114对比CPU,相同吞吐量训练速度快32倍1020X50X40X10X30X性能以PU为标准1块NVIDIAV100PU32X1块NVIDIAV100PU020X50X40X10X30X性能以PU为标准相比使用CPU服务器,推理吞吐量高达24倍224X1ResNet-50训练,数据集:ImageNet2012,批量大小=256|NVIDIAV100比较数据:NVIDIADGX-2服务器,1块V100SXM3-32GB显卡,MXNet1.
5.
1,容器=19.
11-py3,混合精度,吞吐量:1525张图像/s|英特尔比较数据:SupermicroSYS-1029GQ-TRT,单路英特尔至强Gold6240处理器(2GHz/3.
9GHzTurbo频率),Tensorflow0.
18,FP32(唯一可用的精度),吞吐量:48张图像/s2BERTBase微调推理,数据集:SQuADv1.
1,批量大小=1,序列长度=128|NVIDIAV100比较数据:SupermicroSYS-4029GP-TRT,1块V100-PCIe-16GB显卡,预发布容器,混合精度,NVIDIATensorRT6.
0,吞吐量:557句/s|英特尔比较数据:单路英特尔至强Gold6240处理器(2.
6GHz/3.
9GHzTurbo频率),FP32(唯一可用的精度),OpenVINOMKL-DNNv0.
18,吞吐量:23.
5句/s3基于NVIDIAHGX-2的16块V100-SXM2-32GB显卡|应用(数据集):MILC(APEXMedium)和Chroma(szscl21_24_128)|CPU服务器:双路英特尔至强Platinum8280(CascadeLake)2020NVIDIACorporation.
保留所有权利.
NVIDIA、NVIDIA徽标、Volta、CUDA、NVLink、OpenACC、TensorRT、DGX、HGX和Pascal均为NVIDIACorporation在美国和其他国家或地区的商标或注册商标.
OpenCL为AppleInc.
的商标,并依据Apple授予KhronosGroupInc.
的许可权使用.
其他所有商标和版权均为其各自所有者的资产.
2020年1月如需详细了解NVIDIAV100TensorCoreGPU,请访问https://www.
nvidia.
cn/data-center/v100/突破性的创新VOLTA架构通过在一个统一架构内搭配使用CUDACore和TensorCore,配备V100GPU的单台服务器可以取代数百台通用CPU服务器,以处理传统的HPC和深度学习工作.
TENSORCORE技术V100配有640个TensorCore,可提供130teraFLOPS(TFLOPS)的深度学习性能.
与NVIDIAPascalGPU相比,可为深度学习训练提供12倍张量浮点运算性能,为深度学习推理提供6倍张量浮点运算性能.
新一代NVLINKV100中采用的NVIDIANVLink可提供两倍于上一代的吞吐量.
八块V100加速器能以每秒高达千兆字节(GB/s)的速度互联,从而发挥出单台服务器所能提供的极高应用性能.
HBM2显存V100将900GB/s的改良版原始带宽与高达95%的DRAM利用效率相结合,在STREAM上测量时可提供相较PascalGPU高达1.
5倍的显存带宽.
V100现提供32GB显存配置,比标准的16GB版增加一倍显存空间.
超强节能模式全新的最大节能模式可允许数据中心在现有的功耗预算内,使每个机架最高提升40%的计算能力.
在此模式下,V100以最大处理效率运行时,只需一半的功耗,即可提供高达80%的性能.
可编程性V100架构的设计初衷即是为了简化可编程性.
其全新的独立线程调度能力可实现细粒度同步,并能通过在琐碎的工作之间共享资源来提升GPU的利用率.
V100是NVIDIA数据中心平台在深度学习、HPC和图形领域的强大产品.
该平台可为600余款HPC应用和各大深度学习框架提供加速.
此平台适用于桌面、服务器以及云服务,不仅能显著提升性能,还能节省成本.
C各个深度学习框架600余款GPU加速应用HPCHPCAMBERAMBERANSYSFluentANSYSFluentHPCGAUSSIANGAUSSIANHPCGROMACSGROMACSHPCHPCLS-DYNALS-DYNANAMDNAMDHPCHPCOpenFOAMOpenFOAMHPCHPCSimuliaAbaqusSimuliaAbaqusVASPVASPHPCHPCWRFWRF