江苏龙网

  1. 首页 > 人文 > >

一点前沿关科技A100，为下一代AI数据中心提供动力，NVIDIA安培DGX


一点前沿关科技A100，为下一代AI数据中心提供动力，NVIDIA安培DGX
文章图片
一点前沿关科技A100，为下一代AI数据中心提供动力，NVIDIA安培DGX
文章图片
一点前沿关科技A100，为下一代AI数据中心提供动力，NVIDIA安培DGX
文章图片
NVIDIA创始人兼首席执行官黄仁勋（JensenHuang）刚刚发表了GTC2020开幕主题演讲 ， 并透露了该公司的新AmpereGPU架构以及功能强大的机器学习服务器平台NVIDIADGXA100 ， 该平台旨在加速数据分析 ， AI培训和推理工作负载 。
NVIDIA称新发布的DGXA100为“适用于所有AI工作负载的世界上最先进的系统” ， 并声称一个由五个DGXA100系统组成的机架可以取代整个AI培训和以推理为中心的数据中心 ， 而成本仅为后者的1/10 。 使用1/20的功率和1/25的空间 。 可以肯定地说 ， 这些都是大胆的说法 ， 但是Ampere的A100似乎是一个巨大的飞跃 ， 相对于上一代产品 ， 它拥有大量的GPU资源 。
认识基于安培的NVIDIAA100
NVIDIADGXA100的核心是新的基于Ampere的A100GPU 。 NVIDIAA100是目前在尖端7nm半导体制造工艺中生产的最大的单个芯片 。 单个A100由大约540亿个晶体管组成 ， 并具有第三代Tensor内核以及NVLink和NVSwitch高速互连技术 。 与该公司的上一代Volta架构相比 ， NVIDIA宣称FP32（浮点）训练和Int8（整数）推理性能提高了20倍 ， 是FP64HPC性能的2.5倍 。 A100能够实现312TFLOPS的FP32性能 ， 1,248TOPS的Int8和19.5TFLOPS的FP64HPC吞吐量 。 NVIDIA的Ampere架构还针对稀疏的AITensorOps进行了优化 ， 与该公司用于机器学习应用程序的上一代VoltaGPU架构相比 ， 总体执行速度提高了2倍 。
NVIDIA还表示 ， A100GPU是该公司的第一个弹性多实例GPU 。 A100中的新技术使其可以为每个GPU支持七个实例 ， 根据工作负载的不同 ， 吞吐量最高可提高7倍 。 DGXA100中最多具有八个A100GPU ， 每个系统最多可以有56个实例 ， 这可以使NVIDIA的客户针对各种工作负载和用例优化计算能力和资源 。
NVIDIADGXA100第三代集成AI系统
Huang与A100GPU一起 ， 还推出了NVIDIA的新DGXA100服务器平台 。 DGXA100的基础是NVIDIAHDXA100集成底板 ， 该底板支持DGX的多GPU配置 。 NVIDIADGXA100包含八个完全连接的NVIDIAA100TensorCoreGPU ， 总共有320GB的高速HBM2内存 。 每个GPU有12个NVIDIANVLink ， 可提供高达600GB/s的GPU间带宽 。 所有这些GPU功能都可以通过六个NVIDIANVSwitch访问 ， 它们提供了巨大的4.8TB/s双向带宽 。
服务器中也有大量的Mellanox 。 板载八块用于群集的单端口MellanoxConnect-X6卡（峰值吞吐量为200GB/s） ， 一块用于数据/存储网络的双端口ConnectX-6和一块MellanoxConnectX-6VPIHDRInfiniBand/200GigEHCA 。 借助板上的多个超高速 ， 大规模并行处理器（例如Ampere） ， 您需要密集 ， 超快速的互连 。
NVIDIA创始人兼首席执行官黄仁勋表示：“NVIDIADGXA100是推进AI的终极工具 。 “NVIDIADGX是第一个为端到端机器学习工作流程而构建的AI系统-从数据分析到培训再到推理 。 借助新DGX的巨大性能飞跃 ， 机器学习工程师可以领先于AI模型和数据的指数级增长 。 ”
【一点前沿关科技A100，为下一代AI数据中心提供动力，NVIDIA安培DGX】NVIDIADGXA100最多提供10PetaOPS的Int8性能 ， 5PFLOPS的FP16、2.5PFLOPS的TF32和156TLOPS的FP64计算性能 。 为了更好地理解这一点 ， 具有16个GPU的上一代Volta驱动的DGX-2提供了“仅”2个PetaFLOPS的混合精度性能 。
进入NVIDIADGXSuperPOD–高度连接的DGXA100机架
通过将140个DGXA100系统与NVIDIAMellanoxHDR200GbpsInfiniBand互连相结合 ， NVIDIA构建了自己的DGXSuperPODAI超级计算机 ， 以处理对话AI ， 基因组学和自动驾驶等领域的高级AI研究工作量 。


推荐阅读


上一篇：盘点新现场最大敌人曝光，解开尼康未解之谜

下一篇：蓝天Brtm魅族和华为达成合作？快速构建鸿蒙HMS生态：打破谷歌垄断已成定