英伟达DGX H100发售 AI算力高达每秒3.2亿亿次

2023-05-09 

科技】近日,英伟达正式宣布,旗下最新款超级计算机DGX H100开始发售。

英伟达表示,日本、厄瓜多和瑞典客户都将采用NVIDIA DGX H100系统,如AI工厂的生产数据,创建提供金融、医疗、法律、IT和电信产业等基于AI洞见的服务,并致力协助产业转型。比如,可以预测工厂设备老化程度,以提升效率。

英伟达指出,DGX H100系统非常适用于AI领域的创新公司。伦敦和纽约的Scissero使用GPT驱动的聊天机器人提高法律流程效率,Scissero GPT可起草法律文件,产生报告并做研究。德国DeepL使用多个DGX H100系统扩展提供客户几十种语言翻译服务,包括日本最大出版社Nikkei。

同时,DGX H100系统也能促进医疗保健并改善疗效。比如DGX H100已经成为东京Tokyo-1超级电脑的一部分,模拟加速药物开发。日本最大企业之一的三井物产株式会社于2021年11月成立的新创AI公司Xeureka也采用了DGX H100系统。德国、以色列和美国医院和学术医疗机构都是DGX H100系统首批用户。

DGX H100系统搭载了8个最新的NVIDIA H100 GPU, 该GPU基于台积电4nm工艺,CoWoS 2.5D晶圆级封装,单个芯片集成了多达800亿个晶体管(比上一代A100多了260亿个),号称世界上最先进的芯片。这8个 H100 GPU通过NVIDIA NVLink技术互连,再搭配两颗PCIe 5.0 CPU处理器,可拥有总计6400亿个晶体管、640GB HBM3显存、24TB/s显存带宽。

性能方面,DGX H100系统的AI算力高达32PFlops每秒3.2亿亿次,浮点算力FP64 480TFlops每秒480万亿次,FP16 1.6PFlops每秒1.6千万亿次,FP8 3.2PFlops每秒3.2千亿次,分别是上代DGX A100的3倍、3倍、6倍,而且新增支持网络内计算,性能可达3.6TFlops。

DGX H100系统在NVIDIA Base Command上运行,后者是加速运算、储存和网络基础设施并最佳化 AI 负载的套件。DGX H100系统还包括NVIDIA AI Enterprise软件,可加速数据科学流程,并简化生成式AI、计算机视觉等开发部署。DGX H100平台还具高效能和高效率特性,与上一代的DGX A100相比,DGX H100每petaflop运算力的能源效率提高了原来的2倍。

另外,使用400 Gbps超低延迟的NVIDIA Quantum InfiniBand还可将数百个DGX H100节点连线一台AI超级电脑。

值得一提的是,为了让更多的中小企业用得起DGX H100系统,NVIDIA此前还推出了云端人工智能专用的NVIDIA DGX AI超级计算集群DGX Cloud。

分享到:
收藏
相关阅读