英伟达发布H200和GB200高性能AI芯片
11月19日,在全球超级计算领域备受关注的SC24大会上,英伟达发布了两款全新的AI硬件产品——H200 NVL PCIe GPU和GB200 NVL4超级芯片。这两款产品旨在满足市场需求,尤其是在电力限制和环境条件相对严格的机架环境中的高性能AI计算需求。
英伟达指出,当前约七成的企业级机架所能提供的电力供应不超过20kW,且普遍采用空气冷却系统。针对这一现状,英伟达推出了H200 NVL PCIe GPU,这款AI计算卡采用了相对低功耗的风冷冷却方式,专为电力和冷却资源有限的机架环境设计。
H200 NVL GPU采用双槽设计,其最高功耗从H200 SXM的700W降低至600W,尽管在算力上有所下降(如INT8 Tensor Core算力下降约15.6%),但其HBM内存容量和带宽依然保持在141GB、4.8TB/s的水平。此外,H200 NVL PCIe GPU还支持双路或四路的900GB/s NVLink桥接器互联,极大地提升了数据传输效率。
英伟达强调,H200 NVL的内存容量是前代H100 NVL的1.5倍,带宽增加了1.2倍,AI推理性能提升了1.7倍,在HPC(高性能计算)领域的表现也提升了30%。
同时,英伟达还推出了面向单服务器解决方案的GB200 NVL4超级芯片。这款超级芯片集成了2个Grace CPU和4个Blackwell GPU,HBM内存池容量达到了1.3TB,相当于两套GB200 Grace Blackwell超级芯片的组合。不过,整体功耗也随之提升至5.4kW。
与上代GH200 NVL4系统相比,新的GB200 NVL4超级芯片在模拟性能上提升了2.2倍,AI训练性能和AI推理性能分别提升了1.8倍。据悉,GB200 NVL4超级芯片预计将于2025年下半年正式上市。