Azure H200 v5 AI虚拟机发布：性能大跃升
10月8日，微软在最新博文中宣布，面向广大客户及合作伙伴，正式推出全新的Azure H200 v5系列虚拟机。这一创新产品旨在满足企业不断增长的AI工作负载需求，助力客户更高效地利用微软AI服务，如Azure机器学习和Azure OpenAI服务。
微软在博文中强调，H200 v5系列虚拟机通过卓越的性能、高效能和扩展性，推动了客户与微软AI服务的广泛应用和落地。OpenAI基础设施负责人Trevor Cai也表示，OpenAI正在利用这一新的虚拟机系列加速研究和开发，并提升ChatGPT的用户体验。Cai表示：“我们对能采用Azure的新H200虚拟机感到非常高兴。我们的测试显示，H200在极小的迁移工作下就能提供更佳的性能，我们期待这些虚拟机能够加速我们的研究进度，提升ChatGPT的使用体验，并助力我们实现使命。”
Azure H200 v5系列虚拟机采用了微软的先进方案，实现了显著的效率和性能提升。该系列虚拟机配备了8颗英伟达H200 Tensor Core GPU，有效解决了企业在计算能力方面的难题。据微软官方新闻稿，Azure H200 v5系列虚拟机在运行LLAMA 3.1 405B模型推理工作负载时，吞吐量提升了35%。
此外，Azure ND H200 v5系列虚拟机提供最高141GB的HBM内存，相比上一代的H100 v5，内存容量提升了76%。带宽方面，也达到了4.8 TB/s，相比之前提高了43%。这些改进将为企业用户提供更为强大的AI计算能力，助力他们在AI领域取得突破。
