IBM与AMD合作,推出MI300X加速器明年服务
IBM近日宣布与AMD携手,计划在IBM Cloud平台上推出AMD Instinct™ MI300X加速器服务(加速器即服务)。这一创新服务预计将于2025年上半年正式上线,旨在显著提升企业客户在生成式AI模型和高性能计算(HPC)领域的性能表现和能源效率。
IBM强调,此次合作将使公司的watsonx AI与数据平台以及Red Hat Enterprise Linux(RHEL)发行版的AI推理功能得到MI300X加速器的深度整合。IBM Cloud将提供MI300X加速器,助力企业客户高效应对计算密集型工作负载。
据IBM方面透露,MI300X加速器搭载了192GB高带宽内存(HBM3),专为大型模型的推理和微调而设计。此举旨在帮助企业以更少的GPU资源运行更大规模的模型,从而有效降低推理成本。双方还将充分利用IBM Cloud在安全性和合规性方面的优势,为各行业的企业客户提供全面支持,尤其针对那些面临严格监管要求的企业。