壁仞科技实现异构芯片混训技术

近日,我国AI芯片领军企业壁仞科技(Biren Technology)公布了一项重大技术突破——壁仞自主原创的异构GPU协同训练方案HGCT。该方案将于2024年全球AI芯片峰会上正式亮相,届时将揭示业界首次支持3种及以上异构GPU混合训练同一个大模型的技术奥秘。

壁仞科技副总裁、AI软件首席架构师丁云帆表示,HGCT方案能够实现一套统一方案支持多种不同型号、不同厂商的GPU,且兼容多种框架,异构协同通信效率高达98%,端到端训练效率可达90-95%。这不仅突破了大型模型异构算力孤岛的难题,也极大地推动了国产GPU与英伟达GPU的异构共存,助力国产GPU的落地迁移及国产大模型的发展。

此外,基于已落地的千卡算力集群和技术能力,壁仞科技还推出了BIRENSUPA生态方案。这一方案旨在基于开放的AI算力软件生态体系,赋能运营商、智算中心、大模型、能源、金融等领域,助力各领域的客户和开发者实现多种异构算力的聚合,提高异构GPU集群的利用效率。

对于我国AI芯片行业的发展,丁云帆认为,虽然面临技术密集型产业的市场考验和巨大的市场潜力,但仍需给予AI芯片企业足够的耐心和支持。他表示,芯片产业的成功离不开人才、资金和产业认知度的积累,需要攻克许多技术障碍,而市场也需要给予企业更多的机会去证明自身价值。

发表回复