跳至正文

昇腾AI性能超越英伟达A100,助力我国半数大模型发展

近日,在2024世界半导体大会暨南京国际半导体博览会的分论坛上,江苏鲲鹏·昇腾生态创新中心首席运营官王陶透露,昇腾集群已成功训练出我国首个千亿参数级别的大模型,其性能已超越英伟达A100,成为国内唯一完成这一壮举的技术路线。据了解,我国在大模型领域约有50%的项目选择使用昇腾技术。此外,昇腾AI芯片在训练效率方面表现突出,最高可达英伟达A100的1.1倍,尤其在训练Meta Llama、BloomGPT等模型时,昇腾AI的算力训练效率远胜其他国产厂商,甚至领先于英伟达A100达10倍之多。因此,昇腾芯片已成为我国在大模型训练方面的首选。

据王陶介绍,经过测试,我国知名语音助手科大讯飞也已经采用华为的万卡集群,其与英伟达A100相比能达到0.8~1.2倍的效率。虽然与英伟达A100的0.8倍效率仍有一定的差距,但在大模型训练领域已具备相当的实力。特别是万卡算力集群的应用场景,如鲲鹏云脑、科大讯飞等方面,都已得到市场的验证。

去年9月,华为正式发布全新架构的昇腾AI计算集群——Atlas 900 SuperCluster,该集群可支持超万亿参数的大模型训练。通过采用华为星河AI智算交换机CloudEngine XH16800以及高密度的800GE端口,两层交换网络实现了2250节点(相当于18000张卡)的超大规模无收敛集群组网。这一突破性的技术成果将为我国大模型领域的发展带来新的机遇。

发表回复