昇腾AI性能超越英伟达A100，助力我国半数大模型发展

近日，在2024世界半导体大会暨南京国际半导体博览会的分论坛上，江苏鲲鹏·昇腾生态创新中心首席运营官王陶透露，昇腾集群已成功训练出我国首个千亿参数级别的大模型，其性能已超越英伟达A100，成为国内唯一完成这一壮举的技术路线。据了解，我国在大模型领域约有50%的项目选择使用昇腾技术。此外，昇腾AI芯片在训练效率方面表现突出，最高可达英伟达A100的1.1倍，尤其在训练Meta Llama、BloomGPT等模型时，昇腾AI的算力训练效率远胜其他国产厂商，甚至领先于英伟达A100达10倍之多。因此，昇腾芯片已成为我国在大模型训练方面的首选。

据王陶介绍，经过测试，我国知名语音助手科大讯飞也已经采用华为的万卡集群，其与英伟达A100相比能达到0.8~1.2倍的效率。虽然与英伟达A100的0.8倍效率仍有一定的差距，但在大模型训练领域已具备相当的实力。特别是万卡算力集群的应用场景，如鲲鹏云脑、科大讯飞等方面，都已得到市场的验证。

去年9月，华为正式发布全新架构的昇腾AI计算集群——Atlas 900 SuperCluster，该集群可支持超万亿参数的大模型训练。通过采用华为星河AI智算交换机CloudEngine XH16800以及高密度的800GE端口，两层交换网络实现了2250节点（相当于18000张卡）的超大规模无收敛集群组网。这一突破性的技术成果将为我国大模型领域的发展带来新的机遇。