国产昇腾引领大模型赛道 性能超英伟达1.1倍

6月19日，据相关媒体报道，近日在一场备受瞩目的科技盛会上，江苏鲲鹏・昇腾生态创新中心的首席运营官王陶在讨论环节中强调了昇腾AI技术在大模型领域的领先地位。他表示，昇腾集群作为国内唯一完成训练千万亿参数级大模型的项目，其性能已超越了业界巨头英伟达的A100系列芯片。

王陶透露，中国范围内有大约50%的大模型项目选择采用昇腾技术路线，这反映出昇腾在计算效率上的显著优势。他进一步指出，昇腾AI芯片在训练效率上甚至可以达到英伟达A100的1.1倍，并在Meta Llama和BloomGPT等特定模型的训练中表现出“显著优于”英伟达的性能，领先于国内其他同类产品“约10倍”。

王陶乐观地评价说，昇腾已经成为国产大模型训练的首选方案。他举科大讯飞为例，他们采用了华为的万卡集群，相比于英伟达A100，其效率能提升到0.8到1.2倍，尽管与顶级产品仍存在一定的差距，但在大模型训练场景下，昇腾已经接近并能与A100抗衡。他还特别提到了华为全连接大会2023上发布的 Atlas 900 SuperCluster，这款新型的昇腾AI计算集群具备支持万亿参数大模型训练的能力，借助华为自主研发的星河AI智算交换机CloudEngine XH16800，实现了高效、大规模的网络连接。

这次分享显示了昇腾在推动国内人工智能技术进步中的关键角色，以及华为在高性能计算基础设施方面的持续投入和成果。随着昇腾技术的不断优化和应用，其在大模型训练领域的竞争力得到了业界的认可。