中国工程院院士邬贺铨谈AI大模型与算力利用率

在2024北京人工智能生态大会上,中国工程院院士邬贺铨强调,人工智能作为新质生产力的引擎,其发展仍需依靠大量投入。他提出,提升对物理世界的模拟能力是大模型发展的关键,而算力和数据则是推动这一进程的重要因素。根据我国信息通信研究院发布的数据,截至2023年,我国的算力中心机架总规模已超过810万标准机架,算力总规模达到230EFLOPS,在全球排名第二。然而,邬贺铨也指出,我国现有的算力枢纽利用率仍有待提高,通过集约优化可以有效缓解当前的算力需求。

他认为,我国拥有巨大的市场规模、丰富的数据资源和多样化的应用场景,这些都为人工智能技术的发展提供了巨大潜力。然而,当前的数据供给质量不高、流通机制不顺畅以及应用潜力未得到充分挖掘,这需要我们加快数据基础制度的建立,推动政府数据的共享和开放,以促进数据的流通和应用。

此外,邬贺铨还提出了一个观点,即在大模型领域,存在着规模化定律。模型的大小、数据集的大小以及用于训练的算力规模三者的乘积共同决定了模型的最佳效果。不受其他两者限制的情况下,模型的性能与这三个因素都呈现出幂律关系,因此,我们需要持续增加投入,才能获得最佳的效果。

发表回复