沈向洋院士谈AI算力：年均增400%，卡魂至深

2024年IDEA大会于11月22日在深圳举行，美国国家工程院外籍院士、IDEA研究院创院理事长沈向洋发表主题演讲，深入探讨人工智能领域的技术突破与产业融合。

沈向洋强调，在当前技术大爆发的时期，对技术的深度理解至关重要。他提出了人工智能“三件套”——算力、算法和数据——的最新见解。

在算力方面，沈向洋指出，未来十年AI的发展可能需要增长100万倍的算力，这一需求远超摩尔定律预言的100倍增长。他认为，英伟达已成为AI行业最成功的企业，其GPU产品在行业内具有举足轻重的地位。据EPOCH AI数据显示，每年最新的大模型对算力的需求都在以惊人的速度增长，年均增长率超过四倍。目前，全球已经消耗了超过1000万张GPU算力卡。

在算法方面，沈向洋认为，自2017年Transformer架构问世以来，AI、深度学习和大模型的发展主要沿着这一方向。但在GPT-4之后，我们看到了算法范式的新突破，如OpenAI推出的多模态GPT-4V和o1推理学习能力等。他认为，强化学习（Reinforcement Learning）的理念将为算法创新提供新方向。

在数据方面，沈向洋指出，大模型的蓬勃发展不仅依赖于参数规模的增长，还需要海量数据的支持。他以GPT系列为例，说明了数据规模的增长趋势。他强调，未来AI的进一步发展需要依靠合成数据，这可能催生新的百亿美元级创业机会。

沈向洋表示，IDEA研究院在郭院长的带领下，正在开展高质量训练数据的项目，为大模型提供新的“养分”。此外，IDEA团队还致力于解决私域数据安全孤岛问题，开发IDEA Data Maker技术，实现语境图谱和数据合成的结合。

在分享IDEA研究院近一年来的思考和实践时，沈向洋强调了大模型在AI For Science（科学智能）领域的重要性，并提出了AI治理问题。他认为，随着人工智能技术的发展，人类引以为傲的能力正在被AI超越。因此，我们需要认真思考AI的发展，从经济最大增长转化到人类的最大福祉。