AI性能未来加速，潜在风险待防范

近日，有关包括OpenAI、谷歌和Anthropic在内的顶级人工智能研究机构在先进AI模型开发过程中遭遇难题的传闻不胫而走。有报道指出，这些机构面临的挑战主要源于高质量训练数据的短缺，导致收益递减，进而使得继续投入资源面临挑战。对此，OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei均提出了不同的看法。

Altman在社交媒体上发布了一条信息，含蓄地表达了对“不存在极限”的信念，这显然是对外界负面报道的一种反击。Amodei也持有相似的乐观态度，尽管他承认众多因素可能阻碍AI的进步，但他相信总有途径可以突破这些障碍，其中包括利用合成数据进行研究。

值得注意的是，前谷歌CEO埃里克·施密特（Eric Schmidt）也对这一话题发表了个人见解。施密特预测，在未来五年内，大型语言模型预计将经历两到三次重大迭代。他指出，这些模型的性能正以前所未有的速度增长，目前尚无迹象显示这一增长势头将有所减缓。尽管最终可能会遇到瓶颈，但施密特认为，目前并未到达那个阶段。

施密特进一步指出，未来将出现更加先进和强大的AI模型，特别是在物理学和数学领域。他以OpenAI最新发布的Strawberry AI模型OpenAI-o1为例，说明这一趋势。然而，施密特也提出了警告，随着AI模型变得越来越先进，它们可能带来的潜在风险也在增加。他强调，这些原始模型在发起“零日攻击”方面可能比人类更加擅长。此外，生物病毒和新型战争也可能成为AI发展过程中带来的新威胁。