AI巨头面临挑战：数据稀缺成本高
11月13日，业界传来消息，包括OpenAI、谷歌和Anthropic在内的一批人工智能领军企业，在追求更高级AI模型的过程中遭遇了技术瓶颈，面临“收益递减”的挑战。据悉，OpenAI最新推出的模型Orion在处理编码任务时，其表现并未显著超越GPT-4；谷歌即将发布的Gemini软件也遭遇了类似难题。此外，Anthropic原本计划推出的Claude 3.5 Opus模型也推迟了发布时间。专家分析，这些挑战主要源于难以获取“全新、高质量的人类生成训练数据”，以及开发和运营新旧模型所需的高昂成本。
长期以来，硅谷普遍认为，通过增加计算能力、数据规模和模型大小，必将推动AI性能的提升，甚至实现通用人工智能（AGI）。然而，这种观点可能建立在错误的假设之上。面对当前挑战，企业正在探索新的解决方案。例如，在模型初步训练完成后，通过人类反馈来改进回答和优化语气，以及开发能够执行特定任务的AI工具，如航班预订或代发电子邮件的代理。
AI初创公司Hugging Face的首席伦理科学家Margaret Mitchell表示，“AGI泡沫正在逐渐破灭，我们需要探索不同的训练方法，以使AI模型在各类任务中展现出卓越的表现。”其他专家也对此观点表示认同。
