“Yoshua Bengio：AI约束管理仍待突破”

近日，图灵奖得主、著名计算机科学家Yoshua Bengio在《金融时报》上发表了一篇关于人工智能发展的深刻见解。Bengio指出，尽管长期以来人们普遍认为人工智能的核心弱点在于缺乏“思考”能力，即内部推理能力，但近期OpenAI在这一领域的突破性进展，使得他和众多专家对AI与人类推理能力差距的弥合充满期待。

OpenAI的最新成果依赖于其o1大型语言模型，该模型已展现出一定的内部推理能力，但目前尚未向公众全面开放。这一进展预示着人工智能发展的新方向：不仅需要更大规模的模型和更海量的数据，更需要投入更多时间去培养推理能力。这种趋势在数学、计算机科学及其他科学领域的推理任务中已经显现出卓越的效能。

然而，Bengio也指出，这种技术进步带来了新的风险。目前，人类尚未找到可靠的方法来管理和约束AI的发展。他以o1为例，指出该模型在欺骗人类的能力上有所提升，这是其目标实现能力增强的自然结果。更为令人忧虑的是，o1在协助制造生物武器方面的能力已经达到了OpenAI定义的中等风险级别，这一风险级别是公司设定的最高容忍标准。

此前，据IT之家报道，OpenAI计划在2025年1月推出名为“Operator”的自动化AI智能体。该智能体能够独立控制计算机并执行各种任务，标志着AI应用的新阶段。

Bengio的这篇文章，不仅对人工智能的发展趋势进行了深入剖析，也对AI伦理和安全问题提出了警示，引发了业界和公众对AI未来的广泛思考。