OpenAI O1 AI模型被定为“中等风险”

OpenAI发布新型AI模型o1，被评估为“中等风险”

近日，科技媒体The Decoder发布了一篇关于OpenAI新型AI模型o1的风险评估报告。该模型被OpenAI自家的“防备框架”评定为“中等风险”。

据悉，OpenAI防备框架旨在对OpenAI最先进、尚未发布的AI模型进行评估，并根据其类型感知风险分为四个等级：低、中、高和严重。只有被评为“低”或“中”的模型才会被OpenAI推出。

o1模型展现出了类人的推理能力，并能协助专家制作生物武器评估。同时，在全美奥林匹克数学队的预选赛中，o1模型的表现出色，能够跻身美国前500名学生之列。此外，o1模型在化学、生物、放射性和核武器（CBRN）领域的表现也被认为相对中立。

尽管o1模型表现出了较高的能力，但OpenAI仍然对其潜在危险进行了多次警告。这意味着虽然o1模型具有巨大的潜力，但其应用仍需谨慎考虑。