OpenAI、谷歌、微软等 宣布成立前沿模型论坛，旨在推动模型的安全发展！

 7月26日，Anthropic、谷歌、微软和 OpenAI 宣布成立前沿模型论坛，这是一个新的行业机构，专注于确保前沿人工智能模型的安全和负责任的开发。前沿模型论坛将利用其成员公司的技术和运营专业知识，使整个人工智能生态系统受益，例如通过推进技术评估和基准，以及开发公共解决方案库来支持行业最佳实践和标准。

OpenAI、Google、微软、Anthropic发声正在推出前沿模型论坛，该机构专注于前沿人工智能模型的安全性和可靠性。该论坛旨在帮助:(i)推进人工智能安全研究，以促进前沿模型开发的可靠性，最大限度地降低风险，并实现对能力和安全性的独立、标准化评估；(ii)确定前沿模型可靠开发和部署的最佳实践，帮助公众了解技术的性质、功能、局限性和影响;(iii)与政策制定者、学者、民间社会分享有关信任和安全风险的知识， 推进可靠的人工智能系统开发；(iv)支持开发有助于应对社会最大挑战的应用程序，例如减缓和适应气候变化、早期癌症检测和预防以及应对网络威胁。
  前沿模型论坛还将设立一个顾问委员会来协助战略指导和优先事项部署。同时，论坛欢迎其他开发前沿人工智能模型的组织参与，并愿意合作以实现这些模型的安全发展。

论坛会员标准

 该论坛将前沿模型定义为大规模机器学习模型，其能力超出了目前最先进的现有模型的能力，并且可以执行各种任务。论文会员资格向以下组织开放：

• 1、开发和部署前沿模型（由论坛定义）。
• 2、表现出对前沿模型安全的坚定承诺，包括通过技术和制度方法。
• 3、愿意为推进论坛的努力做出贡献，包括参与联合倡议并支持该倡议的发展和运作。 论坛欢迎符合这些标准的组织加入这一努力，并合作确保前沿人工智能模型的安全和负责任的开发。

论坛工作重点

 各国政府和业界一致认为：虽然人工智能为造福世界提供特别多的可能性，但仍需要适当的防护来降低AI带来的潜在风险。美国、英国政府、欧盟、经合组织、七国集团和其他组织已对此做出了重要贡献。(YY:中国也做出了很多贡献！)

 依据之前努力的结果，我们需要在安全标准和评估方面开展进一步的工作，以确保人工智能模型开发、部署的可靠性和安全性。未来一年，论坛将重点关注三个关键领域，以支持前沿人工智能模型安全可靠的发展，具体地：

 1.确定最佳实践：促进行业、政府、民间社会和学术界之间的知识共享和最佳实践，重点关注安全标准和安全实践，以减轻各种潜在风险。

 2.推进人工智能安全研究：通过确定人工智能安全最重要的开放研究问题来支持人工智能安全生态系统。该论坛将协调研究，以在对抗稳健性、机械可解释性、可扩展监督、独立研究访问、紧急行为和异常检测等领域推进这些努力。最初将重点关注开发和共享前沿人工智能模型的技术评估和基准的公共库。

 3.促进公司和政府之间的信息共享：建立可信、安全的机制，在公司、政府和相关利益相关者之间共享有关人工智能安全和风险的信息。论坛将遵循网络安全等领域规则展示出最佳实践。

微软副董事长兼总裁Brad Smith表示：“创造人工智能技术的公司有责任确保其安全、可靠并始终处于人类控制之下。这一举措是将科技行业聚集在一起，负责任地推进人工智能并应对挑战，使其造福全人类的重要一步。”

 OpenAI全球事务副总裁Anna Makanju表示：“先进的人工智能技术具有给社会带来深远影响的潜力，而实现这一潜力的能力需要监督和治理。至关重要的是，人工智能公司——尤其是那些致力于最强大模型的公司——必须在共同点上保持一致，并推进深思熟虑且适应性强的安全实践，以确保强大的人工智能工具拥有尽可能广泛的利益。这是一项紧迫的工作，本论坛完全有能力迅速采取行动，以提高人工智能安全水平。”

 Anthropic首席执行官Dario Amodei表示：“Anthropic 相信人工智能有潜力从根本上改变世界的运作方式。我们很高兴与行业、民间社会、政府和学术界合作，促进该技术的安全和负责任的开发。前沿模型论坛将在协调最佳实践和分享前沿人工智能安全研究方面发挥至关重要的作用。”

论坛如何运作

 在接下来的几个月中，前沿模型论坛将成立一个顾问委员会，以帮助指导其战略和优先事项，代表不同的背景和观点。

 创始公司还将建立关键的制度安排，包括章程、治理和资金，并由工作组和执行委员会来领导这些工作。我们计划在未来几周内就论坛的设计和有意义的合作方式与民间社会和政府进行磋商。

 前沿模型论坛欢迎有机会帮助支持和融入现有的政府和多边倡议，例如七国集团广岛进程、经合组织关于人工智能风险、标准和社会影响的工作，以及美国-欧盟贸易和技术理事会。

 论坛还将寻求以现有行业、民间社会和每个工作流程的研究工作的宝贵工作为基础。人工智能合作伙伴关系和 MLCommons 等举措继续在整个人工智能社区做出重要贡献，论坛将探索与这些和其他有价值的多方利益相关者的努力合作和支持的方法。

想要做大模型训练、AIGC落地应用、使用最新AI工具和学习AI课程的朋友，扫下方二维码加入我们人工智能交流群