微软等巨头联手成立CoSAI安全联盟

OASIS Open 成立 CoSAI 安全联盟，携手业界合作伙伴共推负责任 AI

近日，专门推动全球结构化信息标准的非营利组织 OASIS Open 在 7 月 18 日宣布成立 CoSAI 安全联盟（Coalition for Secure AI），旨在解决人工智能（AI）领域中的安全问题。该联盟将积极与学术界合作，关注三大关键领域：AI 软件供应链安全性、网络领域安全性和 AI 安全治理性。此外，CoSAI 安全联盟还将与 Frontier Model Forum、Partnership on AI、Open Source Security Foundation、ML Commons 等 AI 安全组织展开深度合作，共同推进“负责任的 AI”。

据悉，CoSAI 安全联盟计划打造一个共享平台，用于交流 AI 安全设计相关的方法、标准化框架和工具。此外，该联盟将致力于开发和部署具有安全保障的 AI 系统，降低模型操纵、模型窃取、恶意训练数据以及提示词“越狱”等安全风险。这些举措有望为商业客户提供更加安全的 AI 解决方案。

OASIS Open 强调，确保 AI 安全需要各方共同努力，为了在数字生态系统中安全地发挥作用，所有人都应遵循通用安全标准。CoSAI 安全联盟希望通过这一联盟，推动 AI 领域的安全发展，为构建更安全、可靠的 AI 技术贡献力量。