近日,美国加州州长Gavin Newsom在凌晨宣布,正式否决了备受争议的SB-1047法案。这一决定对于全球开发者来说,无疑是一个巨大的利好消息,意味着包括Meta、谷歌等科技巨头在内的开源模型将得以继续使用。
SB-1047法案的取消,得到了AI界人士的热烈欢迎。吴恩达、LeCun、李飞飞等AI领域的领军人物纷纷表示,这一决定为加州乃至全世界的AI治理开辟了新的道路。
SB-1047法案原计划通过追究开发者责任,防止AI系统造成大规模人员伤亡或引发超过5亿美元的网络安全事件。然而,这一法案在实施过程中遭到了学界和业界的强烈反对。
据悉,全球50家顶尖的AI企业中有32家位于加州,这些企业在定义AI未来方面扮演着关键角色。州长Gavin Newsom在签署了18项AI相关法案后,唯独否决了SB-1047。
在过去的30天内,州长签署了一系列法案,旨在打击Deepfake内容、保护表演者的数字肖像权等。然而,SB-1047法案在初衷良好的前提下,却存在着一些严重问题。
州长Gavin Newsom在信中表示:“我认为这不是保护公众免受AI带来真正威胁的最佳方法。”他认为,SB-1047法案没有考虑到AI系统是否部署在高风险环境中、是否涉及关键决策或敏感数据使用,而是对部署大模型系统这一基本功能也应用了严格的标准。
在SB-1047法案被否决的过程中,AI“教母”李飞飞发挥了重要作用。她与StanfordHAI一起,为加州负责任的AI治理铺平了道路。吴恩达也对李飞飞的公开反对表示赞赏,认为她的努力将推动更理性的AI政策,从而保护研究和创新。
在SB-1047法案即将尘埃落定之际,吴恩达和LeCun曾焦急地奔走相告,担心一旦通过,开源AI和整个AI生态系统都会产生寒蝉效应。如今,全加州的AI公司们终于松了一口气。
州长在否决信中指出,SB-1047法案对AI部署可能带来的威胁过于放大,而且仅关注最昂贵的大规模模型,实际上给了公众一种“错误的安全感”。他指出,即使是较小的专有模型,也可能同样危险。此外,法案对AI实施的监管是以“遏制利于公众利益的创新”为代价的。
针对SB-1047法案的一些不合理规定,如成本超过1亿美元的模型需防止造成“重大伤害”、公司开放模型给其他国家使用需提交客户的所有资料等,州长表示,这些规定将阻碍AI的创新,对当今AI的安全性也没有帮助。
SB-1047法案被诟病为过于杞人忧天,它不仅会阻碍AI的创新,而且对当今AI的安全性也没有帮助。更讽刺的是,法案用所谓的“紧急开关”预防世界末日,但对Deepfake、虚假信息等已出现的安全风险却视而不见。
这一法案的取消,无疑让包括OpenAI、Meta、谷歌等大厂在内的AI公司松了一口气。而对于一些初创企业来说,这一决定则意味着新的希望。