加州州长否决AI安全法案SB 1047

9月30日，加州州长加文·纽森宣布对备受争议的《前沿人工智能模型安全创新法案》（简称SB 1047）行使否决权。纽森在解释其决策时，指出多方面因素影响了他的决定，包括法案对AI企业施加的负担、加州在全球人工智能领域的领导地位，以及对法案可能过于宽泛的批评。

据了解，SB 1047法案旨在为那些训练成本超过10亿美元的AI模型或达到特定算力的开发者设立安全标准，以确保这些大规模人工智能模型的安全开发。法案要求开发者采取一系列预防措施，包括部署前的测试、模拟黑客攻击、加强网络安全保障，并为举报人提供保护。该法案于今年2月提交给加州议会，自那时起就引发了激烈的讨论。

8月19日，加州立法机构公布了该法案的修订版。法案得到了“人工智能教父”杰弗里·辛顿和约书亚·本吉奥的支持，但同时也遭到了杨立昆、李飞飞等科学家的反对，以及包括头部AI企业在内的多家企业的抵制，他们认为这项法律将“阻碍创新”。

纽森在否决法案时表示：“虽然SB 1047的初衷是好的，但它未能考虑到人工智能系统是否部署在高风险环境、是否涉及关键决策或使用敏感数据。该法案对大型系统部署制定了严格的标准，即使是基本功能也受到限制。这并非是保护公众免受技术威胁的最佳途径。”

纽森还指出，该法案可能“给公众一种关于控制这种快速发展的技术的虚假安全感”。他表示，更小、更专业的模型可能同样甚至更危险，而此举可能会削弱推动公共利益进步的创新。

纽森强调，他认同应该制定安全协议和护栏，并且让不良行为者承担明确且可执行的后果。但他认为，国家不应“满足于一个不以人工智能系统和能力的实证轨迹分析为依据的解决方案”。

对于纽森的否决，Meta公司的公共事务经理Jamie Radice表示：“我们对纽森州长否决SB 1047表示欢迎。这项法案将扼杀AI创新，损害业务增长和创造就业机会，并破坏加州长期支持开源开发的传统。我们支持负责任的AI法规，并愿意与立法者合作，共同推动更完善的解决方案。”