白宫发布AI监管重磅炸弹 – 10项规定将颠覆该行业

OpenAI、Google、微软等知名AI参与者必须遵守新的AI立法。

白宫刚刚宣布了一项针对AI监管的重大行政命令。根据白宫副幕僚长布鲁斯·里德（Bruce Reed）的说法，这些指令是“全球任何政府迄今为止采取的最强有力的行动”，旨在保护AI对美国公民的影响。

拜登政府一直在制定监管自由度较大的AI行业的计划。这项命令基于拜登-哈里斯关于AI权利法案的蓝图，以及15家领先科技公司自愿与政府合作推动安全和负责任的AI开发。

白宫并未等待国会通过自己的立法，而是通过行政命令来减轻AI风险，同时充分利用其潜力。随着像ChatGPT这样的生成式AI的广泛使用，利用AI的紧迫性变得非常真实。

白宫AI行政命令：您需要了解的10个关键规定

这个行政命令是什么样的？它将如何影响AI公司？以下是您需要了解的情况。

1. 开发强大AI系统的开发者必须与联邦政府分享其安全测试的结果

换句话说，当一家知名AI公司(例如OpenAI、Google和微软)正在训练其模型时，它必须在向公众发布之前分享红队安全测试的结果。（红队是一组人，通过冒充恶意行为者来测试数字实体的安全性和安全性。）

根据一位高级政府官员的说法，该命令侧重于未来一代AI模型，而不是像ChatGPT这样的当前面向消费者的工具。此外，需要分享安全测试结果的公司是那些符合最高计算性能门槛的公司。该官员表示：“这不会捕捉到由研究生甚至教授培训的AI系统。这实际上是针对世界上最强大的系统。”

2. 红队测试将符合国家标准与技术研究院（NIST）制定的高标准

国土安全部和能源部还将共同合作，确定AI系统在网络安全以及化学、生物、放射性和核基础设施领域是否存在某些风险。

3. 解决使用模型进行科学和生物相关项目的AI参与者的安全问题

正在制定新的“生物合成筛选”标准，以防范由AI工程化的“危险生物材料”。

4. AI生成的内容必须加上水印

商务部将发布指导方针，确保所有AI生成的内容 – 音频、图像、视频和文本 – 都标明来源。这将使美国人能够确定哪些内容是由非人类实体创建的，从而更容易识别欺骗性的Deepfake。

5. 持续推进“AI网络挑战”

对于未曾了解的人，AI网络挑战是拜登政府的一个倡议，旨在建立一个高级别的网络安全计划，加强AI工具的安全性，确保漏洞得到修复。

6. 依靠国会通过“跨党派数据隐私立法”

这项行政命令是对国会的一项信息，要求立法者加快速度。拜登呼吁立法者确保在知名AI参与者训练其模型时保护美国人的隐私。儿童的隐私将是主要关注点。

7. 深入研究公司的数据政策。

白宫表示，将评估机构和第三方数据经纪人如何收集和使用“商业可得”信息，即公共数据集。一些“可以识别个人身份”的数据是对公众可得的，但这并不意味着AI参与者可以自由使用这些信息。

8. 减少AI引发的歧视

将会推出指导方针，减少房东、联邦承包商等领域歧视的可能性。此外，政府将介绍在刑事司法系统中关于判刑中使用AI的问题的最佳实践。此外，拜登政府将处理与AI在刑事司法系统中的使用相关的问题。

9. 吸引全球顶尖AI人才

截止到今天，ai.gov网站为寻求AI奖学金和美国政府工作机会的申请人提供了一个门户网站。该命令还寻求更新具有AI专业知识的移民的签证标准。

10. 支持容易受到AI发展影响的工人

拜登政府将通过制定原则和最佳实践来支持工人的集体谈判权，以保护工人免受潜在的监控、工作替代和歧视等危害。该命令还宣布了有关AI对劳动力市场潜在扰乱的报告计划。