欧盟就全球首个全面监管AI法案达成初步协议
据法新社最新消息,经过36个小时谈判,欧盟成员国及欧洲议会议员当地时间8日就全球首个监管包括ChatGPT在内的人工智能的全面法规达成初步协议。欧洲新闻台形容说,谈判过程非常激烈,这是世界上首次尝试以全面的、基于伦理的方式监管这项快速发展的技术。
“历史性的!随着今天围绕《人工智能法案》的政治协议达成,欧盟成为第一个为使用人工智能制定明确规则的大陆,”欧盟委员会内部市场专员蒂埃里·布雷顿表示。
这是全球首份针对AI监管的全面法规
12月8日,在经过一周的马拉松式谈判和激烈争论后,欧盟委员会、欧洲议会和欧盟成员国代表就《人工智能法案》(AI Act)达成初步协议,新法案涉及包括ChatGPT在内的通用目的AI系统。
这是全球首份针对AI监管的全面法规,意在从保护人类基本权利和不阻碍人工智能行业发展之间寻求平衡。法案的技术细节内容还在讨论中,最终文本没有对外公布。
根据欧洲议会和欧盟委员会公布的信息,法案将AI系统分为低风险、高风险、不可接受风险、特定透明度风险等不同等级,按照风险级别制定相应规定。
不可接受风险等级的AI应用将被直接禁止,包括在特定情况下使用生物特征分类系统和人脸识别系统。法案还专门针对通用AI系统(general-purpose AI)设置规定,存在系统性威胁的通用AI将接受更严格监管。
欧洲议会官网8日的声明列出了将被禁止的AI应用类型,包括:
- 使用敏感特征的生物特征分类系统,敏感特征涉及政治、宗教、哲学信仰、性取向、种族。
- 网络或视频监控进行无目标的人脸信息收集以创建人脸识别数据库。
- 工作场所和教育机构进行表情识别。
- 根据社会行为或者个人特征进行社会评分。
- 操纵人类行为、绕开人类自由意志的AI系统。
- 剥削脆弱人群的AI系统。
欧盟委员会解释,对人类基本权利构成明显威胁的AI系统属于不可接受风险级别,此类系统将全部禁用。
但在包括人脸识别在内的生物识别系统应用中,欧盟的AI法案将允许执法部门在严格限制条件下,对涉嫌或者已经被判决犯下重罪的人员进行非实时远程生物识别。
执法部门要进行实时生物识别只能在特定情况下,例如寻找受害人、阻止恐怖袭击威胁、定位识别犯下谋杀等严重罪行的嫌犯。
新法案或将引领全球人工智能竞赛的助推器
欧盟内部市场委员布雷东在社交媒体上表示:“欧盟成为第一个为人工智能使用设立明确规则的地区。《人工智能法案》不仅是一本规则手册,也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。”
按照目前临时协议中披露的内容,未来违反《人工智能法案》的公司可能面临高达其全球收入7%的罚款,具体取决于违规情况和违反规则的公司规模。
据悉,此次通过的临时协议是为了确保能够在2024年5月欧洲议会选举前顺利通过这项立法。一旦通过,还将需要两年时间才能完全生效。
欧盟方面希望,作为全球首个此类立法提案,该法案可以像《通用数据保护条例》(GDPR)一样为其他司法管辖区的人工智能监管制定全球标准,从而在世界舞台上推广欧洲的技术监管方式。
早在2021年4月开始,欧盟方面就酝酿对人工智能行业的监管,提出《人工智能法案》提案的谈判授权草案,将严格禁止“对人类安全造成不可接受风险的人工智能系统”,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。不过,在酝酿过程中由于ChatGPT的“横空出世”,欧盟方面对该法案提案进行了修改。
科技监管最终目的要造福世界
该法案主要发起者之一、欧洲议会议员图多拉奇(Dragos Tudorache)表示,自起草立法的早期阶段以来,《人工智能法案》的制定者就“仔细考虑”了对世界各国政府的影响。他说,他经常听到其他立法者在开始起草自己的人工智能法案时正在研究欧盟的做法。
譬如,欧洲的GDPR迫使微软等一些公司彻底改革他们处理欧洲境外用户数据的方式。然而,有人担心欧盟频繁制定在科技方面的法律,令在欧洲地区的合规措施成本高昂,阻碍了小企业的发展。
与此同时,经过数月针对人工智能技术的听证会和论坛后,美国国会仍处于制定有关人工智能的两党立法的早期阶段。
拜登政府上台之初就表示要“整顿”科技行业,结果“板子高高举起轻轻落下”,第一任期都快结束了,既没有真正反垄断,也没有搞规则监管立法,这也体现了拜登政府的一种态度。10月30日,美国总统拜登在华盛顿白宫仅仅签署人工智能监管行政令。
在此情况之下,欧洲人工智能界的担忧更为强烈,有不少人士都发声表示,新立法可能会阻碍技术创新,从而为人工智能研究和开发已经更加先进的美国和英国带来进一步优势。
“有一些创新将不再有可能性,或在经济上不再可行。” 德国人工智能发展促进中AppliedAI Initiative董事总经理利布尔(Andreas Liebl)表示:“它(人工智能法案)只会让你在全球竞争中放慢脚步。”
此前,欧洲工商管理学院(INSAED)的决策科学和技术管理教授埃夫根尼奥(Theos Evgeniou)表示,GDPR确实导致小公司成本高昂。这些公司大多是欧洲科技公司。它最终帮助了美国的大公司。
“从某种意义上说,这与欧洲想要做的事情恰恰相反。”埃夫根尼奥说,但监管本身是一个不断学习的过程,其目标不是为了监管而监管,监管和创新都是为了更好地造福世界。