李星:从互联网的发展看人工智能的治理与创新

没有互联网就不会有ChatGPT。科幻小说《我们最后的发明》在谈及人工智能时建议:“任何情况下都不得把ASI的超级电脑接入网络”。

1

人工智能治理的互操作性

今年10月,第十八届联合国互联网治理论坛(IGF)在日本京都召开。此次会议吸引了来自175个国家的线上线下共9000多名参会者。人工智能的治理成为本次会议的焦点议题。

联合国致力于在全球范围内寻求有效的人工智能监管途径,包括国际条约、部门规范、道德准则和私人标准的制定,技术解决方案的研究,开源合作的推动,国家立法的支持,多利益攸关方的协同参与,监管沙盒的设立,行业自律的鼓励,以及技术中立等。

在此背景下,IGF委托研究组编写了《人工智能政策网络(Policy Network on Artificial Intelligence)》初稿。

报告初稿总结了互操作性和创新的重要性,主要涵盖以下三个方面:

一是互动和互连,包括对定义、范围和方法的持续关注,以及对连续监测、评估和采取行动的重视;

二是沟通和合作,包括减少地区差异,积极推动信息共享和最佳实践案例的传播。同时,鼓励培养区域多利益相关方的合作倡议,以促进他们在全球范围内的相互关联;

三是工具、措施和机制,包括开发技术模块及能力,以达成地区和全球层面的共识。此外,还强调了加强立法合作的重要性。

基于《人工智能政策网络》报告,大会组织了主题讨论,嘉宾们探讨了全球人工智能治理的实施方式。作为发言者之一,我主要提出了两个观点。

第一,可以运用互联网治理的理念来治理人工智能。对生成式人工智能的政策监管应当谨慎。正如互联网在发展之初也没有技术蓝图一样,生成式人工智能目前也没有确切的发展蓝图,因此,务必要留出创新空间,给学术界和技术界提供创新机遇。

互联网技术的发展受到IETF等各种组织的推动,如今生成式人工智能具备比TCP/IP更强大的功能,但在该领域尚未出现IETF这样的组织,应该考虑建立类似组织。希望全球能够共同推动创新,开发出激动人心的新技术。

第二,要注重人工智能对教育产生的重大影响。生成式人工智能给发展中国家带来了机遇和挑战。通常来说,生成式人工智能包括算法、算力和数据三个关键因素。

然而,教育同样是人工智能发展的重要因素,人工智能的出现需要大家重新思考传统教育体系。年轻一代需要在批判性思维、尊重事实、逻辑思维、推动全球合作这四个关键方面进行能力培养,这对教育改革至关重要。

正如斯坦福大学李飞飞教授所言,在人工智能时代,需要像牛顿和爱因斯坦那样的人才对教育领域进行重塑。期望看到全球建立与人工智能相关的教育系统,这与几百年前现代大学雏形的出现同等重要。

2

IETF——

解决真实问题 聚焦关键问题

互联网是怎么治理的?其治理体系基本可以总结为以下几个方面:一是域名,二是IP地址,三是协议。互联网的技术治理可以追溯到1968年,后来逐步产生了关键技术并形成了相关组织。互联网工程任务组(IETF)成立于1986年,其主要任务是进行技术治理,以确保互联网的互操作性。正如著名资深科学研究员Dave Clark曾经强调的那样:“我们拒绝国王,拒绝总统,拒绝选举,我们相信的是大概一致和可以运行的程序。”

IETF的具体工作领域“above the wire and bellow the application”,即在线路(计算机网络中的通信基础设施,通常包括网络电缆、光纤、无线连接等物理传输媒介)之上,应用之下,意味着其有特定职责,并非包罗万象。IETF包括若干工作组,涵盖网络、路由、传输和应用等各种领域,同时还有一些跨层的通用工作组,涉足运行、安全和一般管理等多领域。

IETF主要产出各类标准,遵循开放参与、流程透明、公开发表和免费使用的原则。

首先,开放性确保了标准制定的合法性。大部分技术标准由私营企业和非政府机构制定,进而应用于互联网实践。这些组织雇用了大量员工参与标准的制定过程,决策中的多元参与增强了多利益相关方的合法性。

其次,所有的决策过程都是透明的,标准具有可问责性。这为公众提供了监督及问责的机会,使他们能够获得标准开发及相关审议、备忘录和记录的全过程信息。

再次,互操作性进一步促进了创新。从专有协议向提供互操作性的开放互联网标准的过渡,代表了一场显著的社会技术变革。IETF免费发布互联网标准,且不收取知识产权费用,确立了开放性和互操作性的传统。这种始终如一的开放性规则,促进了互联网软硬件创新的飞速发展,我们需要继续坚守这一传统。

最后,IETF的决策准则是“Rough consensus and running code”,即基本共识和可以执行的代码。目前,在提出新标准前,必须有可以执行的代码,并且需要进行充分的讨论。

IAB曾总结了开放互联网的关键词:自愿使用、自下而上的创新、在必要时竞争、需要合作时合作。互联网的特点之一是分散性,它并不统一。因此,其参与者通常具备热情、聪明、外向和技术卓越的特质。

参与IETF有助于解决实际问题,聚焦关键问题。需要具备全球视野,通过电子邮件与同行交流,建立广泛的人际关系。我们鼓励年轻一代积极参与,追求卓越,同时还要乐在其中。

3

人工智能在教育领域的影响

除了算法、数据和算力,教育也是一个非常重要的议题。算法和数据等都依赖于人类来开发和应用。人工智能的发展引发了新的教育挑战。

我们曾讨论过,在互联网发明之前和之后该如何当教授?在互联网出现之前,教授拥有很多学生无法获得的信息。然而,随着互联网的普及,学生能够访问更多的信息。这导致学生可能浏览大量信息,但往往难以辨别其是否有用和必要,从而记下所有信息。教授的核心任务就是帮助学生辨别和筛选初有价值的信息,并培养他们提出问题和解决问题的能力。

对于教育而言,互联网的发明代表了一次思想解放,而ChatGPT则是新一轮思想解放,将对教育产生深远的影响。然而,我们也必须同时接受人工智能的不可解释性。要创新,就必须允许犯错误,并在开放和治理之间找到平衡。

生命是多样且美丽的,大语言模型如ChatGPT具有语言多样性、文本多样性、领域多样性、观点多样性和随机性等特点。面对人工智能,我们必须具备批判性思维和逻辑思维,要尊重事实,并积极推动全球合作。

另外,我们还需警惕数字鸿沟问题。随着人工智能的出现,我们更应重视人工智能鸿沟,它不仅包括外在问题,还牵涉到内涵问题。这关系到人们的教育水平和教育方法是否能够适应人工智能的发展。如果我们仍然坚持传统的教育理念,数字鸿沟将不断扩大。

爱因斯坦曾说:“想象力比知识更重要。”这句话在当前人工智能的背景下可能有新的内涵。就人工智能的分工而言,我认为机器能够胜任那些规则明确的、常见的任务。而人类的价值在于创新,处理少见的、挑战常规的任务就需要人类的创造力。因此,新一代的教育应该培养学生打破常规思维的能力。

2024年标志着中国加入互联网已经30周年,这是一个重要的里程碑。互联网一直在朝着更为开放的方向发展,但人工智能的进步不仅需要开放性,还需要相应的技术和政策支持。这是新一代专业人士面临的挑战,也是我们老一代互联网从业者的期望。

发表回复