Open AI“内讧”背后的隐情?
这两天比较轰动的消息是人工智能初创公司Open AI突然对外宣布公司首席执行官山姆·奥特曼(Sam Altman)将离开公司,同时公司的CTO米拉·穆拉蒂(Mira Murati)被任命为临时CEO。
我们先来简单介绍一下这位刚刚被“炒掉”的CEO,奥特曼被誉为“ChatGPT“之父,从小8岁便有了自己的第一台电脑,更令人惊讶的是8岁的奥特曼已经掌握了编程技巧。在他19岁的时候,他选择了辍学,并创办了自己的第一家初创公司Loopt。
Loopt的成功也引起了Y Combinator创始人保罗·格雷厄姆的关注,随后Loopt顺利获得了Y Combinator的注资,奥特曼也逐渐成为旧金山地区最成功的初创者之一,保罗·格雷厄姆甚至认为年轻的奥特曼以后将成为与拉里·佩奇,史蒂夫·乔布斯齐名的世界顶级CEO。
2015年奥特曼与阿隆·马斯克、Pay Pal创始人彼得·蒂尔等硅谷科技大亨共同创立了Open AI,我们熟知的ChatGPT正是来自Open AI公司的聊天机器人。
在今年人工智能爆发的背景下,ChatGPT的火热席卷了整个互联网。ChatGPT有多火热?我们用一组数据来说明。
我们熟知的一些知名APP,比如Instagram用了30个月才将常用用户扩大到了1亿,在全球范围内垄断的打车软件UBER也用了超过70个月才达到一个亿用户的目标,强如TikTok(抖音)也用了9个月。
但是ChatGPT仅仅用了2个月就将此前TikTok的记录打破,成为历史上增长最快的消费类应用程序。
这次奥特曼被董事会解雇,原因众说纷纭,多少令人感觉有些蹊跷,确实我们在以前的新闻中很少听说一个公司的CEO可以如此轻易的就被炒掉的。
其中一个比较重要的原因在于Open AI公司独特的组织控股结构,Open AI一直对外宣称是非盈利组织,而且实行Capped Profit商业模式。
什么是Capped Profit呢?直接翻译过来就是有限盈利,指的是对公司可以赚取的利润进行限制,这类商业模式的重点是为更大的利益做出贡献,也就是我们常说的社会企业,而不是普通商业公司追逐的对自己利润最大化。
有限盈利和完全的非盈利组织其实还不一样,有限盈利模式介于普通商业公司和非盈利组织之间。
因为最开始Open AI确实是一家非盈利组织,但在2019年时发现无法与强大的对手竞争,才改成的居于盈利和非盈利之间的限制盈利模式。
这个限制盈利模式是如何实行的呢?Open AI在其组织架构下分拆出了一家具有营利性的子公司叫做OpenAI Global,LLC。
OpenAI Global,LLC就是后面可以接受“金主”股权投资的代表分支机构,也就是后面微软注资的承接方。
有趣的是,这个限制盈利的子公司还是会受到Open AI非盈利组织的控制,因为非盈利组织拥有了51%的股权,非盈利组织又受到最终董事会的控制。
具体结构如下:
董事会有6个人,其中真正跟Open AI有关的只有:
1、Sam Altman, Open AI的CEO;
2、Ilya Sutskever,Open AI首席科学家;
3、Greg Brockman,Open AI总裁;
其他三人:
1、Adam D’Angelo,美国知乎Quora的CEO;
2、Tasha McCauley,科技企业家;
3、Helen Toner,乔治城大学安全与新兴技术的主任;
这6人组成的董事会是非盈利组织的董事会,所以只对非盈利组织负责,限制盈利组织以及微软等资方股东虽然有股权但却没有话语权,这是与其他企业不一样的地方。
网络上也将奥特曼自己设计的这种组织结构戏称为“作茧自缚”,因为有股权的却没有话语权,真正在董事会有投票权的只有以上6个人,而上面的6个人中竟然还有3个人跟Open AI没有利益联系,因为他们代表的是外部利益。
对于这次Open AI内部“政变”,当事人Greg Brockman回应为是首席科学家IIya Sutskever事先与其他三位与Open AI没有利益联系的独立董事的一场“密谋”。
这场闹剧最后也以CEO奥特曼的离任和董事长Greg Brockman董事席位的解除画上句号。
那么是什么导致Open AI的首席科学家与奥特曼造成了如此强烈的分歧,最终导致内部“政变”的呢?
从Open AI的官方通报上来看,表面上是因为奥特曼对董事会的沟通不够坦诚,违背了Open AI此前以更大的利益为目标(非盈利属性)的价值观。
奥特曼其实以前一直就有这个问题,最早在Y Combinator的时候,奥特曼公司的订单眼看着就要被竞争对手抢走,奥特曼特意邀请客户到公司进行实地考察。
结果客户来公司看的时候,被公司的规模以及员工的精神状态所感染,最终决定和奥特曼签下订单合同;但其实公司一派繁荣的景象都是奥特曼花钱雇来的演员,实际公司规模只有5个人。
此外,奥特曼最早在Y Combinator工作的时候,还自己私自开了一个类似于“老鼠仓”的账户,因为Y Combinator是美国著名的企业孵化器和初创投资公司,奥特曼对于处在种子期的公司状态了如指掌,所以怎么投才能最赚钱他比谁都清楚。
但那时候的老板保罗·格雷厄姆因为极度看好他,还将他比作未来的乔布斯,所以在Y Combinator干这些事的时候,老板也没有直接将事情“挑明”,造成了奥特曼特立独行的自由派行事风格。
当然这些都是奥特曼自身行事是问题,当然他与首席科学家的主要价值观上的分歧还在于人工智能的发展方向上。
奥特曼和Greg Brockman认为Open AI的发展方向应该放在工程化和产品化上面,应该更快的让新的研究成果商业化服务于大家。
而首席科学家IIya则认为Open AI应该将更多资源投入到AI的道德与安全问题,尤其是在Super Alignment(超级对齐)上。
说白了,这其中的分歧点其实就在于“商业VS非盈利”之间的冲突,首席科学家IIya不希望因为过快的商业推进影响了Open AI以非盈利研究为导向的价值观。
根据最新的投票显示,84%的全网民众都认为此次“内讧”的原因是因为违背了非盈利组织的价值观
人工智能中Super Alignment(超级对齐)的意义在于让人工智能和人类的价值观形成统一。
虽然想象很美好,但实际上在连我们人类自己的价值观都没有形成对齐前,就让AI与人类对齐其实仍然还有很长距离。
人类社会自古以来价值观从来没有做到过统一,不然世界上也不会有这么多冲突战争以及种族之间的对峙了。
所以相比于对齐,AI安全其实更应引起我们的重视,因为AI的进化不可避免的会带来对人类“反噬”的效果。
我们以AI领域著名的“AI回形针”来做说明,大概意思是人类给AI布置了生产回形针的任务。
AI不满足单纯的重复性生产过程,在AI发现可以将回形针的原材料做成成品出售后,如果利用利润再购买更多的生产资料生产回形针就会让产量增加;
此外如果动用融资杠杆扩大企业规模的话或者研发更有效率的生产设备也将会给产量带来质的变化。
最终全世界都会充斥着AI生产的回形针,于是人类叫停了AI的行为;
但是AI此时发现人类叫停他的行为严重妨碍了回形针的生产,直接对人类进行反制措施,最终人类被AI“反噬”,所有的起点只不过是一个简单的制造回形针指令。
如今的AI已经发展到可以替代部分人类劳动力的程度了,不知大家有没有注意到现在的大街上的送快递和外卖的“小黄车”已经越来越多。
还有一些城市中已经实现了网约车的无人驾驶,这些都会对我们的传统行业形成降维打击,越来越多的工作将会被AI取代。
AI与人类的发展不可避免的存在着“制约”与“反制约”之间的矛盾,我们也希望最终能够看到Open AI真正能够将人工智能的价值观与人类对齐的那一天,让AI成为我们真正的助手而不是我们失业的“导火索”。