差不多五天后,输赢基本已见分晓:OpenAI 前CEO 萨姆·奥特曼 (Sam Altman) 重返 OpenAI,担任首席执行官,这与他在 110 个小时左右之前担任的职位完全相同,当时的硅谷被称为“OpenAI 崩溃之前的那段时间”。
奥特曼回归后计划改组董事会,目前,OpenAI 新的临时董事会已经成立。其中包括 Salesforce Inc. 前联合首席执行官 Bret Taylor;拉里·萨默斯 (Larry Summers),克林顿时代的财政部长,也是彭博电视台的付费撰稿人;亚当·德安吉洛 (Adam D’Angelo) 是 Quora Inc. 的首席执行官,他仍留任上届董事会成员。
旧董事会——除了德安吉洛保留了原来的席位,塔莎·麦考利、海伦·托纳和OpenAI首席科学家伊利亚·苏茨克弗(Ilya Sutskever)都失去了在董事会的席位。
他们的辞职为这几天的惨淡画上了句号。不仅是因为解雇奥特曼的决定,还因为它的策划方式混乱——几乎没有沟通,也没有具体的例子来说明他们被据说如此困扰的行为。Toner 撰写的一篇研究论文对 OpenAI 的安全方法提出了一些批评,据说这是导致商誉破裂的一个因素。她的警告有一天可能会被证明是有预见性的。离开时,托纳和麦考利承诺奥特曼的领导层将接受独立调查。

OpenAI政变背后,是乔布斯式的创始人复仇记?或天才科学家的背水一战?
人们看到了风口浪尖的OpenAI CEO 奥特曼 Sam Altman,也注意到了率先动手的首席科学家苏茨克韦尔 Ilya Sutskever。
对于 OpenAI 本身来说,整个事件引发了一场“大军集结”,最终签署致董事会公开信、要求 Altman 回归的员工名单就证明了这一点。最终,该公司770名员工中,有710多人在信上签名,信中还要求现有董事会辞职;如果部分员工不依赖 OpenAI 工作来移民的话,这个数字可能会更高。而舆论和资本层上的压力则更为巨大。
到底是资本与科学的对决,还是不同方式对权力的追求而已?
这些投资人为什么想让Sam Altman回归?因为他们在OpenAI身上下了很大的赌注。微软,真金白银投了100亿美元,自己能否再次成为科技界的霸主,全靠OpenAI了。最近六七年,美国大部分新兴的科技公司都是做手机app的。所以,这些投资人们都疯狂了,迫不及待地呼喊着:再来一次!再来一次!那些在OpenAI的生态体系下存活的创业公司们更是惊恐,要是你OpenAI发生的变动不符合自己业务的发展方向,自己公司就死翘翘了。所以,有人声嘶力竭地在社交媒体上批评咒骂Ilya Sutskever,要他赶紧滚蛋,把OpenAI交给Sam Altman。为啥,阻碍别人发财,犹如杀人亲生父母。
卫报短纪录片 Ilya Sutskever,更近距离观察OpenAI的灵魂人物之一,首席科学家Ilya Sutskever。

OpenAI的灵魂人物是CEO Sam Altman,还是首席科学家Ilya Sutskever?
Ilya Sutskever的老师Geoffrey Hinton
Geoffrey Hinton,英国人,1947年出生。从小喜欢木工。但是为了谋生而去学习计算机,1978年获得爱丁堡大学的人工智能博士学位后,去了美国继续在学术界耕耘,后来因为对里根时代的政治理念破灭而移居加拿大,之后长期担任多伦多大学的计算机科学教授。在人工智能领域,他经过长期研究后,选择的是神经网络的技术路线。
但是,这个路线受限于当时计算机计算能力小、数据量小,出成果一直都很慢,因此一直不是热门方面,并不被外界看好。因此,喜欢看排名、追求风口的博士生都直接无视了这个方向。
Hinton教授自己说,到了1993年,46岁的他已经彻底死心了。研究进展缓慢,也没什么钱,生活也不太如意,中年两次丧偶,独自抚养两个孩子。他就是希望他的博士生们能继续坚持神经网络的方向,也许100年后会有突破。历史的进程比他预料得快得多。
10多年后,随着计算机的计算能力的高速提升,人类可获得的数据量的高速增长,神经网络方向的研究进展开始逐渐苏醒。
这个时候,Hinton教授招了两个博士生,Alex Krizhevsky和Ilya Sutskever。这两位博士生都是俄罗斯出生的,他们没有像其它寻常人一样选择其它热门领域,而是投奔了冷门的Hinton教授门下,显示出了他们非同寻常的个性。果然,这一点在未来的发展中也得到了验证。他们也各自做出了非同寻常的决定。
他们三人在2012年的时候完成了一个新型神经网络的开发,叫卷积神经网络,命名为AlexNet。这个AlexNet取得了重大突破,对图片识别的能力大大超过了人工智能其它技术路线的技术。当时有一项人工智能大赛ImageNet,其它技术的识别错误率大约是30%,而AlexNet的错误率提高了差不多一倍,达到15.3%,从而在2012年9月30日一举拿下ImageNet大赛的冠军。
余凯博士当时在百度领衔人工智能研发工作,立刻意识到了这项突破的重要性,于是联系Hinton教授希望合作,先提供100万美元研究经费。
随后几家美国公司也找上门来,同样希望合作,甚至提出希望独家合作。于是,Hinton师徒三人就成立了一家皮包公司DNN Research,公司只有他们三个人,没有业务,没有产品,没有收入。让大家自由出价,价高者得。
参加这场竞拍的有四家公司,百度、Google、微软、刚刚成立一年的英国人工智能公司DeepMind。
然后价格持续上升,随之变成了Google和微软的对决。
但是Hinton教授说,够了够了,你们太疯狂了,我们就3个人,你们竟然愿意炒到4400万美元。
当时Hinton师徒觉得,Google更有道德一些,毕竟“不作恶”写进了公司章程。那就接受Google的招安吧。
他们没想到谷歌与美国国防部进行的人工智能研究合作项目Project Maven在2018年曝光,员工们抗议,拿出公司章程“不作恶”条款要求公司管理层解释。谷歌管理层很快将“不作恶”这条公司章程删除。
当时,Hinton师徒拿到钱后,打算三人平分,每人1466万美元。两位博士生纷纷坚持,Hinton老师您应该拿40%,我们各30%就好了。随后三人就高高兴兴去Google上班了。Google随之设立了一个新部门:Google Brain谷歌大脑。
在那次竞拍后的一年多后的2014 年1月26日,Google以6.5亿美元把四位竞拍者中的DeepMind也收购了。当时DeepMind的员工数是50人。算下来,人均价格相当于Hinton师徒的88折。
随后,Google派了Google Brain即Hinton师徒三人去帮助DeepMind。
2014年开始开发人工智能围棋软件 AlphaGo。2016年AlphaGo击败人类世界冠军李世石。
2019年,专门用来玩星际争霸的AlphaStar以10:1战胜人类职业玩家,在团队协作人工智能领域取得突破。
2018年,用于预测蛋白质折叠结构的AlphaFold取得突破,这个方向上的科学问题基本得到解决。其影响是,一些使用基因测序仪器对蛋白质测序然后构建结构的科研人员开始要转型。
DeepMind的管理层认为自己的技术过于强大,不应该让私人公司独占,而应该属于全人类,这对整个人类社会都更有益。而在隶属于Google的这几年里,Google的表现并不能让DeepMind满意,于是这几年来,他们一直在寻求从Google中独立出来。
Hinton教授是2023年从Google退休。为了能够自由谈论人工智能风险,而不考虑这对谷歌的影响。纽约时报的报道中,Hinton直接警示世人:注意,前方有危险,前方有危险,前方有危险!
而正是对人工智能风险深深地担忧,让这位深度学习巨佬直言:我对自己的毕生工作,感到非常后悔。是不是象当年的爱因斯坦,爱因斯坦提出了质能转换公式,为制造原子弹奠定了基础。然而,当原子弹真正应用于战争时,爱因斯坦始终背负着无法释怀的愧疚。
博士生之一的Alex Krizhevsky在2017年从Google退休,不再涉足人工智能。单算他加入Google前卖公司拿到的1320万美元也够生活了。因为一般美国人,一辈子挣的钱不会超过100万美元。
博士生之一的Ilya Sutskever的变动更早一点,是在2015年。Ilya Sutskever是1985年出生于俄罗斯,5岁随家人移居以色列,所以应该是犹太人,成年后又随家人移居加拿大,继而加入Hinton教授门下。
Ilya Sutskever也是个生活很简单的人,和乔布斯、马斯克、扎克伯格类似,同样的衣服买一打轮着穿,吃喝尽可能简单,要能快速完成,家里家具越少越好,一个床垫就能睡觉。应酬、晚宴、party、舞会邀约很多,但是基本都不去。
所以,师徒三人组里,还干得动、还能干的,就剩下Ilya Sutskever了。
而硅谷一帮大佬,看着谷歌垄断了人工智能的人才,就想着要搞事情。你谷歌吃独食可不好,我们也要分一杯羹。
于是,2015年,硅谷一众大佬就把Ilya Sutskever约出来吃饭。这些人包括风投之王Peter Thiel,特斯拉的马斯克,当时还是孵化器Y Combinator总裁的Sam Altman,LinkedIn创始人Reid Hoffman,本次政变中也有出场的Stripe的CTO Grey Brockman。在这个饭局上,大家谈妥了。
Ilya Sutskever从谷歌出来,围绕他打造一个属于他的人工智能实验室OpenAI。让AI普及化,让硅谷所有人都能用上AI,不要让谷歌垄断,造福全人类。这个OpenAI就设为非盈利组织。
而2015年的OpenAI为什么要故意设为非盈利机构,就是因为当时想的是让OpenAI去专心搞研发,搞出来了服务全人类,大家一起用,避免像Google那样垄断。刚满30岁的Ilya Sutskever非常认可这一使命,就干了。
为什么这个OpenAI要设为非盈利组织?这涉及到硅谷一个知名的大悲剧。维基百科的创始人Jimmy Wales,设立维基百科的时候,对公司治理不熟悉,想着属于全人类的百科全书应该属于有公信力的机构,于是就把自己的公司设立为非盈利组织。这下坏了,由于公司治理法规的限制,非盈利组织只能靠捐款存活,融资困难,上市无望。所以,有了维基百科这个反面案例在,所有硅谷的人都不会使用非盈利机构这个架构。因为赚不了钱。而2015年的OpenAI为什么要故意设为非盈利机构,就是因为当时想的是让OpenAI专心搞研发,服务全人类,大家一起用,避免像Google那样垄断。Ilya Sutskever非常认可
然后,马斯克捐了1亿美元,其它人凑了3000万美元,合计1.3亿美元当启动经费。马斯克与Sam Altman同为OpenAI联席董事长。干活的,就Ilya Sutskever一个人,他再去招人组团队。
当时定的是Ilya Sutskever在OpenAI的待遇是年薪190万美元,和他在谷歌时差不多。从谷歌辞职时,谷歌大力挽留,愿意将Ilya Sutskever的待遇提高到400万美元乃至500万美元,只要他愿意留下来。Ilya Sutskever说不,我要去创立一个技术不被私营企业垄断的新平台。
所以说,对于Ilya Sutskever,当初2012年谷歌买Hinton师徒的公司时,生活简单的Ilya Sutskever认为他已经拿到了足够的金钱。2015年离开Google、拒绝Google的500万美元年薪去一个未来不确定的非盈利性质的初创小平台,完全不是金钱驱动,而是有着更远大的目标。
因为Hinton师徒选择的这条路,有点漫长,出成果都挺慢的。其它人在掌握了AlexNet架构后,提出了众多的改进路线。例如一种叫人类反馈强化学习(RLHF)。举个例子,人工智能目前会算1+1=2,但是不会算5*4=20。那人类反馈强化学习就会强迫人工智能先把5*4=20记下来,你不理解也不管,总之以后我问你5*4等于多少你必须回答等于20。其它人把这种方法一实施,短期的效果非常好,立刻在各项评测里将Hinton师徒的技术打败。Hinton师徒则认为这属于人工激素催肥,不合理,应该让人工智能慢慢学,自己理解,这样才会有真正的发展。

OpenAI 前CEO 奥特曼 Sam Altman,与OpenAI 首席科学家 Ilya Sutskever
所以OpenAI从创立的2015年到2019年都进展缓慢。而马斯克等大佬捐的1.3亿美元就花完了。怎么办?两位联席董事长发生了分歧。马斯克仍然坚持要继续非盈利的路线。而Sam Altman主张要转型,这样研发下去是无底洞,要转型走传统私营公司的模式,融资干活,然后盈利,然后上市,然后成为AI霸主。两方随后一拍两散,马斯克撒手。Sam Altman成为董事长。
然后在OpenAI下面成立一个常规的私营子公司,由私营子公司去融资、赚钱,然后OpenAI维持非盈利的公司治理架构。在2019年转型后,OpenAI开始大规模融资。7月份开始,微软注资10亿美元。其它风投公司跟进。然后之后的每一年都进行一次或两次融资。在2023年年初的第七次融资时,微软大手笔一挥,投下100亿美元重注。这些年来,微软把能买的OpenAI的权利都买了,2020年买的是GPT3的基础技术许可授权、技术集成的优先授权,2021年买的是技术商业化授权,对外提供付费API和AI工具的授权。2023年100亿美元下去,则是获得了将ChatGPT整合进Bing搜索引擎的授权。
Ilya Sutskever认为,人工智能在2016年的时候已经出现超越人类智力的信号。当时在AlphaGo与李世石的第二局比赛中,第37步,走出了非常特殊的一步。这一步被人类评论员认为是水平奇差无比的败着。而结果呢,那一步是奠定整盘胜局的核心一步。这是人类历史上从来没有过的对弈思路。所以,通用人工智能AGI必然很快能超过人类。
当其它人还在苦苦思索如何建造一个能赶得上人类思维水平的AGI系统时,Ilya Sutskever已经领先一步,他认为,AGI必然很快能超过人类,所以应该从现在开始为面对超越人类智慧的AI作准备。他认为,AGI和人类最合适的关系是父母和婴儿的关系,AGI是父母,人类是婴儿,AGI父母无时无刻不为婴儿人类着想,让婴儿人类活得更好。而现有的控制AGI的方法不适用于比人类更聪明的人工智能。因为当前的模型是假设人类可以可靠地评估人工智能系统的工作。随着人工智能系统的能力越来越强,人类不知道怎么评估它们,不知道在每一项改动后,它们是做得更好还是更差。这会导致AGI无法被控制。
因此,在2023年7月,Ilya Sutskever拉上同事Jan Leike,在OpenAI内部成立了一个小部门,叫Superalignment超级对齐。目标是制定一套故障安全程序来控制AGI技术,计划将OpenAI全公司的计算资源的五分之一分配给这个部门,并在四年内解决这个问题。然后,在有了这种控制技术后,才把AGI技术开放给人类使用。硅谷很多人对Ilya Sutskever的这套“超级对齐”的思路嗤之以鼻,而且认为Ilya Sutskever会阻碍OpenAI的发展。
两天前,Sam在APEC上随口提到OpenAI最近取得了一项巨大突破,并将其称之为“其8年历史中的第4次突破,将知识的界限向前推进” 然后 Sam 就被减速派突然罢免了"
一种推测是:GPT5的实力超出了所有人的预期,即GPT-5 已经取得某种颠覆性突破。关于下一步如何发展,Sam 和 Ilya 产生了巨大的分歧(有效加速主义 vs. 减速派),导致了这场周末宫斗。
Ilya对GPT5的超预期发展感到恐慌,先和三位独立董事谈话,说服了他们,凑够了四票。然后在Sam Altman和Greg Brockman两人不在场的情况下,开了一次董事会,做出决定炒了Sam Altman。
总之,OpenAI大概率是已经取得了OpenAI 某些惊人的突破,所以让几方势力突然坐不住了。正如去年ChatGPT登场时的惊艳,这一年它一直在给我们的世界带来惊喜,未来已来,我们每个人应该在科技变革中保持学习,才能不被时代落下。
