OpenAI政变背后是科学家首创人的悲歌

作者：好奇心君

泉源：公众号《未来预言机》

客岁11月突然推出ChatGPT震动天下的OpenAI，在整整一年后以闪电解职CEO再次震动天下。

有不少人以为这拿的是乔布斯的脚本，错了，这着实是天才科学家奋力一击的故事。

OpenAI的魂魄人物不是CEO Sam Altman，而是其首创人之一、首席科学家Ilya Sutskever。

我们先看看水面上的冰山一角，然后再潜入水下看看合订本。

OpenAI的董事会共6人。

三人是公司的高管：

Sam Altman，OpenAI前CEO，犹太人，原Y Combinator孵化器的总裁。Sam Altman的更多故事见《不懂新冠的AI大佬不是亿万富翁》《美国防部长引导新冠防疫，我们该怎样怀念吴老师》。

Greg Brockman，OpenAI前董事会主席兼总裁，美版付出宝Stripe的前CTO，《不懂新冠的AI大佬不是亿万富翁》里提到的天才青年、Stripe的CEO Patrick Collison的副手。Sam Altman曾投资过Stripe。以是，Greg Brockman算是Sam Altman的小弟，属于工具人。

Ilya Sutskever，OpenAI首创人之一，首席科学家。

三名外部独立董事：

Adam D'Angelo，美版知乎Quora的CEO，现在也在公司内部搞雷同ChatGPT的大模子Poe。

Tasha McCauley，一个女性创业者，前GeoSim CEO，好莱坞明星囧瑟夫的老婆。

Helen Toner，乔治敦大学一个研究中心的主管。

首席科学家Ilya Sutskever先和三位独立董事发言，说服了他们，凑够了四票。然后在Sam Altman和Greg Brockman两人不在场的情况下，开了一次董事会，做出决定炒了Sam Altman。

然后11月16日周四晚上，Ilya Sutskever发短信给Sam Altman，约在周五中午发言。周五中午，两边连入了Google在线视频集会，Ilya Sutskever一方四人都在。他们简短地关照Sam董事会决定，说他已经被炒了。然后竣事集会。

稍后，Ilya Sutskever再发短信给Greg Brockman要求打一个quick call简短的电话。两边随即连入Google视频集会。Ilya Sutskever关照Greg他已被扫除董事长职务，以及Sam Altman也已被开除。

整个过程闪电般地竣事，非常干净敏捷，没有一点拖泥带水。

随后，Ilya Sutskever在OpenAI召开全体员工集会，公布董事会决定。CTO Mira Murati成为临时CEO。

在全体员工集会上，有人问：这是一场政变吗？

Ilya Sutskever答复：你可以这么说。但这只是“the board doing its duty董事会在尽本身的责任”。

但是，变乱还没完。

不到24小时，OpenAI的最大几个投资人，包罗投了100亿美元的微软、Thrive Capital、老虎基金（Tiger Global Management）、红杉资源，都对OpenAI施予巨大压力，要求让Sam Altman回归复职。

OpenAI董事会受到了巨大的压力。

这些投资人为什么想让Sam Altman回归？由于他们在OpenAI身上下了很大的赌注。

微软，真金白银投了100亿美元，本身可否再次成为科技界的霸主，端赖OpenAI了。

Thrive Capital、老虎基金、红杉资源，不但投资了OpenAI，等待其成为AI范畴的万亿规模的霸主，从而本身能狂赚一笔，而且还投了一大堆在OpenAI的生态体系内的创业公司，就等着OpenAI的应用市场一开，就能吹出一堆AI小独角兽。

这就像苹果的应用市肆一开门，手机app就变成了风口上的猪。近来六七年，美国大部门新兴的科技公司都是做手机app的。

以是，这些投资人们都疯狂了，如饥似渴地呼唤着：再来一次！再来一次！

那些在OpenAI的生态体系下存活的创业公司们更是恐慌，要是你OpenAI发生的变更不符合本身业务的发展方向，本身公司就死翘翘了。以是，有人声嘶力竭地在外交媒体上品评唾骂Ilya Sutskever，要他赶紧滚蛋，把OpenAI交给Sam Altman。为啥，拦阻别人发财，犹如杀人亲生父母。

那为什么这些人以为Sam Altman能实现他们的想法，而首席科学家Ilya Sutskever不能实现他们的想法？

这就要从Ilya Sutskever的老师Geoffrey Hinton提及。Geoffrey Hinton传授的更多故事见《贫苦和阶级滑完工常态，新冠AI再暴击，大神荐社会主义》。

Geoffrey Hinton，英国人，1947年出生。从小喜欢木匠。但是为了营生而去学习盘算机，1978年得到爱丁堡大学的人工智能博士学位后，去了美国继承在学术界耕耘，厥后由于对里根期间的政管理念幻灭而移居加拿大，之后恒久继承多伦多大学的盘算机科学传授。

在人工智能范畴，他颠末恒久研究后，选择的是神经网络的技能蹊径。

但是，这个蹊径受限于其时盘算机盘算本事小、数据量小，出结果不绝都很慢，因此不绝不是热门方面，并不被外界看好。因此，喜欢看排名、寻求风口的博士生都直接无视了这个方向，和传授套瓷都不往这个方向靠。

Hinton传授本身说，到了1993年，46岁的他已经彻底断念了。研究盼望痴钝，也没什么钱，生存也不太快意，中年两次丧偶，独自抚养两个孩子。

他就是盼望他的博士生们能继承对峙神经网络的方向，大概100年后会有突破。

汗青的历程比他预料得快得多。

10多年后，随着盘算机的盘算本事的高速提升，人类可得到的数据量的高速增长，神经网络方向的研究盼望开始渐渐清醒。

这个时间，Hinton传授招了两个博士生，Alex Krizhevsky和Ilya Sutskever。

这两位博士生都是俄罗斯出生的，他们没有像别的寻凡人一样选择别的热门范畴，而是投奔了冷门的Hinton传授门下，表现出了他们非同寻常的个性。果然，这一点在未来的发展中也得到了验证。他们也各自做出了非同寻常的决定。

他们三人在2012年的时间完成了一个新型神经网络的开发，叫卷积神经网络，定名为AlexNet。我非常猜疑这是用此中一位博士生Alex Krizhevsky的名字来定名的，但是我没有证据。

这个AlexNet取得了庞大突破，对图片辨认的本事大大高出了人工智能别的技能蹊径的技能。其时有一项人工智能大赛ImageNet，别的技能的辨认错误率约莫是30%，而AlexNet的错误率进步了差不多一倍，到达15.3%，从而在2012年9月30日一举拿下ImageNet大赛的冠军。

余凯博士其时在百度领衔人工智能研发工作，立即意识到了这项突破的紧张性，于是接洽Hinton传授盼望相助，先提供100万美元研究经费。

随后几家美国公司也找上门来，同样盼望相助，乃至提出盼望独家相助。

于是，Hinton师徒三人就创建了一家皮包公司DNN Research，公司只有他们三个人，没有业务，没有产物，没有收入。让各人自由出价，价高者得。

加入这场竞拍的有四家公司，百度、Google、微软、刚刚创建一年的英国人工智能公司DeepMind。

余凯博士代表百度起首报价1200万美元。

然子女价连续上升，随之变成了Google和微软的对决。

两家都志在必得，都乐意继承加价。

但是Hinton传授说，够了够了，你们太疯狂了，我们就3个人，你们竟然乐意炒到4400万美元。

其时Hinton师徒以为，Google更有道德一些，毕竟“不作歹”写进了公司章程。那就担当Google的招安吧。

他们没想到谷歌与美国国防部举行的人工智能研究相助项目Project Maven在2018年曝光，员工们抗议，拿出公司章程“不作歹”条款要求公司管理层表明。谷歌管理层很快将“不作歹”这条公司章程删除。

其时，Hinton师徒拿到钱后，计划三人中分，每人1466万美元。两位博士生纷纷对峙，Hinton老师您应该拿40%，我们各30%就好了。随后三人就高高兴兴去Google上班了。Google随之设立了一个新部门：Google Brain谷歌大脑。

Google和微软一看对方预备在人工智能范畴投入这么大手笔，也开始了在这一范畴的军备比赛。

在那次竞拍后的一年多后的2014 年1月26日，Google以6.5亿美元把四位竞拍者中的DeepMind也收购了。其时DeepMind的员工数是50人。算下来，人均代价相称于Hinton师徒的88折。

随后，Google派了Google Brain即Hinton师徒三人去资助DeepMind。

DeepMind很快取得环球瞩目标结果。

2014年开始开发人工智能围棋软件 AlphaGo。2016年AlphaGo击败人类天下冠军李世石。

2019年，专门用来玩星际争霸的AlphaStar以10:1降服人类职业玩家，在团队协作人工智能范畴取得突破。

2018年，用于推测卵白质折叠布局的AlphaFold取得突破，这个方向上的科学题目根本得到办理。其影响是，一些利用基因测序仪器对卵白质测序然后构建布局的科研职员开始要转型。听说这是某女博士返国的缘故原由之一，这个不相识，纯八卦。

DeepMind的管理层以为本身的技能过于强盛，不应该让私家公司独占，而应该属于全人类，这对整个人类社会都更有益。而在从属于Google的这几年里，Google的表现并不能让DeepMind满意，于是这几年来，他们不绝在寻求从Google中独立出来。

Hinton师徒三人也有雷同的想法。

Hinton传授是2023年从Google退休。

博士生之一的Alex Krizhevsky在2017年从Google退休，不再涉足人工智能。单算他参加Google前卖公司拿到的1320万美元也够生存了。由于一样平常美国人，一辈子挣的钱不会高出100万美元。

博士生之一的Ilya Sutskever的变更更早一点，是在2015年。

Ilya Sutskever是1985年出生于俄罗斯，5岁随家人移居以色列，以是应该是犹太人，成年后又随家人移居加拿大，继而参加Hinton传授门下。

Ilya Sutskever也是个生存很简单的人，和乔布斯、马斯克、扎克伯格雷同，同样的衣服买一打轮着穿，吃喝尽大概简单，要能快速完成，家里家具越少越好，一个床垫就能睡觉。应酬、晚宴、party、舞会邀约许多，但是根本都不去。

以是，师徒三人组里，还干得动、还醒目的，就剩下Ilya Sutskever了。

而硅谷一帮大佬，看着谷歌把持了人工智能的人才，就想着要搞变乱。你谷歌吃独食可欠好，我们也要分一杯羹。

于是，2015年，硅谷一众大佬就把Ilya Sutskever约出来用饭。这些人包罗风投之王Peter Thiel，特斯拉的马斯克，其时照旧孵化器Y Combinator总裁的Sam Altman，LinkedIn首创人Reid Hoffman，本次政变中也有出场的Stripe的CTO Grey Brockman。

在这个饭局上，各人谈妥了。

Ilya Sutskever从谷歌出来，围绕他打造一个属于他的人工智能实行室OpenAI。让AI遍及化，让硅谷全部人都能用上AI，不要让谷歌把持，造福全人类。这个OpenAI就设为非红利构造。

为什么这个OpenAI要设为非红利构造？

这涉及到硅谷一个着名的大悲剧。维基百科的首创人Jimmy Wales，设立维基百科的时间，对公司管理不熟悉，想着属于全人类的百科全书应该属于有公信力的机构，于是就把本身的公司设立为非红利构造。这下坏了，由于公司管理法规的限定，非红利构造只能靠捐款存活，融资困难，上市无望。因此，固然维基百科发展敏捷成为天下第一大百科网站，但是其首创人和高管层照旧穷得响叮当。Jimmy Wales痛不欲生，多次痛哭搞砸了公司管理架构。那也是，别的的子弟小弟们搞的在线订旅店、在线打车、在线结交、在线实名结交、在线匿名结交、在线同性恋匿名结交、乃至在线黄色小网站什么的，齐备火红火红，上市赚大钱，财产自由，本身却被这非红利构造的架构困死。

以是，有了维基百科这个反面案例在，全部硅谷的人都不会利用非红利机构这个架构。由于赚不了钱。

而2015年的OpenAI为什么要故意设为非红利机构，就是由于其时想的是让OpenAI去用心搞研发，搞出来了服务全人类，各人一起用，克制像Google那样把持。

刚满30岁的Ilya Sutskever非常认可这一任务，就干了。

然后，马斯克捐了1亿美元，别的人凑了3000万美元，合计1.3亿美元当启动经费。马斯克与Sam Altman同为OpenAI联席董事长。

干活的，就Ilya Sutskever一个人，他再去招人组团队。

以是，其时的情况就是十个人围观，看着Ilya Sutskever一个人干活。

也没办法，其时也就Ilya Sutskever一个人懂这活是怎么干的。

其时定的是Ilya Sutskever在OpenAI的报酬是年薪190万美元，和他在谷歌时差不多。从谷歌辞职时，谷歌鼎力大举挽留，乐意将Ilya Sutskever的报酬进步到400万美元以致500万美元，只要他乐意留下来。

Ilya Sutskever说不，我要去创建一个技能不被私营企业把持的新平台。

以是说，对于Ilya Sutskever，当初2012年谷歌买Hinton师徒的公司时，生存简单的Ilya Sutskever以为他已经拿到了富足的款子。2015年脱离Google、拒绝Google的500万美元年薪去一个未来不确定的非红利性子的初创小平台，完全不是款子驱动，而是有着更宏大的目标。

之后，OpenAI的发展并不是一帆风顺的。

Ilya Sutskever的头发掉得也很快。

由于Hinton师徒选择的这条路，有点漫长，出结果都挺慢的。别的人在把握了AlexNet架构后，提出了浩繁的改进蹊径。比方一种叫人类反馈强化学习(RLHF)。举个例子，人工智能现在会算1+1=2，但是不会算5*4=20。那人类反馈强化学习就会逼迫人工智能先把5*4=20记下来，你不明确也不管，总之以后我问你5*4便是多少你必须答复便是20。别的人把这种方法一实行，短期的结果非常好，立即在各项评测里将Hinton师徒的技能打败。Hinton师徒则以为这属于人工激素催肥，不公道，应该让人工智能渐渐学，本身明确，如许才会有真正的发展。

以是OpenAI从创建的2015年到2019年都盼望痴钝。而马斯克等大佬捐的1.3亿美元就花完了。

怎么办？两位联席董事长发生了分歧。马斯克仍然对峙要继承非红利的蹊径。而Sam Altman主张要转型，如许研发下去是无底洞，要转型走传统私营公司的模式，融资干活，然后红利，然后上市，然后成为AI霸主。

两方随后一拍两散，马斯克撒手。Sam Altman成为董事长。然后在OpenAI下面创建一个通例的私营子公司，由私营子公司去融资、赢利，然后OpenAI维持非红利的公司管理架构。

在2019年转型后，OpenAI开始大规模融资7月份开始，微软注资10亿美元，别的风投公司Khosla Ventures、LinkedIn首创人的个人基金Reid Hoffman Foundation、Matthew Brown Companies等等竞相跟进。然后之后的每一年都举行一次或两次融资。在2023年年初的第七次融资时，微软大手笔一挥，投下100亿美元重注。这些年来，微软把能买的OpenAI的权利都买了，2020年买的是GPT3的底子技能允许授权、技能集成的优先授权，2021年买的是技能商业化授权，对外提供付费API和AI工具的授权。2023年100亿美元下去，则是得到了将ChatGPT整合进Bing搜索引擎的授权。以是微软的想法是，将OpenAI完全融入微软，方式可以再谈，可以通盘收购，可以是技能全部授权，可以是别的，总是，你的就是我的。

马斯克在近来这些年里，不绝品评OpenAI的转向，他表现不明确，他当初投了1亿美元的非红利机构OpenAI，怎么就变成了红利性机构？他完全差异意这个发展方向。但是没办法，话语权不敷大，董事会里票数不敷多。别的人硬来，没办法。以是马斯克在2023年又创建了本身的AI公司xAI。

马斯克不是唯一反对OpenAI转向的人。低调的Ilya Sutskever也是。他的反抗没有出现在媒体里，但是出现在了OpenAI对微软的授权条款里。

在OpenAI的授权条款里，有一项差异寻常的规定：

OpenAI对微软的全部授权和商业条款，仅限于OpenAI实现AGI之前。一旦OpenAI实现了AGI，该技能不对微软开放，之前告竣的全部授权和商业条款对AGI体系和AGI技能无效。

什么是AGI？AGI的界说是：通用人工智能，一个高度自治的体系，在工作中的本事高出人类。

而怎么判定有没有到达AGI呢？这由OpenAI的董事会片面来决定。而现在，这个OpenAI的董事会，就是文章开头提到的那六人董事会。

也就是说，Ilya Sutskever试图通过这个条款握住外部股东的咽喉，一旦技能到达突破或对方有异动，立即斩断其喉咙。

这个条款不是机密条款。硅谷的人都知道。而且在2023年10月份开始在硅谷有了公开讨论。

这表现出什么？表现出，微软大概要有动作，来消除这个条款造成的不确定性，来包管它能顺遂把OpenAI吞到肚子里去，使本身能100%确定无疑成为人工智能范畴的霸主。

微软大概的动作包罗尽快全资收购OpenAI，改组OpenAI董事会以确保本身能控制董事会的投票，将Ilya Sutskever提走等等。

除了微软这一方的权势，第二方权势是投资基金，他们投入了天量的资金在人工智能赛道上，正等着暴富。

第三方权势是在OpenAI生态下举行开发的小公司们，他们公司的生死都依赖着OpenAI的盼望。

第四方权势是Sam Altman。要注意，固然他现在是OpenAI的CEO，但是他没有任何股权，唯一的投资收益是几年前通过Y Combinator在OpenAI天使轮投进去的一点点，对于个人来说收益可以说是聊胜于无。而通常来说，一个CEO持有公司10%的股份是通情达理的。那么，对于Sam Altman来说，怎样将本身的长处变现，是个非常猛烈的动机，毕竟，各人都看到了，将OpenAI红利化以后，是个万亿美元级别的行业霸主，那么，以通常情况来盼望，Sam Altman会盼望得到1000亿美元的收益。

那么，题目来了，Sam Altman在没有OpenAI股份的情况下，要怎么才气将这1000亿美元的盼望值变现呢？1000亿美元哦，没有人会乐意放手。此中一个办法是Sam Altman和股东勾兑，比方和微软勾兑，通过微软兑现。

当前，Ilya Sutskever现在是以一人之力，对抗四大气力。

各位能在媒体上、外交平台上能看到支持Ilya Sutskever的声音吗？看不到，一点都看不到。信赖各人能看到许多声音，都是想他死的。毕竟，挡人财路，犹如杀人亲生父母。

马斯克和Hinton老师倒是和他的理念划一，但是现在在事外，插不上手。

除了Ilya Sutskever握住四局权势的喉咙外这个焦点缘故原由外，Ilya Sutskever另有一个地方招人恨。就是Ilya Sutskever盼望AGI通用人工智能的商业化能慢一点。这与别的权势的赶紧放开赶紧暴富的想法南辕北辙。

Ilya Sutskever以为，人工智能在2016年的时间已经出现逾越人类智力的信号。其时在AlphaGo与李世石的第二局比赛中，第37步，走出了非常特殊的一步。这一步被人类批评员以为是水平奇差无比的败着。而结果呢，那一步是奠基整盘胜局的焦点一步。这是人类汗青上从来没有过的对弈思绪。

以是，通用人工智能AGI一定很快能高出人类。当别的人还在苦苦思考怎样制作一个能赶得上人类头脑水平的AGI体系时，Ilya Sutskever已经领先一步，他以为，AGI一定很快能高出人类，以是应该从现在开始为面对逾越人类智慧的AI作预备。

他以为，AGI和人类最符合的关系是父母和婴儿的关系，AGI是父母，人类是婴儿，AGI父母无时无刻不为婴儿人类着想，让婴儿人类活得更好。

而现有的控制AGI的方法不实用于比人类更智慧的人工智能。由于当前的模子是假设人类可以可靠地评估人工智能体系的工作。随着人工智能体系的本事越来越强，人类不知道怎么评估它们，不知道在每一项改动后，它们是做得更好照旧更差。这会导致AGI无法被控制。

因此，在2023年7月，Ilya Sutskever拉上同事Jan Leike，在OpenAI内部创建了一个小部门，叫Superalignment超等对齐。目标是订定一套故障安全步伐来控制AGI技能，操持将OpenAI全公司的盘算资源的五分之一分配给这个部门，并在四年内办理这个题目。然后，在有了这种控制技能后，才把AGI技能开放给人类利用。

硅谷许多人对Ilya Sutskever的这套“超等对齐”的思绪嗤之以鼻，而且以为Ilya Sutskever会拦阻OpenAI的发展。四年以后才开放利用？不可，我要暴富，我要本年就暴富，我要本年就财产自由，我要来日诰日就暴富，我要来日诰日就财产自由。

以是，昨天传出消息，各局权势欺凌OpenAI董事会驱逐重组，让Sam Altman回归继承CEO。由于这最能保障他们的长处。而Sam Altman一回归，一定改组董事会，将Ilya Sutskever踢出，确保本身牢牢把握董事会。

Ilya Sutskever接下来会怎样呢？

这是一曲科学家首创人的搏击之歌。

我倒是盼望Ilya Sutskever能对峙下去，果断不向四局权势妥协，果断把握董事会。

毕竟，别的人想要一个巨型印钞机，一个人工智能范畴的霸主。

而Ilya Sutskever想要一个能像父母照顾婴儿一样平常来照顾人类的人工智能。