《纽约客》3万字揭底奥特曼：AI战争，最后拼的还是人性

微信邦

在OpenAI旧金山总部的走廊里，挂着一幅会动的数字画像。画中人是阿兰·图灵，计算机科学的奠基者。这幅画有一个特别的功能：当员工从旁边走过的时候，图灵的眼睛会跟着他们转动。
但它的声音被关掉了。原因是：它总是偷听员工的对话，然后插嘴。
上个月，《纽约客》发布了一篇关于OpenAI创始人山姆·奥特曼的长篇报道，翻译过来将近3万字，作者采访了数十位知情人，包括前员工、董事会成员、投资人、亲历者，有些人甚至从未公开发言过。
这不是一篇关于AI技术的文章，而是一篇关于人的文章——关于野心、信任、背叛，以及当一个人手握可能改变人类文明的技术时，他脑子里在想什么。
今天，得到App AI学习圈主理人快刀青衣老师，把里面最让他震撼的几个瞬间整理出来，分享给你。作者：快刀青衣
来源：得到App《AI学习圈》

第一个瞬间，是关于一个词，叫做“食人族岛”。2008年，Y Combinator创始人保罗·格雷厄姆（Paul Graham）写下过一句评价奥特曼的话：“你可以把他空降到一个满是食人族的岛上，五年后回来，他就是国王了。”这句话在硅谷被广泛流传，几乎成了对奥特曼最经典的背书。格雷厄姆的意思很简单：这个人有一种近乎超自然的生存与统治本能，无论被丢到什么环境里，他都会找到办法爬到最顶端。大概是OpenAI刚成立的时候，我跟着万维钢老师的课去研究了几个创始人的背景，所以我对格雷厄姆的这句评价记忆犹新。然后，大约十年之后，格雷厄姆私下对一位同事说了另一句话：“奥特曼一直在对我们撒谎。”同一个人，同一位导师，前后两句话。报道里还有一句话，是一位曾经在奥特曼手下工作过的前员工的回忆。他说，奥特曼曾经对他说过这样一句话：“我不在乎钱。我更在乎权力。”这句话有点太直白，直白到让人怀疑是不是假的。但报道里的描述是认真的。报道里还提到，有一位董事会成员说：奥特曼有两种特质，几乎从未在同一个人身上同时出现过。第一，是极强的取悦欲，他希望在任何一次互动里都被喜欢。第二，是一种近乎反社会人格的特质，也就是对欺骗他人可能带来的后果几乎不在乎。换句话说：他是那种让你觉得“他真的在乎我”的人，但同时，欺骗你这件事，对他来说没有任何心理成本。第二个瞬间，是OpenAI总裁格雷格·布罗克曼（Greg Brockman）日记里的两句话。我并不想让你觉得，奥特曼只是一个孤立的异类。报道里提到一个细节，主角是格雷格·布罗克曼，长期以来被视为奥特曼最忠实的盟友，也是整个公司技术层面的核心人物之一。布罗克曼有写日记的习惯，报道里引用了他日记里的两句话。第一句是：“只要没有别人因此变富，我乐意不在这件事上致富。”这句话写于OpenAI早期，那时候公司还是非营利性质，创始团队普遍相信自己在做一件关乎人类命运的事。布罗克曼在日记里写下这句话，听上去像是一个郑重的自我承诺。但第二句，同样出自他的日记。他问自己：“那么我真正想要什么？”然后写下了自己的答案，其中一条是：“让我达到十亿美元的财务状况。”我读到这里时，有一种说不清的感觉。不是愤慨，而是一种更冷的东西。这两句话在同一本日记里，我并不清楚它们是不是写于同一天，但它们并排出现在这篇报道里，产生了一种令人不舒服的化学反应。而让我真正停下来的，是这两句话背后所代表的整个生态：在那个时候，这帮人口口声声说着非营利、说着使命、说着要对人类负责，而他们内心深处都清楚地知道，这件事如果成了，将意味着什么量级的财富和权力。报道里还有一段来自布罗克曼的话，是他跟同事达里奥·阿莫迪（Dario Amodei）的对话。阿莫迪追问他，到底最在乎什么，布罗克曼的回答是：“金钱和权力。”阿莫迪是OpenAI早期最重要的研究员之一，后来离开创立了Anthropic，也就是现在Claude背后的公司。他离开之前，写了一份超过两百页的备忘录，记录了自己在OpenAI的经历，副标题是：“私人：不要分享。”这份文件后来在硅谷同事之间广泛传阅。你看，这也确实很魔幻，越是写着“不要分享”的内容，传播起来反而越快。这里再插一句，这篇长文是在4月份《纽约客》上发布的。而就在这个月，马斯克和奥特曼之间的“狗血”案件已经开庭了，各种AI领域的关键人物必须出庭，包括布罗克曼和阿莫迪，连微软当家人萨提亚·纳德拉（Satya Nadella）也被要求出庭。其中让我印象特别深的是，法官要求布罗克曼当庭念自己早期写过的日记。甚至到这个时候，大家才发现，布罗克曼连早期承诺要合伙投入的10万美元，都没有实际注资，而他现在在OpenAI的股份价值已经超过了300亿美元。此外，咱们刚才说到的阿莫迪，在那份备忘录中，被传播最广的一句话就是：“OpenAI的问题就是奥特曼本人。”说实话，看这段的时候，我脑海里突然出现的画面，居然是当年姜文电影里的那个经典镜头“正经人谁写日记啊”。嘘，这里必须屏蔽罗老师。第三个瞬间，是阿莫迪把合同当场念了出来。阿莫迪的愤怒不是抽象的，报道里有一个具体的场景。很多同学都知道，阿莫迪之前是OpenAI安全团队的负责人，出走之后才创办了现在的公司，推出了ChatGPT最大的竞争对手Claude。不过此前关于他在OpenAI内部经历了什么，外界报道并不多。这篇文章里提到了一个场景。2019年前后，OpenAI与微软谈判了一笔巨额投资。在最终的合同里，有一条关于“合并与协助”的条款，大意是OpenAI在特定情况下需要配合微软的利益。这条条款引起了阿莫迪的警惕。他认为，这与OpenAI对安全的公开承诺直接冲突。他去找奥特曼确认。没想到奥特曼告诉他：那条条款不存在。阿莫迪不相信。他把合同拿出来，当着奥特曼和在场所有人的面，一字一句把那段文字大声念了出来。念完之后，他看着奥特曼。奥特曼沉默了。最终，在场的另一位同事不得不直接向奥特曼确认：是的，那个条款就在合同里。我读到这一段的时候，有一种奇特的感受。因为这个场景太熟悉了，这种事每天都会在无数公司的会议室里发生：一个人矢口否认某件事的存在，另一个人不得不把证据当场念出来。但没想到，这样的事情会发生在全世界最顶尖的几个AI大神身上。阿莫迪随后把这件事记入了他那份两百页的备忘录，标注道：“OpenAI安全章程的百分之八十刚刚被背叛了。”没过多久，他和妹妹丹妮拉，以及另外几位同事一起离开了OpenAI，创立了Anthropic。打个简单粗暴的比方，这件事就有点像公司骨干对老板贴脸开大，老板拒不承认，顶梁柱愤然出走。第四个瞬间，是伊利亚·苏茨克维（Ilya Sutskever）的七十页黑材料。如果说阿莫迪的离开是一次公开的决裂，那苏茨克维的行动，则更像是一场发生在黑暗里的、缓慢的内心崩塌。苏茨克维是OpenAI的联合创始人，也是这家公司最核心的技术负责人之一，还是AI教父辛顿最著名的弟子。他曾经是奥特曼的朋友，2019年，苏茨克维在OpenAI办公室里为联合创始人布罗克曼主持婚礼，证婚仪式上的“戒指手”是一只机械手臂。奥特曼当时也在台上，彼此关系还十分融洽。但到了2023年秋天，苏茨克维开始秘密整理材料。他没有用公司的电脑，而是用自己的手机，把内部通讯软件上的聊天记录逐页拍下，连同相关的人事文件，最终整理成了一份将近七十页的备忘录，通过阅后即焚的消息，悄悄发给了董事会的另外三位成员。这份备忘录的开头，有一个列表。列表的标题是：“奥特曼表现出一贯的模式……”第一条，就是：撒谎。我读到这里的时候，脑子里浮现的是一个画面：他坐在某个地方，用手机拍下那些聊天记录，一页一页，像在整理一份证词。他们曾经一起工作，一起相信自己在做一件改变世界的事，一起站在朋友的婚礼上。而现在，报道里引用了他说过的一句话。那是在整件事发生前后，他对一位同事说的：“我不认为奥特曼是那个应该把手指放在按钮上的人。”这句话的分量，需要一点背景才能理解。这是把管理OpenAI这家公司，比喻成“拥有毁灭世界力量的核武器的控制权”。这个红色按钮的意象，诞生于1962年古巴导弹危机时，美苏两方剑拔弩张，眼看核大战就要一触即发。而伊利亚·苏茨克维是相信奥特曼可能毁灭世界的。所以，当他说“奥特曼不是那个应该把手指放在按钮上的人”时，我觉得他说的不是公司治理层面的问题，他说的是：我们离那个按钮越来越近了，而我不信任按钮旁边的那个人。备忘录发出去之后，2023年11月，奥特曼在拉斯维加斯观看F1赛车的时候，苏茨克维邀请他加入一个视频通话，然后宣读了一份简短的声明：你被解雇了。官方声明里说，奥特曼离职是因为“在沟通中未能始终坦诚”。整个科技界震动了。第五个瞬间，是奥特曼“逼宫”的那五天。你应该还记得，那几天给全球科技圈带来的震撼。这期间发生的事，被OpenAI员工称为“闪灭”。这里借用了漫威电影里的设定：人会在瞬间消失，又重新出现，世界因为那段短暂的缺席而深刻改变。文章详细复原了那五天发生的事情。奥特曼从拉斯维加斯回到旧金山，回到他那栋价值两千七百万美元、俯瞰海湾全景的豪宅。他没有独自坐在那里发呆。他建立了一个“流亡政府”。投资人罗恩·康威（Ron Conway）通过视频加入，Airbnb联合创始人布莱恩·切斯基（Brian Chesky）打来电话，危机公关经理克里斯·勒汉（Chris Lehane）随时待命。奥特曼的高管团队挤在他家的走廊里，律师在他卧室旁边的家庭办公室工作。失眠的时候，奥特曼穿着睡衣从他们身边走过。每天傍晚六点，他会中断所有电话和会议，给自己倒上一杯鸡尾酒。他还安慰周围的人说：“你需要冷静一下。该发生的都会发生。”但他的通话记录显示，那五天里，他每天通话超过十二个小时。这种反差太有意思了：一边劝别人放轻松，自己却焦躁到一天打十二个小时电话。就在那五天里，OpenAI大多数员工联名威胁要与奥特曼一起离开。微软暗示，只有奥特曼回归，此前谈好的投资协议才能继续推进。董事会成员海伦·托纳（Helen Toner）在电话里说：“Ctrl+Z——撤销解雇——这是一个选项。另一个选项是公司分崩离析。”第五天，奥特曼官复原职。发起政变的伊利亚·苏茨克维，在法庭证词里解释了自己为什么最终妥协：“我觉得，如果我们走上奥特曼不回来的那条路，那么OpenAI就会被摧毁。”第六个瞬间，是马斯克与奥特曼的十年爱恨情仇。2017年，OpenAI内部爆发了一场关于控制权的争夺。马斯克要求获得公司的多数控制权，理由是他需要确保这家公司真的能对齐它所承诺的安全目标。奥特曼则坚持认为，如果公司要重组为由CEO控制的结构，那个CEO应该是他。两个人僵持不下。苏茨克维那时候还没有走到七十页备忘录那一步，但他已经看到了苗头。他给两人分别写了一封信，标题是“诚实的想法”。他告诉马斯克：“创建一个你可以成为独裁者的结构，是个坏主意。”他告诉奥特曼：“我们不理解为什么CEO头衔对你如此重要。你陈述的理由一直在变，很难真正理解是什么在驱动它。”几个月后，马斯克愤而离开，撂下一句话：“我受够了。要么自己去做点什么，要么继续以非营利的形式运营。否则我只是一个傻瓜，本质上是在为你们免费提供资金。”后来，奥特曼成了CEO。然后，时间快进到这个月，马斯克和奥特曼还在法庭上打着口水仗。这个审判里也有特别多细节，很有意思。改天等有了大的节点，我给你详细讲讲。最后，我说一下《纽约客》这篇报道发出来之后的情况。这篇报道在《纽约客》网站上的配图，居然是一段动画：奥特曼有很多张面孔，简直像川剧变脸。我把截图放在文稿里了，你可以看看。奥特曼在社交媒体上的回应很简短。他说，文章里有很多不实之处，但他没有具体指出是哪些。他还说，他“有点感激”记者花了这么多时间“如此积极地调查此事”。我把这句话读了好几遍。说实话，到现在也没完全想清楚，这到底是讽刺，是真诚，还是他真的已经不觉得这有什么值得在意了。因为这篇文章，在我看来，如果放在当下的媒体环境里，肯定会被视为一篇“黑稿”，发出来可能就会被直接投诉下架了。但出乎我意料的是，这篇文章的记者其实也采访了奥特曼，就在今年2月，为了写这篇文章。文章里有一段话很值得琢磨：2月，我们再次与奥特曼交谈。他穿着一件暗绿色毛衣和牛仔裤，坐在一张NASA月球车照片前面。他把一条腿蜷起来，搭在椅子扶手上。他说，过去作为管理者的主要缺陷是急于回避冲突。“现在我很乐意快速解雇人，”他告诉我们，“我很乐意直接说，‘我们要在这个方向下注。’”任何不喜欢他选择的员工，都需要“离开”。