新书揭秘奥特曼被OpenAI解雇背后真实故事

B站影视 日本电影 2025-03-31 07:16 1

摘要:2023 年 11 月中旬一个温暖的夜晚,亿万富翁风险投资家彼得·泰尔 (Peter Thiel) 在洛杉矶艺术区一栋百年历史的银行大楼改建而成的前卫日本餐厅 YESS 为他的丈夫举办了一场生日派对。坐在他旁边的是他的朋友山姆·奥特曼 (Sam Altman)

本文摘编自 Keach Hagey 所著的新书《乐观主义者:萨姆·奥特曼、OpenAI 和创造未来的竞赛》,将于 2025 年 5 月 20 日由 WW Norton 出版。

2023 年 11 月中旬一个温暖的夜晚,亿万富翁风险投资家彼得·泰尔 (Peter Thiel) 在洛杉矶艺术区一栋百年历史的银行大楼改建而成的前卫日本餐厅 YESS 为他的丈夫举办了一场生日派对。坐在他旁边的是他的朋友山姆·奥特曼 (Sam Altman)。

十多年前,泰尔就支持了奥特曼的第一支风险投资基金,当奥特曼成为 OpenAI 首席执行官,成为人工智能革命的代表人物时,泰尔仍然是这位年轻投资者的导师。OpenAI于 2022 年 11 月推出ChatGPT,迅速走红,推动科技股迎来几十年来最好的一年。然而,泰尔很担心。

在遇见 Altman 之前,Thiel 曾将另一位痴迷于人工智能的天才 Eliezer Yudkowsky 纳入麾下,并资助他的研究所,该研究所致力于确保任何比人类更聪明的人工智能都会对其创造者友好。那年 3 月,Yudkowsky 在《时代》杂志上表示,除非当前的人工智能研究浪潮停止,否则地球上的每个人都会死亡。

「你不明白埃利泽是如何让公司一半的人相信这些的。」泰尔警告奥特曼。「你需要更认真地对待这件事。」

奥尔特曼吃着素菜,努力不翻白眼。这不是泰尔第一次在晚餐时警告他,公司已被EA 人接管,他指的是那些信奉有效利他主义的人。EA 最近从试图消除全球贫困转向试图防止失控的人工智能屠杀人类。泰尔曾多次预测,人工智能安全人员将摧毁OpenAI。

「嗯,这对埃隆来说确实如此,但我们摆脱了埃隆。」奥特曼在晚宴上回应道,他指的是 2018 年与联合创始人埃隆·马斯克的混乱分手,马斯克曾将创造人工智能的尝试称为召唤恶魔。

OpenAI 的近 800 名员工正乘坐火箭飞船,即将有机会购买海滨第二套住房,而该公司的估值为 860 亿美元。没有必要惊慌。

38 岁的奥尔特曼正经历职业生涯最辉煌的一年,在这一年里,他成为了家喻户晓的人物,会见了世界各地的总统和总理,而且——在硅谷的价值体系中最重要的——他推出了一项似乎很可能会改变一切的新技术。

但就在两位投资合伙人在洛杉矶最火爆的新餐厅屋顶下庆祝时,OpenAI 六人董事会中的四名成员(其中两名与 EA 社区有直接联系)正在举行秘密视频会议。他们正在决定是否应该解雇 Sam Altman——尽管不是因为 EA。

本文采访了数十位经历过有史以来最疯狂的商业故事之一的人,即全球最热门的科技公司 CEO 突然被解雇,几天后又复职。公司的核心是一位反复无常的领导者,他的技术愿景激励着身边的每一个人,但有时,他的秘密和误导之网也会让他们感到困惑和不安。

从一开始,OpenAI 就被设定为一家不同类型的科技公司,由非营利董事会管理,其职责不是对股东负责,而是对人类负责。今年早些时候,奥尔特曼曾宣誓告诉议员们,他不拥有自己共同创立的这家公司的股权,这让议员们大吃一惊。他同意了前所未有的安排,进入董事会,该安排要求大多数董事与公司没有任何经济关系。

2023 年 6 月,他告诉彭博电视台:董事会可以解雇我。这很重要。

董事会在幕后发现,真正发号施令的是奥尔特曼,这让他们越来越沮丧。

在过去的一年里,董事会一直对应该增加哪位人工智能安全专家一事争论不休。董事会面试了 EA 慈善机构 Open Philanthropy 的人工智能安全专家 Ajeya Cotra,但这一进程停滞不前,主要是因为 Altman 和他的联合创始人 Greg Brockman(也是董事会成员)的拖延。Altman 提出了自己的建议。

「这其中存在一些权力斗争,」Airbnb 首席执行官布莱恩·切斯基 (Brian Chesky) 说道,他是 Altman 提议的董事会候选人之一。」最基本的一点是,如果 Sam 说出了这个名字,他们就必须忠于 Sam,因此他们会说不。

2023 年初,支持 Altman 阵营的三名董事会成员因各种利益冲突相继辞职后,形势变得更加紧张。管理这家营利性 AI 巨头的非营利性董事会只剩下六人:Altman、他的亲密盟友 Brockman、他们的联合创始人 Ilya Sutskever 和三名独立董事。他们是 Quora 首席执行官兼前 Facebook 高管 Adam D'Angelo;乔治城大学安全与新兴技术中心战略总监兼开放慈善事业资深人士 Helen Toner;以及前科技首席执行官兼 EA 慈善机构 Effective Ventures 英国董事会成员 Tasha McCauley。

在 2022 年夏天观看了 GPT-4(一种功能更强大的人工智能,可以在 AP 生物学考试中取得高分)的演示后,几位董事会成员对公司治理和董事会监督 Altman 的能力的担忧变得更加紧迫。

「ChatGPT 和 GPT-4 等产品是董事会意识到风险越来越高的重要转变。」托纳说。「我们明天不会都死,但董事会需要正常运转。」

托纳和麦考利已经开始对阿尔特曼失去信任。为了在新产品发布前对其进行风险审查,OpenAI 与微软成立了一个联合安全委员会,微软是 OpenAI 的主要支持者,拥有在其产品中使用其技术的特殊权限。在 2022 年冬天的一次会议上,当董事会权衡如何发布 GPT-4 的三个颇具争议的增强功能时,阿尔特曼声称这三个增强功能都已获得联合安全委员会的批准。托纳要求提供证据,发现实际上只有一个获得了批准。

大约在同一时间,微软在印度启动了尚未发布的 GPT-4 测试,这是未经联合安全委员会批准而首次在野外发布的革命性代码。而且没有人费心通知 OpenAI 董事会,安全审批已被跳过。独立董事会成员在离开长达六小时的董事会会议时,在走廊上被一名 OpenAI 员工拦住,这才得知此事。在那次会议上,奥尔特曼和布罗克曼从未提及过这一违规行为。

然后,在 2023 年夏天的一个晚上,OpenAI 的一名董事会成员在晚宴上无意中听到有人讨论 OpenAI 的创业基金。该基金于 2021 年成立,旨在投资与人工智能相关的初创公司,OpenAI 已宣布它将由 OpenAI 管理。但董事会成员无意中听到有人抱怨该基金的利润不会流向 OpenAI 投资者。

董事会对此感到很意外,于是他们询问了 Altman。几个月后,董事们得知 Altman 个人拥有该基金。OpenAI 高管最初表示这是出于税收原因,后来解释说 Altman 设立该基金是因为这样速度更快,而且只是一种“临时”安排。OpenAI 表示 Altman 没有从该基金中赚取任何费用或利润——这是一种不寻常的安排。

对于独立董事会成员来说,这种行政疏忽令人难以置信——并将之前的疏忽视为故意欺骗模式的一部分。例如,去年秋天 OpenAI 发布 ChatGPT 时,他们也没有得到警告。ChatGPT 当时被认为是使用现有技术的研究预览,但最终却风靡全球。(《华尔街日报》的所有者新闻集团与 OpenAI 建立了内容授权合作关系。)

9 月底,苏茨克弗给托纳发了一封电子邮件,询问她第二天是否有时间聊天。这非常不寻常。他们在董事会会议之外并没有真正交谈过。在电话里,苏茨克弗犹豫再三,最后还是说出了一条线索:你应该多和米拉聊聊。

米拉·穆拉蒂于 2022 年 5 月升任 OpenAI 首席技术官,此后一直负责日常工作。当托纳打电话给她时,穆拉蒂描述了她认为奥特曼的有毒管理风格多年来一直在造成问题,以及奥特曼和布罗克曼之间的动态——布罗克曼向她汇报,但每当她试图控制他时,布罗克曼就会去找奥特曼——这让她几乎无法完成工作。

几个月前,穆拉蒂曾直接向奥特曼提出了其中一些问题,而奥特曼的回应是让人力资源主管连续数周参加他们的一对一会议,直到她最终告诉他,她不打算与董事会分享她的反馈意见。

托纳回到了公司首席科学家苏茨克弗那里。他明确表示,他已经失去了对阿尔特曼的信任,原因有很多,包括他倾向于挑拨高级员工之间的矛盾。2021 年,苏茨克弗规划并组建了一个团队,以寻求 OpenAI 的下一个研究方向,但几个月后,另一位 OpenAI 研究员雅库布·帕乔基 (Jakub Pachocki) 开始研究非常相似的东西。两个团队合并,在苏茨克弗将重点转向人工智能安全后,帕乔基接任了这一职位。阿尔特曼后来将帕乔基提升为研究主管,并私下向他们两人承诺,他们可以领导公司的研究方向,这导致几个月的生产力损失。

苏茨克弗一直在等待董事会动态允许奥特曼担任首席执行官的时机。

穆拉蒂和苏茨克韦尔小心谨慎,生怕被奥尔特曼发现,他们在接下来的几周里与每一位独立董事进行了交谈。正是因为他们每天都保持联系,独立董事们才发现奥尔特曼撒了一个极其恶劣的谎言。

托纳在 10 月份发表了一篇论文,再次批评了 OpenAI 的安全方法。奥尔特曼怒不可遏。他告诉苏茨克弗,麦考利曾表示托纳显然应该因为这篇文章离开董事会。麦考利听到苏茨克弗的这一说法后大吃一惊——她知道她没有说过这样的话。

Sutskever 和 Murati 一直在收集证据,现在 Sutskever 愿意分享。他使用 Gmail 的自毁邮件功能向 Toner、McCauley 和 D'Angelo 发送了两份很长的 PDF 文档。

一份是关于 Altman 的,另一份是关于 Brockman 的。Altman 的文件包含了数十个他涉嫌撒谎和其他恶意行为的例子,大部分都得到了 Murati 的 Slack 频道截图的支持。在其中一份截图中,Altman 告诉 Murati,公司的法律部门曾表示 GPT-4 Turbo 不需要经过联合安全委员会审查。当 Murati 向公司的首席律师核实时,他说他没有这么说过。关于 Brockman 的文件主要集中在他涉嫌欺凌的行为上。

苏茨克维尔警告说,如果他们要采取行动,就必须迅速采取行动。

因此,2023 年 11 月 16 日星期四下午,他和三名独立董事会成员通过视频通话投票决定解雇 Altman。他们知道,如果 Murati 必须向 Brockman 汇报,她不太可能同意担任临时首席执行官,因此他们还投票决定将 Brockman 从董事会中除名。投票后,独立董事会成员告诉 Sutskever,他们担心他是被派来当间谍来测试他们的忠诚度的。

那天晚上,穆拉蒂正在参加一个会议,四名董事会成员打电话给她,说他们第二天要解雇奥特曼,并请她担任临时首席执行官。她同意了。当她问他们为什么要解雇他时,他们没有告诉她。

「你把这个消息告诉萨蒂亚了吗?」穆拉蒂问道,他知道微软首席执行官萨蒂亚·纳德拉对双方合作的承诺对公司至关重要。他们没有。他们决定,穆拉蒂会在消息发布到 OpenAI 网站之前告诉微软。

奥特曼的突然被解雇立即成为全球爆炸性的新闻头条。

但董事会并未向员工或公众解释奥特曼被解雇的原因,只是表示奥特曼对董事会并未始终坦诚。

周五晚上,OpenAI 董事会和高管团队举行了一系列争议不断的会议。穆拉蒂越来越担心董事会没有为阿尔特曼被解雇的后果做好更好的准备,从而将 OpenAI 置于危险之中。有一次,她和高管团队的其他成员给董事会设定了 30 分钟的期限,要求他们解释为什么解雇阿尔特曼,否则就辞职——否则高管团队将集体辞职。

董事会认为他们不能透露穆拉蒂向他们提供了奥特曼管理失误的一些最详细证据。他们指望穆拉蒂能在他们寻找首席执行官期间安抚员工。然而,她却带领同事们反抗董事会。

一种说法开始在奥尔特曼的盟友中传播,称整件事是苏茨克维尔的一次“政变”,其动机是他对帕乔基升职的愤怒,而托纳对奥尔特曼试图将她赶出董事会感到愤怒,这种说法进一步加剧了这一局面。

苏茨克弗大吃一惊。他原本以为 OpenAI 的员工会欢呼。

到周一早上,几乎所有人都签署了一封信,威胁说如果 Altman 不复职,他们就辞职。签名者中包括 Murati 和 Sutskever。很明显,阻止公司崩溃的唯一方法就是让 Altman 回来。

来源:鞭牛士

相关推荐