《时代》年度CEO:山姆·阿尔特曼
神译局是36氪旗下编译团队,关注科技、商业、职场、生活等领域,重点介绍国外的新技术、新观点、新风向。
编者按:《时代》杂志每年都要评选年度人物,其中包括年度封面人物、年度CEO、年度运动员,年度突破人物 CEO等。也许今年的年度CEO 是争议最少的:ChatGPT今年的爆火让OpenAI CEO山姆·阿尔特曼站在了聚光灯下,而年底旋风式的被董事会废黜然后又被员工抬回来的戏剧性事件让这个头衔花落谁家彻底失去了悬念。文章来自编译。
一、通往AGI之路的权力游戏
对于山姆·阿尔特曼来说,今年的感恩节有点奇怪。通常情况下,OpenAI 的这位首席执行官会飞回圣路易斯去探望家人。但这一次的假期恰逢一场争夺公司控制权的生存斗争之后,而部分人认为,这家公司掌握着人类的命运。经历了这场斗争之后的阿尔特曼感觉很疲倦。于是他去到自己的纳帕谷牧场进行一次徒步旅行,然后返回旧金山,与刚刚在疯狂的五天内炒掉他又恢复他职位的董事会成员待了几个小时。在之后的几个小时,他把电脑放在一旁,煮起素食意大利面,一边把音乐的音量调到很大声,一边与未婚夫奥利弗·穆赫林 (Oliver Mulherin) 一起喝酒。 11 月 30 日,阿尔特曼告诉《时代》杂志:“这次经历实在是太疯狂了,我现在对此依然感到震惊。”
我们对话之际正值有史以来采用速度最快的科技产品,OpenAI的 ChatGPT 发布一周年。这款聊天机器人及其新一代大模型 GPT-4 的影响对于这家公司和全世界来说都是变革性的。 阿尔特曼表示:“对于很多人来说,2023 年是他们把人工智能当一回事的开始”。 OpenAI 原先是一家致力于开发造福人类的人工智能的非营利性研究实验室,后来却摇身一变发展成为一艘价值 800 亿美元的火箭飞船。阿尔特曼成为了全世界最有权势、最受尊敬的高管之一,是一场技术革命的形象代表与主要预言家。
直到这艘火箭飞船差点爆炸。 11 月 17 日,OpenAI 那个非营利性的董事会在没有任何警告甚至没有太多解释的情况下就炒掉了阿尔特曼。接下来的超现实操作让《继承之战》这出企业剧也显得古板。员工叛乱。 OpenAI 那些势力强大的投资者也一样;甚至有人毫无根据地猜测,将阿尔特曼赶下台的其中一名董事会成员是太平洋对岸的间谍。这家公司富有远见的首席科学家对罢免自己的联合创始人同事投了赞成票,但后来又反悔了。两位临时首席执行官来去匆匆。(谁是胆小鬼游戏的)玩家们通过在社交媒体上自拍、发表公开信、点击爱心表情符号来表明姿态。与此同时,一位知情人士表示,该公司的员工和董事会陷入到“一场声势浩大的胆小鬼游戏”之中。三名涉事的人士表示,OpenAI 的全体员工一度威胁称,如果董事会不在几个小时内辞职并让阿尔特曼官复原职的话,他们将全体辞职。之后,阿尔特曼似乎准备带上数百名同事逃奔微软。掀起这股人工智能热潮的公司似乎有可能在一夜之内倒闭。
最终,阿尔特曼重新赢回了自己的职位,董事会也进行了彻底改组。在正式回归担任首席执行官的第二天阿尔特曼接连接受了三场采访,在接受我们这最后一场采访时他说道:“我们确实感觉比以往任何时候都更为强大、更加团结、更加专注。但我希望如果能用其他方式实现这一点就好了。”这不是一场普通的董事会争斗,OpenAI 也不是一场普通的初创企业。这出戏给这家公司及其首席执行官都留下了了悬而不决的大问号。
38 岁的阿尔特曼十年来一直是硅谷的皇室成员,是一位有着完美气质的超级明星创始人。谷歌前首席执行官埃里克·施密特(Eric Schmidt)说: “你是不会炒掉史蒂夫·乔布斯的”。可是OpenAI的董事会却这么做了。 (恰巧乔布斯也曾经被苹果解雇过,但后来又再度回归。)随着有关阿尔特曼被解雇的谣言四起,董事会表示,对 OpenAI 产品的安全性、技术的商业化或研究的发展速度并不存在任何争议。但阿尔特曼的“行为以及与董事会互动时缺乏透明度”削弱了董事会按照职责监督公司的能力,不过董事会并没有分享具体例子。
我们采访了阿尔特曼圈子里的 20 多人,这些人包括了现在或曾经在 OpenAI 工作的员工、多位高管以及多年来与他合作密切的其他人,最后我们得到了一幅很复杂的肖像。了解阿尔特曼的人形容他和蔼可亲、才华横溢、干劲罕见,并且善于用他的愿景,也就是创造造福整个社会的通用人工智能 (AGI),将投资者与研究人员凝聚在他身旁。但多年来与阿尔特曼共事的四位人士也表示,也许他只是很狡猾,有时候甚至很有误导性和欺骗性。两名熟悉董事会程序的人士表示,阿尔特曼擅长操纵他人,他曾多次收到反馈称阿尔特曼有时候会不诚实,为的是让别人觉得他同意他们的观点,但实际上并不认同。这些人把这种模式看作是一个更宏大的尝试——巩固权力——的一部分。 其中一位说道:“从很多方面来说,阿尔特曼都是一个非常好的人;他不是邪恶天才。如果他是个很可怕的人的话,那么这个故事讲起来会更容易些。他关心使命,关心其他人,关心人类。但如果你观察他的行为,就会发现,他确实在用极端的方式谋求权力。”
OpenAI 的一位发言人表示,该公司无法对阿尔特曼被解雇的事件发表评论。 该发言人在一份声明中表示:“在董事会独立审查完成之前,我们无法透露具体细节。我们期待审查结果,并继续支持阿尔特曼。我们的主要关注点仍然是开发和推出有用且安全的人工智能,并支持新的董事会努力改进我们的治理结构。”
在过去一年大部分的时间里,阿尔特曼一直在向公众保证 OpenAI 会认真担负起责任,将其强大的技术推向世界。他提供的证据之一是 OpenAI 不同寻常的公司结构:这是一家由非营利性董事会管理的营利性公司,其使命是优先考虑使命而不是经济利益。 今年6月,在Bloomberg Technology 大会上阿尔特曼曾表示:“这里应该没人值得信任。董事会可以解雇我。我认为这一点很重要。”但当这种事情发生在阿尔特曼身上时,他兜了一圈又重新回归似乎突出展示出这种问责只是海市蜃楼。一家一夜之间就将自己推向自我毁灭边缘的公司,又怎么能能让大家相信能够安全地推出一项被许多人认为会毁灭我们所有人的技术呢?
阿尔特曼短时间内二度出任首席执行官后拥有的权力是变多还是变少了目前尚不明确。自 ChatGPT 推出以来,这家公司已成为人工智能领域的领跑者,而且预计明年他们还将发布功能更强大的新模型。但随着越来越多的竞争对手将数十亿美元投入到前沿的人工智能研究当中,OpenAI 行业领先的地位并不是牢不可破。科技行业以炒作周期而闻名,精心策划把兴奋炒作起来,让风投能够从虚拟现实或加密货币等时髦中获利。人工智能发展的惊人速度可能会放缓,而关于通用人工智能的崇高承诺可能无法实现。
但 OpenAI 陷入僵局的一大原因是,涉事各方均认为新世界不仅即将到来,而且来得很快。两位熟悉董事会审议情况的人士强调了监管一家自认为正在打造史上最重要技术的公司的利益攸关。阿尔特曼认为通用人工智能(AGI,一个在大多数方面表现超越人类的系统)可能会在未来四五年之内实现。 AGI 可以推动全球经济发展,拓展科学知识的前沿,并大幅提高数十亿人的生活水平——创造一个与过去截然不同的未来。按照这种观点,扩大我们获得认知劳动的机会——正如阿尔特曼所说那样,“有更多机会获得更高质量的智慧与更好的想法”——可以帮助解决从气候变化到癌症的一切问题。
但这种人工智能也会带来严重风险。在很多人看来,过去一年人工智能能力的快速增长是十分令人担忧的。因为计算机科学家尚未解决业界所谓的“对齐问题”,也就是确保 AGI 符合人类价值观的任务。很少有人就谁应该确定这些价值观达成一致。阿尔特曼等人警告说,先进的人工智能可能会带来流行病与核战争那种级别的“生存”风险。在这种背景下,OpenAI 董事会认定自家的首席执行官不可信。人工智能政策研究所 (AIPI) 执行董事、一家获阿尔特曼资助的初创企业创始人丹尼尔·科尔森 (Daniel Colson) 表示:“大家现在确实开始严肃对待这件事情了,因为有一种预期是还能改变事情发展轨迹的时间窗口正在关闭。”
二、技术理想主义者的追求
那是十一月初,一个阳光明媚的早晨,阿尔特曼显得很紧张。我们是在旧金山市中心一个庞大的活动场地的后台,阿尔特曼很快就将在这里向约 900 名与会者发表 OpenAI首届开发者大会的主旨演讲。穿着一件灰色毛衣,一双色彩鲜艳的阿迪达斯乐高运动鞋的他向帮助排练的演讲教练表示感谢: “这根本就不是我的强项。让我坐在电脑屏幕前面会舒服得多。”
这正是周五晚上你预期能找到身为高中生的阿尔特曼的地方,他会坐在一台原装的 Bondi Blue iMac 面前。阿尔特曼在圣路易斯郊区的一个犹太中产家庭长大,在房地产经纪人与皮肤科医生所生的四个孩子当中排行老大。阿尔特曼身上兼具了书呆子气与自信心。在一次美国出柜日,当部分学生对一名演讲者表示反对之后,他在青少年时期就公开了自己的同性恋身份。 2003 年,当大家对互联网泡沫破灭的记忆正逐渐消逝时,他进入了斯坦福大学学习计算机科学。在大学里,阿尔特曼开始接触扑克,认为这是可以学习心理学与风险的地方。早在那个时候,他就知道自己想要成为一名创业者。两年后,他辍学并开始坐 Loopt,这是他与当时的男友尼克·西沃 (Nick Sivo) 共同创立的位置型社交网络。
Loopt 成为首批入驻 Y Combinator (全球知名的初创企业加速器)的八家公司之一。2012年,Loopt 被人以 4300 万美元的价格收购,阿尔特曼净赚了 500 万美元。尽管回报相对较低,但这段经历对阿尔特曼产生了深远影响:“要想把事情做成,办法就是真正做到持之以恒。”认识他的人都说,阿尔特曼对解决大大小小的问题有一种始终不渝的责任感。他的未婚夫,原先是软件工程师后来成为投资者 的Mulherin 说:“一旦他意识到问题,就会全身心想去解决”。或者正如阿尔特曼所说那样,“事情只会因为有人站出来解决而变好。没有其他人会来拯救世界。你遇到就得做这件事。”
YC 联合创始人保罗·格雷厄姆 (Paul Graham) 发现,他很罕见地融战略才华、抱负与执着于一身。格雷厄姆在谈到时年仅 23 岁的阿尔特曼时,他说:“你就算把他空降到一个满是食人族的岛上,五年后再回来你会发现他当上了国王。”2014 年 2 月,格雷厄姆任命自己这位当时 28 岁的门生接替自己担任 YC 总裁。阿尔特曼上台时,YC 已经孵化出 Airbnb、Stripe 以及 Dropbox 等独角兽公司。但新老板的愿景更大。他希望将 YC 的业务范围从软件扩展到“硬技术”——去培育技术甚至可能无法实现,但创新成功的话可以释放数万亿美元红利并改变世界的初创企业。
成为 YC 领袖后不久,阿尔特曼就去参观了核聚变初创企业 Helion 位于华盛顿州雷德蒙德的总部。据公司首席执行官 David Kirtley 回忆,阿尔特曼当时拿着一堆物理教科书到访,并向他询问了 Helion 原型反应堆背后的设计选择。Kirtley回忆道,让他印象最为深刻的是阿尔特曼对可扩展性的痴迷。假如你能解决这个科学问题的话,怎么才能足够快地建造出足够多的反应堆来满足美国的能源需求?全球的能源需求呢? Helion 是首批加入 YC 的硬科技公司之一。 阿尔特曼本人还开出了一张 950 万美元的支票,此后又向 Helion 额外追加了 3.75 亿美元,这是他最大的一笔个人投资。阿尔特曼说: “对重要事情投入重注,我认为这是资本主义的责任。”
阿尔特曼对核聚变的追求暗示了他的抱负有多大。他还向Retro Biosciences 投资了1.8 亿美元,这是一家研究延年益寿的初创企业,其目标是将人类的健康寿命延长10 年。他构想并帮助创建了Worldcoin,这是一种附加了加密货币的生物识别系统,目前已筹集数亿美元。通过 OpenAI,阿尔特曼斥资 1000 万美元在美国各地开展了一项持续时间最长的全民基本收入 (UBI) 研究,目前研究已向 3000 名参与者发放了超过 4000 万美元,并将于 2024 年公布第一批研究结果。阿尔特曼对全民基本收入的兴趣是其预期的体现:他认为人工智能将会带来经济混乱——尽管他表示这“无论如何都不是该问题的充分解决方案”。
这位创业者对唐纳德·特朗普领导下的美国的发展方向感到非常震惊,所以 2017 年的时候曾考虑过要竞选加州的州长。现如今,阿尔特曼已经把这件事情淡化成 “一个非常轻量级的关切”。但当时任阿尔特曼高级助手的马特·克里西洛夫 (Matt Krisiloff) 表示,他们曾用了六个月的时间在整个加州设立焦点小组,以便帮助完善一个政治平台。 克里西洛夫说:“这可不仅仅是个草率想法”。阿尔特曼发布了一个政策平台,他称之为“United Slate”,平台列举了10项政策目标,包括降低住房成本、实现全民医疗保险、进行税收改革,提出雄心勃勃的清洁能源目标等。但他最终放弃了这个职业转换的尝试。 阿尔特曼说:“我更适合从事人工智能工作,我自己很清楚这一点。如果能够成功的话,对我来说将是一件更有趣、更有影响力的事情。”
但他仍然对政治抱有浓厚兴趣。阿尔特曼的理念受到了 19 世纪末政治经济学家亨利·乔治 (Henry George) 理论的影响,他既相信市场激励的力量能够带来日益的繁荣,又蔑视那些在土地等稀缺资产上投机而不是将资金投资到人类进步上的人。在最近与全球领袖的会晤中,阿尔特曼提出了要征收土地增值税的主张,这是一项典型的乔治主义政策。
在参观 OpenAI 总部时,为了弄清楚他的各种投资和兴趣究竟有什么意义,我们问他对未来是不是有一个愿景。阿尔特曼回答得很干脆:“富足。就是这样。”对核聚变与超级智能的追求是他所设想的更加公平和繁荣的未来的基石:“如果我们能获得富足的智能与富足的能源,对人类得帮助作用会很大,比我能想到的任何其他东西都要大。”
三、理想主义向现实低头
大约在十年前,阿尔特曼就开始认真思考通用人工智能了。他说在当时“这被认为是职业自杀”。但阿尔特曼与埃隆·马斯克进行了反复的交流后,后者也认为比人类更聪明的机器不仅不可避免,而且如果这些及其是由追逐利润的公司制造出来的话,就会很危险。两人对谷歌仍将是该领域的主导者都感到担忧。2014 年,谷歌收购了顶级人工智能研究实验室 DeepMind,此举激怒了马斯克。两人设想要建立一家非营利性的人工智能实验室,让这家实验室成为伦理制衡,确保这项技术不仅能造福于股东,而且能造福全人类。
2015 年夏天,阿尔特曼找到了 Google Brain 的明星机器学习研究员 Ilya Sutskever。两人在谷歌总部附近的一家汉堡店 Counter 共进晚餐。餐后两人各奔东西,阿尔特曼钻进了自己的车里之后萌生了一个念头,我得让那个家伙跟我一起工作。于是他跟马斯克把晚上和周末的时间用来来吸引人才。阿尔特曼开车去到伯克利,跟研究生John Schulman一起去散步;与 Stripe 首席技术官 Greg Brockman 共进晚餐;跟人工智能研究科学家 Wojciech Zaremba 会面;并与马斯克以及其他人在加州门洛帕克的瑰丽酒店举办集体晚宴,新实验室的构想就此开始成形。 阿尔特曼说:“这个的蒙太奇就像一部电影的开头。你试图将这群跟社会似乎有点格格不入的人聚到一起,去做点疯狂的事情。”
2015 年 12 月,OpenAI成立。这个组织共有六位联合创始人——阿尔特曼、马斯克、Sutskever、Brockman、Schulman 还有 Zaremba。里德·霍夫曼(Reid Hoffman)、彼得·泰尔(Peter Thiel)与Jessica Livingston 等知名投资者承诺要给OpenAI投资 10 亿美元。在早期的时候,阿尔特曼还担任着 YC 的总裁职务,所以只是用远程的方式对OpenAI进行管理。 OpenAI 没有 CEO;Brockman与Sutskever是这家组织事实上的领导人。在旧金山教会区一个由箱包工厂改建而成的办公室里,Sutskever 的研究团队会往墙上张贴出各种想法,然后看看哪个能行。 Krisiloff 表示:“这是这个领域某些最优秀人才的大汇聚。与此同时,这里未必给人感觉每个人都知道自己在做什么。”
2018 年,OpenAI 发布了公司章程:一套规定自己如何为了人类利益开发 AGI 的价值观。但这份文件的核心存在着一种紧张关系,也就是既要秉持安全理念与又要追求速度的的矛盾。一位前员工表示: “激励着 OpenAI 的一个基本信念是,这项技术不管怎么都会存在,因此我们必须赢得把它制造出来的竞赛,用积极的方式去控制它如何进入到社会。安全的使命要求你必须获胜。如果你不能取胜,那再好也没用。” 阿尔特曼对 OpenAI 需要超越竞争对手实验室才能实现自身使命的观点提出质疑,但他表示,“我认为我们比其他人更关心 AGI 能取得好的结果。”
Sutskever是获胜的关键之一。 OpenAI 的这位首席科学家对神经网络有着近乎宗教般的信仰,这种人工智能算法可以吸收大量数据,然后独立地检测出潜在的模式。他相信这些网络虽然在当时很原始,但可以引领我们通往通用人工智能的道路。 Sutskever 表示:“概念、模式、想法、事件,这些会以一种我们弄不清楚的复杂方式在数据当中留下痕迹。因此,为了预测接下来会发生什么,神经网络需要设法弄清楚这些概念以及它们是如何留下痕迹的。在这个过程当中,这些概念就慢慢浮现出来了。”
为了实现 Sutskever 的方法与章程规定的使命,OpenAI 需要大量的计算能力。为此,它还需要大笔资金。截止至 2019 年,原先投资者承诺的10亿美元OpenAI 只筹集到了1.3 亿美元。在尝试担任首席执行官失败后,马斯克退出了这家组织,也收回来他自己打算捐给OpenAI的钱。当时仍在运营 YC 的阿尔特曼努力支撑住 OpenAI 的财务状况。刚开始的时候,他怀疑任何私人投资者都没法用公司所需的体量与速度向该项目注入资金。他认为,历史上资助过阿波罗计划与曼哈顿计划的美国政府将是最佳选择。但经过一系列讨论之后,阿尔特曼表示: “每一扇门你都试过了”,但他惊讶地发现“这种情况发生的可能性几乎为零。”他开始相信“市场将被迫一路走到底。”
由于担心如果投资者对 AGI 的发展能施加影响的话可能会出现不当动机,阿尔特曼与领导团队开始对不同的治理结构进行辩论,最终确定了一个不寻常的结构。 OpenAI 将建立一家有“利润上限”的子公司,这家子公司可以面向投资者筹集资金,但公司的治理将由一个非营利性的董事会负责。 OpenAI 最早的投资者都要签署一份文件,文件规定投资者可以获得最高 100 倍的投资回报,但超过100倍之后的利润均归这家非营利组织所有。但这家公司的创立精神,也就是做一家不受商业考虑束缚的研究实验室,只持续了不到四年。
阿尔特曼开始把更多的时间用在思考 OpenAI 的财务问题上,并且也时不时会过去那里工作一下,Brockman与 Sutskever 一直在游说他全职做这份工作。他说: “OpenAI 一直都没有首席执行官。我会投入 30% 的时间去做这份工作,但做得不是很好。”他担心这家实验室正处在拐点上,如果没有适当的领导的话,“可能会崩溃。” 2019 年 3 月,就在公司宣布重组的同一周,阿尔特曼离开了 YC,并正式出任 OpenAI 首席执行官。
阿尔特曼坚称,这种新结构是讨论过的选项当中“最不坏的那个”。从某些方面来说,这个解决方案是比较优雅的:它既能让公司从投资者那里筹集到急需的资金,同时也表明了自己致力有良心地开发人工智能的承诺。阿尔特曼本身就是这两个目标的体现——一位才华横溢的筹款人,同时也是一项变革性技术的深谋远虑的大管家。
没过多久,阿尔特曼就从微软那里筹集到了 10 亿美元——现在,这个数字已经飙升至 130 亿美元。三名前员工表示,公司的重组以及与微软的合作极大地改变了 OpenAI 的面貌。作为薪酬方案的标准组成部分,员工开始获得股权,一些非营利时代的老员工认为,这会刺激员工将公司的估值最大化作为目标。据一位熟悉薪酬计划的人士透露,按照行业标准,员工获得的股权数额非常可观。部分员工担心 OpenAI 正在变成一家与传统科技公司更类似的公司。 负责人事的副总裁 Diane Yoon 说:“我们不断地提出价值数十亿美元的想法”。
微软的投资增强了 OpenAI 扩展系统的能力。谷歌的一项创新则提供了另一项突破。这项创新叫做 “transformer”,transformer能让神经网络在发现数据模式方面变得更加高效。 OpenAI 研究人员开始训练 GPT(generative pre-trained transformer)系列的第一个模型。每次迭代,模型都会得到显著改进。 GPT-1 经过了约 7000 本书的文本训练之后,能做的几乎只有将句子串在一起。 GPT-2 经过 800 万个网页的训练之后,只能回答问题而已。 GPT-3 经过来自互联网、书籍和维基百科的数千亿个单词的训练之后,就几乎可以写诗了。
阿尔特曼回忆起 2019 年的一项突破,指出这项突破揭示了未来的巨大可能性。“标度律”(scaling laws)是确定用于训练人工智能的算力与其所获得的能力之间的关系的基础,他们曾对此进行过实验,结果得到了一系列“完美、平滑的曲线”,他说,这种指数曲线更像是宇宙的基本法则而不是实验数据。那是六月一个凉爽的夜晚,在暮色里,当聚集在一起的研究人员站在 OpenAI 办公室外面时,他们有了这样一种共同认识:AGI 不仅是可能的,而且AGI到来的时间也许比他们之前想象的还要早。阿尔特曼说道: “我们当时的感觉是,AGI说不定真的要来了。那种感觉就像科学史上那些历史时刻之一。我们现在发现了一个新东西,我们就要通知全人类了。”
四、ChatGPT引爆人工智能热潮与担忧
这个认识导致 OpenAI 改变了自家技术的发布方式。到了那个时候,在认识到将日益强大的人工智能开源出来可能会对犯罪分子有利但对企业不利之后,该公司已经违背了其开放的创立原则。 2019 年OpenAI开发 GPT-2 时,一开始曾拒绝公开发布该模型,担心它可能对公众话语产生毁灭性影响。但到了 2020 年,该公司决定逐步将自家工具分发给更多的人。这种主义又叫做 “迭代部署”。这种做法让 OpenAI 得以收集有关公众如何使用人工智能的数据,并建立更好的安全机制作为响应。当这项技术还相对粗糙时,他们会逐步让公众接触该技术,让人们有时间适应阿尔特曼预见到的巨大变化。
就其本身而言,迭代部署是有效的。迭代部署让 OpenAI 在安全训练模型方面具备了决定性的优势,并最终让全世界认识到人工智能的力量。确实,这种做法对商业非常有利,而且与久经考验的 YC 创业成功策略惊人地相似:开发出所谓的最小可行产品。拼凑出一个很酷的演示,吸引一小群喜欢它的用户,并根据他们的反馈进行改进。把东西丢给世界。最终,如果你足够幸运,并且做得对的话,就能够吸引大量用户,从而点燃媒体炒作周期的导火索,并让你筹集到巨额资金。Brockman表示,这是他们的部分动机。他说: “我们知道我们需要筹集更多的资金。实际上开发出一款产品就是一条非常明确的路径。”
部分人担心迭代部署会加速危险的人工智能军备竞赛,而且商业上的关切则给 OpenAI 的安全优先事项蒙上了一层阴影。几位与该公司关系密切的人士认为 OpenAI 正在偏离最初的使命。 阿尔特曼说:“董事会就此层进行了多次对话,而且也进行了大量的内部沟通”。但公司决策已定。 2021 年,七名对此持异议的员工辞职另立门户,创办了一家叫做 Anthropic 的实验室,由 OpenAI 顶级安全研究员 Dario Amodei 领导。
2022 年 8 月,OpenAI 已经完成了 GPT-4 的工作,高管们讨论起要不要把这个跟一个对用户友好的基础版聊天界面一起发布的问题。阿尔特曼认为这样子的发布“爆炸性太强了”。他提议推出内核时 GPT-3.5 的聊天机器人(GPT 3.5自2023年春以来就已经发布了),目的时让大家先习惯,然后等几个月再发布 GPT-4。阿尔特曼说,公司的决策一般都要经过长时间的深思熟虑,好让高层领导达成共识。但最终成为科技史上增长最快的这款新产品的推出却并非如此。他回忆道: “我当时就发了一条 Slack 消息,说好吧,我们就这么干吧。”在 11 月 30 日发布前夕的一次头脑风暴会上,阿尔特曼将暂定的名称 Chat With GPT-3.5 替换成稍微简洁的 ChatGPT。 OpenAI 的销售主管则收到了一条 Slack 消息,内容是告诉她产品团队正在悄悄推出一个“低调的研究预览版”,这样的产品是不大可能会惊动销售团队的。
OpenAI 这里没有一个人能预测到接下来发生的事情。五天之后,ChatGPT 的用户突破 100 万。 ChatGPT 现在已拥有 1 亿用户——Facebook 用了 4.5 年的时间才突破了这个门槛。一时间,OpenAI 成为了硅谷最热门的初创企业。 2022 年,OpenAI 实现了2800 万美元的收入;今年,它的月收入达到了 1 亿美元。该公司开始大举招聘,规模扩大了一倍多。 今年3月,OpenAI遵照阿尔特曼的计划,发布了GPT-4。这个新模型的能力远超 ChatGPT ,跟它的前身不同,GPT-4可以描述图像内容,用各种主流编程语言编写出最可靠的代码,并能通过标准化考试。竞争对手投入了数十亿美元想复制 OpenAI 的成功。 阿尔特曼表示:“我们确实加速了竞赛,因为没有比这更细致入微的说法。”
这位首席执行官突然变成了全球明星。他似乎具有非凡的能力来驾驭人工智能世界的不同派别。 今年五月,阿尔特曼到美国参议院出席听证会时告诉议员们:“我认为如果这项技术出问题的话,可能会是大问题,为此我们希望大声疾呼”。当月,阿尔特曼开始了一场全球巡回之旅,参访的国家包括了以色列、印度、日本、尼日利亚、韩国以及阿联酋。阿尔特曼还以视频方式在北京的一个会议上发表讲话。公司全球事务负责人Anna Makanju表示,鉴于强烈要求出席的的政府官员及政策制定者数量实在是太多了,“最终我们举办的会议数量变成了原计划的两倍”。人工智能在政策议程的地位开始飙升:白宫签署了一项相关的行政命令,英国召开了全球人工智能安全峰会,联合国、七国集团以及非洲联盟均计划编纂人工智能的标准。
2023年11 月,当阿尔特曼在 OpenAI 开发者大会上登台亮相时,似乎没有什么能让他下台的。在欢呼声中,他宣布 OpenAI 正在迈向自主人工智能“代理”的未来,这些“代理”将有能力代表用户在现实世界采取行动。两天后,他在接受《时代》杂志采访时表示,他相信人工智能消灭人类的可能性不仅很低,而且在过去一年里还有所下降。他认为风险意识的增强以及政府间的协调意愿明显是 OpenAI 迭代部署战略带来的积极进展。尽管全世界都在争论人工智能是否会摧毁文明,但阿尔特曼对此却更为乐观。 (他承认,这种可能性“不是零”,但“如果我们能采取所有的适当行动的话,可能性就很低。”)这些天让他彻夜难眠的事情可就平凡得多了:有个郊狼占领了他在旧金山那价值 2700 万美元的家。 他说“这只郊狼搬进了我的房子,还把门抓出痕来了,”一边拿起 iPhone,点了几下,翻转屏幕,上面是一张这只动物懒洋洋地躺在户外沙发上的照片。 “它很可爱,但晚上很烦人。”
阿尔特曼在旧金山的家的外面,一头年轻的雄性郊狼
五、突然被裁与旋风回归
尽管阿尔特曼浑身散发出自信的光芒时,但他的董事会内部却越来越不安。在过去几个月的时间里,董事会成员数量从九人减少到了六人。这六人由三名 OpenAI 员工(阿尔特曼、Sutskever 与 Brockman)与三名独立董事组成。三位独董分别是问答网站 Quora 的首席执行官 Adam D'Angelo,科技企业家、兰德公司科学家Tasha McCauley,以及乔治城大学安全与新兴技术中心(Georgetown University’s Center for Security and Emerging Technology)的人工智能政策专家Helen Toner。
据三名知情人士透露,剩余的董事会成员就如何替换三位离开的董事会成员发生了争论。一段时间以来,三位独立董事与Sutskever逐渐对阿尔特曼的行为感到担忧,但担忧的程度各不相同。据两位熟悉董事会讨论情况的人士表示,为了得到自己想要的结果,阿尔特曼往往会在不同的人之间搞挑拨离间。这两人还表示,阿尔特曼试图确保信息传递都要通过他来进行。一位人士表示,“他有办法让画面变得支离破碎”,这导致一个人很难知道其他人的立场。从某种程度来说,这在商业当中是很常见的,但这位人士表示,阿尔特曼做得有点过线了,导致董事会越来越难以监督公司并追究他的责任。
一个例子。十月下旬,Toner用自己在乔治城大学的身份撰写的一篇学术论文发表了。 阿尔特曼认为这篇论文是对 OpenAI 安全方面工作的批评,试图将 Toner 赶出董事会。据两位知情人士透露,阿尔特曼告诉一名董事会成员说,另一名董事会成员认为应该立即解雇Toner,但事实并非如此。
这些人士表示,这件事虽然没有刺激到董事会做出解雇阿尔特曼的决定,但却是他设法对良好治理搞破坏的体现,并且是导致(董事会)四人确信如果自己不能信任阿尔特曼就无法履行监督OpenAI使命这个职责的几起事件之一。董事们做出决定后,认为有必要迅速采取行动,担心阿尔特曼发现苗头不对就会去争取支持或试图破坏他们的名声。另一位熟悉董事会讨论情况的人士表示,“一旦他意识到(自己被解雇)这件事稍微有那么一点可能性,他就会使出浑身解数予以反击。”
11 月 16 日星期四的晚上,Sutskever让阿尔特曼第二天中午在线上聊天。在指定时间里,阿尔特曼加入了Sutskever 安排的 Google Meet,除了Brockman以外,其他董事会成员都出席了此次会议。在会上,Sutskever告诉阿尔特曼,他将被解雇,消息很快就会公布。阿尔特曼说: “我感觉就像做了一个很奇怪的梦,烈度远超我的预期”。
董事会的声明很简洁:公告称,阿尔特曼“在与董事会的沟通当中一直都不坦诚,妨碍了董事会履行职责的能力。董事会不再相信他有能力继续领导 OpenAI。”
阿尔特曼的电脑被锁住了。他开始联系自己投资者与导师关系网络,告诉他们他打算创办一家新公司。 (他说自己由于收到的短信太多以至于iMessage 都崩掉了。)董事会对来自投资者和媒体的压力是有预期的。但据两位熟悉董事会想法的人士透露,他们对来自公司内部反弹声音的规模出现了误判,部分是因为他们有理由相信执行团队会做出不同的反应,他们表示,董事会罢免阿尔特曼的举动是由高级管理层通知的。 而OpenAI 的领导者对阿尔特曼的行为及其对公司文化的影响曾提出过各种担忧。
了解诉讼程序的人士表示,出于法律和保密原因,董事会很难分享具体的细节。但董事会并没有提及阿尔特曼被解雇的动因,也就是“缺乏坦诚”的例子,导致各种猜测泛滥——认为这个决定是出于个人恩怨、意识形态争端,或者纯粹是出于无能。 SVAngel 创始人、导师Ron Conway表示,董事会用“吹毛求疵、根本站不住脚,甚至根本不值得解雇的理由”炒掉了阿尔特曼。他是阿尔特曼被解雇后打电话联系的第一批人之一。 “董事会因情感原因解雇创始人是鲁莽和不负责任的。”
在几小时内,公司员工威胁称,如果董事会不辞职并让阿尔特曼回归,他们就将全体辞职。在巨大的压力下,董事会在阿尔特曼被解雇后的第二天早上联系了他,讨论了推动事态向前发展的潜在路径。阿尔特曼对此的描述是求他回来。 他说:“我经历了一系列的情绪变化。刚开始我是有点想对着干的。但很快,责任感和义务感占据了上风,而且我确实很像留住这个我那么关心的东西。”与董事会关系密切的消息人士对这次接触则有不同的解读,称这是在公司分崩离析之前讨论如何让公司稳定下来的一次尝试。
谈判持续了近48小时。出任临时CEO 的OpenAI CTO Mira Murati与公司其他领导层一起呼吁阿尔特曼回归。于是, 11 月 19 日星期日晚上,董事会又任命了新的临时CEO,也就是 Twitch 前CEO Emmett Shear。微软老板萨蒂亚·纳德拉 (Satya Nadella) 宣布阿尔特曼与Brockman将加入微软,组建一个新的高级人工智能部门;微软表示,欢迎所有 OpenAI 员工的加盟。在Brockman的妻子与自己含泪对峙之后,Sutskever改变了立场:“我对参与董事会这场行动深感遗憾,”他在 11 月 20 日凌晨发帖称。
11 月 6 日,阿尔特曼与微软首席执行官萨蒂亚·纳德拉一同出现在OpenAI DevDay 大会上
截至当天结束,OpenAI 的 770 名员工几乎全部在一封公开信上签了字。公开信的内容是:如果阿尔特曼不复职的话,他们就会辞职。成就了阿尔特曼成为一位如此才华横溢的创业者的那种精明,也让他成为这场对峙当中的一位强大对手,让他能够赢得公司内外大批人士的忠诚。
虽然使命对 OpenAI 员工具有强大的吸引力,但金钱的吸引力同样不可小觑。几乎每位 OpenAI 全职员工都能从 OpenAI 的成功当中获得经济利益,其中包括前董事会成员 Brockman 与 Sutskever。 (阿尔特曼的薪水为 65000 美元,除了通过持有 YC 股份进行间接投资外,他没有其他股权。)在阿尔特曼被解雇后,OpenAI 员工层谋划了一周,打算以 860 亿美元的估值向外部投资者出售股票。 到 12 月有望赚取数百万美元的员工担心自己的期权没了。一位熟悉董事会讨论情况的人士表示:“如果所有人都走掉的话,公司的业绩可能就会归零,这将是史无前例的情况。面对着这样特殊的威胁,员工们团结起来不足为奇。”
跟员工不同的是,寻求罢免阿尔特曼的其他三名董事会成员受雇于其他地方,在该公司没有财务股份,也不参与公司的日常运营。与典型的营利性董事会根据季度收益报告、股票价格以及对股东价值的担忧来做出决策相比,他们的工作是运用自己的判断来确保公司的行为符合人类的最佳利益——这样一种使命说法充其量属于含糊其辞,而且一旦牵涉到到如此多的资金时也难以为继。但不管董事会有没有做出正确决定,他们不愿意或没法提供他们认为阿尔特曼有问题的行为的证据这一点,只会导致他们在公关战中以压倒性的劣势落败。为了监督首席执行官权力而设立的小组,似乎正在不负责任地行使自己的权力。
最终,其余董事会成员在协议中做出了一些让步,让阿尔特曼重新担任首席执行官。他的行为以及董事会做出解雇他的决定都将接受调查,而调查将由一个新的独立董事会负责监督。阿尔特曼与Brockman不会重新拿回董事席位,不过并非所有的独董都离任,D’Angelo仍将继续留任。尽管如此,这仍然是 OpenAI 领导层的一次胜利。 阿尔特曼在 X 上发帖表示:“公司的最大利益和使命始终摆在第一位。很明显,我跟董事会成员之间确实存在误解。我对董事会对最近发生的所有事件进行独立审查表示欢迎。”
还有两天就要到感恩节的那个晚上,员工们聚集到总部,打开香槟庆祝。Brockman发了一张与数十名员工合影的自拍照,并配文:“我们又回来了!”
六、更好的治理在路上
在回归协议达成的十天之后,OpenAI 领导层的态度已经很坚决了。 Brockman说:“我想每个人都觉得我们获得了真正实现使命的第二次机会。大家对此的态度是一致的”。但这家公司注定要进行彻底改革。Sutskever在公司的前途已经很黯淡了。除了前 Twitter 董事会主席布雷特·泰勒 (Bret Taylor)、前美国财政部长拉里·萨默斯 (Larry Summers) 以及D'Angelo外,新的董事会将重新扩大回 9 名成员,并对公司的治理情况进行认真的审视。阿尔特曼说: “显然目前的情况并不好。”
OpenAI 曾尝试过一种能够提供独立监督的结构,但结果却不尽如人意。 非营利组织Collective Intelligence Project 致力于解决这一问题。其联合创始人Divya Siddarth 表示:“由此可以清楚地看出,我们在解决人工智能治理方面做得还不是很好。这突兀地表明,非常少的人用完全不透明的方式做出极其重要的决定看似没问题,但却是一颗定时炸弹。”
重新担任首席执行官后,阿尔特曼表示,自己的首要任务是在灾难发生后稳定公司及其与外部合作伙伴的关系。经过去年大规模的扩张之后,要在某些研究领域加倍投入;并支持新董事会设计出更好的治理体系。但更好的治理是什么样子的仍然不太清楚。 阿尔特曼说:“如果有神谕明示说这就是建立最适合人类的治理结构的办法的话,那就太好了。”
但不管他未来扮演什么样的角色,阿尔特曼都将受到更多关注。 AIPI 执行董事Colson表示:“我认为这些事件让他成为了大众眼中的政治行为者,这是他以前从未担任过的角色。”他认为,这起事件凸显了这一点:让容忍风险的技术专家做出会影响我们所有人的选择的危险。 不幸的是,这就是给市场设定的模式。”
但目前看来,对于一项有可能改变世界的技术而言,阿尔特曼仍将是其具有引领作用的架构师。 他说:“建立超级智能将是一个需要全社会参与的项目。我们希望成为它的塑造者之一,但这不会是一家公司就能做到的事情。这件事情的规模远超任何一家公司的能力。我认为我们现在正处在这样一个位置上:无论如何我们都将贡献自己的一份力量。除非我们确实搞砸了。”
译者:boxi。















