OpenAI 计划重新聘请 Altman 和 Greg，如何看待此事？若重返，可能会有哪些变化？

热点都已经赶不上更新了：

Ilya Sutskever 周日晚上对员工表示，尽管公司高管努力让萨姆·奥尔特曼 (Sam Altman) 重新担任 OpenAI CEO，但他不会再担任CEO。他表示，在与周五解雇他的董事会以及剩余的领导人和顶级投资者进行了一个周末的谈判后，Altman将不会回到OpenAI。视频流媒体网站 Twitch 联合创始人 Emmett Shear 将接任临时首席执行官。

还是那句话，让人类内部对齐，比让 AI 与人类对齐更困难。现在的悲观在于，如果想要通过对齐技术保证 AI 安全——那么问题来了，对齐谁的价值观？

根据彭博社的说法[1]，当 Sam 返回 OpenAI 时，董事会并不在公司：

OpenAI 的临时 CEO Mira Murati 计划召回 Sam 和 Greg，并正在与董事会代表 Adam D’Angelo 进行谈判（具体职位尚未最终确定） 与此同时，OpenAI 董事会正在寻求聘请自己的 CEO，并已联系了两位候选人同样，情况非常不稳定，随时可能发生变化

有人说，Mira 不是董事会任命的 CEO 吗，怎么会反过来帮 Sam。有没有一种可能，Mira 其实就是支持 Sam 的。

我觉得不论是 Ilya，Mira，还是 Sam 或 Greg，他们都在做自己认为对的事。刚读到 Atlantic 的文章[2]，里面说的很对：

无论 Altman 留下还是离开，都无助于解决人工智能发展中存在的危险缺陷。在过去的24小时里，科技行业屏息以待，等待着看到Altman和OpenAI的命运。尽管Altman和其他人口头上对监管表示欢迎，并表示欢迎世界各地的反馈，但这个动荡的周末表明，在我们这个时代最重要的技术的发展中，很少有人有发言权。人工智能的未来取决于富有的技术乐观主义者、狂热的末日论者和价值数十亿美元的公司之间的意识形态斗争。

Atlantic 的文章把问题追溯到了 ChatGPT 发布之前，认为当时 OpenAI 内部就已经分化为（至少）两派（技术乐观派和「AI 末日派」）。我把文章翻译一下：

OpenAI 的混乱之中

Sam Altman 震惊和戏剧性的周末始于一年前——ChatGPT 的发布。
作者：Karen Hao & Charlie Warzel

在过去48小时发生的惊人事件中 —— OpenAI首席执行官Sam Altman的突然离职，他可谓是生成式人工智能革命的领军人物，紧接着有报道称该公司正考虑将他重新聘回 —— 要理解这一切，必须认识到OpenAI并不是一家普通的技术公司。至少，它不像互联网时代的其他划时代公司，如Meta、Google和Microsoft那样。

OpenAI的成立初衷是抵制科技行业的主流价值观 —— 对规模的无休止追求，以及先行后问式推出对消费者产品。它于2015年作为一个致力于创造能够惠及“全人类”的人工通用智能（AGI）的非盈利机构成立。（根据该公司的说法，AGI将足够先进，能够在“大多数经济价值工作”上胜过任何人 —— 这正是一种需要负责任管理的强大技术。）在这一构想中，OpenAI更像是一个研究机构或智库。公司的章程明确指出，OpenAI的“首要义务是对人类”，而非投资者或甚至是员工。

这种模式并没有持续太久。2019年，OpenAI推出了一个“有限利润”的子公司，可以筹集资金，吸引顶尖人才，并最终制造商业产品。但非盈利董事会仍保持着完全控制权。这些企业细节是OpenAI迅速崛起和Altman令人震惊的倒台的核心。上周五，Altman被OpenAI董事会解雇，是公司内两个意识形态极端之间权力斗争的高潮 —— 一方出自硅谷的技术乐观主义，由快速商业化所激发；另一方深陷于人工智能对人类构成的存在风险之中，认为必须极度谨慎地控制。多年来，这两方势力设法共存，尽管一路上不乏波折。

根据目前和前任员工的说法，这种微妙的平衡在一年前的今天几乎完全崩溃，原因是引起OpenAI全球知名的 ChatGPT。从外部看，ChatGPT似乎是有史以来最成功的产品推出之一。它的增长速度超过了历史上任何其他消费者应用，似乎单枪匹马地重新定义了数百万人对自动化的威胁和承诺的理解。但它使OpenAI朝着截然相反的方向发展，加剧了已有的意识形态裂痕。ChatGPT加速了为利润创造产品的竞赛，同时对公司的基础设施和专注于评估和缓解技术风险的员工施加了前所未有的压力。这加剧了OpenAI各派系之间已经紧张的关系 —— Altman在2019年的一封员工邮件中称之为“部落”。

在 Atlantic 与 OpenAI 10 名现任和前任员工的对话中揭示了公司发生的转变，导致领导层之间不可持续的分歧。（我们同意不透露任何员工的姓名 —— 他们都告诉我们，他们担心如果坦率地向媒体透露OpenAI内部情况，会面临后果。）综合他们的陈述可以看出，公司营利部门商业化的压力日益增加，与公司的既定使命发生了冲突，直到ChatGPT和紧随其后的其他产品推出，一切达到了顶点。“在ChatGPT之后，盈利和获利的道路已经很清晰了，”一位消息人士告诉我们。“再也不能以理想主义的研究实验室自居。这里有现在就需要服务的客户。”

我们仍然不知道Altman被解雇的确切原因，也不知道他是否会回到原职位。今天下午，Altman访问了位于旧金山的OpenAI总部，讨论可能的协议，但他没有回应我们的置评请求。董事会在周五宣布，经过“审慎的审查过程”发现“他在与董事会的沟通中并不总是坦率”，导致董事会对他作为OpenAI首席执行官的能力失去信心。随后，首席运营官向员工发出的一份内部备忘录，经OpenAI发言人证实，称解雇是由于Altman与董事会之间的“沟通崩溃”，而不是由于“不当行为或与我们的财务、商业、安全或安全/隐私实践有关的任何事情”。但没有具体的细节被提供。我们所知道的是，过去一年在OpenAI是混乱的，主要由公司方向的明显分歧所定义。

在2022年秋季，即将推出ChatGPT之前，OpenAI全力以赴，为其迄今为止最强大的大型语言模型GPT-4的发布做准备。各团队忙于完善这项技术，该技术能够流畅地写作和编码，并描述图片的内容。他们致力于准备支持该产品的必要基础设施，并细化政策，以决定OpenAI将容忍和不容忍哪些用户行为。

在这一切的背后，OpenAI 内部开始传出其竞争对手 Anthropic 正在开发自己的聊天机器人的谣言。这场竞争是个人的化：Anthropic 是在 2020 年一批员工离开 OpenAI 后成立的，据说是因为他们对公司产品发布的速度有所担忧。据三位当时在公司的人士透露，去年十一月，OpenAI 的领导层告诉员工，他们需要在几周内推出一个聊天机器人。为了完成这个任务，他们指示员工发布一个现有模型 GPT-3.5，并配上基于聊天的界面。领导层小心翼翼地将这次努力描述为“低调的研究预览”，而不是产品发布。Altman 和其他高管表示，通过将 GPT-3.5 交到人们手中，OpenAI 可以收集更多关于人们如何使用和与 AI 互动的数据，这将帮助公司推进 GPT-4 的开发。这种方法也符合公司更广泛的部署策略，即逐渐向世界释放技术，让人们习惯它们。包括 Altman 在内的一些高管开始重复同样的观点：OpenAI 需要启动“数据飞轮”。

一些员工对于匆忙推出这个新的对话模型表示不安。公司为 GPT-4 的准备工作已经人手紧张，并且不太能应对可能改变风险格局的聊天机器人。就在几个月前，OpenAI 上线了一个新的流量监控工具来跟踪基本的用户行为。它还在完善该工具的能力，了解人们如何使用公司的产品，这将进一步指导公司如何减轻技术可能的危险和滥用。其他员工则认为，将 GPT-3.5 转变成聊天机器人可能会面临最小的挑战，因为该模型本身已经经过充分的测试和完善。

公司继续推进，并于 11 月 30 日推出了 ChatGPT。这被认为是一个小事件，以至于没有任何主要的公司内部公告关于聊天机器人的上线。许多不直接参与的员工，包括安全功能部门的员工，甚至没意识到这一事件的发生。据一名员工透露，一些知情的员工开始下注，赌第一周有多少人可能会使用这个工具。最高的猜测是 10 万用户。OpenAI 的总裁在推特上宣布，该工具在前五天内达到了 100 万用户。低调的研究预览 这个短语在 OpenAI 内部迅速成为一个即时的模因；员工将其制成笔记本电脑贴纸。

ChatGPT 的飞速成功给公司带来了巨大的压力。研究团队的计算能力被重新分配，以处理流量激增。随着流量的不断增加，OpenAI 的服务器反复崩溃；流量监控工具也反复失败。即使工具在线，员工也因其有限的功能而难以详细了解用户行为。

公司内部的安全团队推动放慢步伐。这些团队努力改进 ChatGPT，拒绝某些类型的滥用请求，并以更合适的答案回应其他查询。但他们在构建诸如自动禁止反复滥用 ChatGPT 的用户的功能时遇到了困难。相比之下，公司的产品部门希望借势加大商业化的力度。公司雇佣了数百名员工，以积极扩大公司的产品范围。2 月，OpenAI 发布了付费版本的 ChatGPT；3 月，它迅速跟进推出了一个 API 工具，以帮助企业将 ChatGPT 集成到他们的产品中。两周后，它最终推出了 GPT-4。

根据当时在公司的三名员工的说法，新产品的大量推出恶化了情况。流量监控工具的功能性严重滞后，对于通过新API工具集成到ChatGPT和GPT-4的产品所产生的流量，这一工具只能提供有限的可见性，这使得理解和阻止滥用变得更加困难。与此同时，随着用户大规模创建账户，API平台上的欺诈行为激增，他们利用这些新账户获得的每笔20美元的按量计费服务额度进行套现。阻止这种欺诈行为成为了首要任务，以遏制收入损失，防止用户通过创建新账户来逃避滥用执法：原本人手就不足的信任与安全团队的员工被重新分配，专注于这个问题，而其他滥用领域的工作因此受到影响。在日益增加的压力下，一些员工开始出现心理健康问题。沟通效果欠佳，同事们常常是在注意到有人在Slack上消失后，才发现他们已被解雇。

GPT-4的发布也让专注于上游AI安全挑战的对齐团队感到沮丧，比如开发各种技术来使模型遵循用户指令，防止它发出有害言论或“幻觉”——自信地将错误信息呈现为事实。许多团队成员，包括越来越多担忧更先进AI模型存在风险的人，对GPT-4被迅速发布并广泛集成到其他产品中的方式感到不安。他们认为他们所做的AI安全工作还不够。

在公司高层，紧张局势愈发显著。当 Altman 和OpenAI总裁 Greg Brockman 鼓励更多的商业化行为时，该公司首席科学家 Ilya Sutskever 对于OpenAI是否仍在秉承其创立非营利组织的使命——创造有益的通用人工智能（AGI）——感到日益担忧。过去几年中，OpenAI的大型语言模型迅速进展使Sutskever更加相信AGI的即将到来，因此更加专注于预防其可能的危险。这是根据多年来与他保持密切联系的AI先驱杰Geoffrey Hinton的说法，Hinton曾是苏茨克沃在多伦多大学的博士导师。（Sutskever未对置评请求作出回应。）

预见到这种全能技术的到来，Sutskever开始像一位精神领袖一般行事，与他合作过的三名员工告诉我们。他常常热情地重复一句口号：“Feel the AGI”，暗指公司正处于实现其终极目标的关键时刻。在2022年OpenAI的假日派对上，该派对在加利福尼亚科学院举行，Sutskever引领员工高呼：“Feel the AGI！Feel the AGI！”这个口号本身就足够流行，以至于OpenAI员工在Slack中创建了一个特殊的“Feel the AGI”反应表情。

随着Sutskever对OpenAI技术力量的信心日益增强，他也更多地与公司内部关注存在风险的团队结盟。据了解今年一次领导层外出活动，Sutskever委托一位当地艺术家制作了一个木制偶像，代表“未对齐”的AI——即不符合人类目标的AI。他将其点燃，象征着OpenAI对其创立原则的承诺。七月，OpenAI宣布成立所谓的超级对齐团队，由Sutskever共同领导研究。OpenAI表示，公司将扩大对齐团队的研究，以开发更多上游AI安全技术，为AGI在本十年到来的可能性做准备，专门用于此目的的公司现有计算芯片的20%。

与此同时，公司其他部分继续推出新产品。在超级对齐团队成立后不久，OpenAI发布了强大的图像生成器DALL-E 3。然后，在本月早些时候，该公司举办了首次“开发者大会”，在大会上Altman推出了GPTs，这是一种可以无需编码就能构建的定制版ChatGPT。这些再次出现了重大问题：根据公司更新，OpenAI经历了一系列中断，包括ChatGPT及其APIs的一次大规模中断。开发者大会后三天，据CNBC报道，微软因安全担忧暂时限制员工使用ChatGPT。

尽管面临种种挑战，Altman依然坚定地向前推进。在被解职前的几天，他积极宣传OpenAI持续的进步。他向《金融时报》透露，公司已经开始着手GPT-5的研发，并在几天后暗示在亚太经合组织（APEC）峰会上有惊人的大动作。“就在过去的几周里，我有幸亲临其境，见证我们如何一点点揭开无知的面纱，将发现的前沿推向更远。”他说道，“能够参与其中，对我而言是职业生涯中的至高荣誉。”据报道，Altman还在寻求从软银和中东投资者那里筹集数十亿美元，以建立一家能与英伟达和其他半导体制造商竞争的芯片公司，同时也为OpenAI降低成本。在一年时间里，Altman帮助OpenAI从一个混合研究公司转变为一个处于全速增长模式的硅谷科技公司。

在这样的背景下，可以理解为何紧张局势会爆发。OpenAI的宪章将原则置于利润、股东和任何个人之上。公司部分由现在代表Sutskever的这一群体所创立——他们对AI的潜力感到恐惧，其信念有时似乎植根于科幻领域——而这也构成了OpenAI当前董事会的一部分。但Altman同样也将OpenAI的商业产品和筹款努力定位为实现公司最终目标的手段。他告诉员工，公司的模型还处于发展的早期阶段，OpenAI应当商业化并产生足够的收入，以确保它能够在对齐和安全问题上无限制地投入；据报道，ChatGPT有望每年产生超过10亿美元的收入。

从一方面来看，Altman 被解雇可以看作是 OpenAI 不同寻常结构中的一个惊人实验。这个实验可能正导致我们熟知的公司结构解体，并且深刻地影响着人工智能的发展方向。如果 Altman 在投资者的压力和现有员工的强烈反对声中重返公司，此举将成为 Altman 权力的巨大集中。这将表明，尽管 OpenAI 有着宏伟的章程和信条，它可能毕竟只是一家传统的科技公司。

然而，从另一个角度来看，无论 Altman 留下还是离开，都无法解决人工智能发展中存在的一个危险缺陷。在过去的 24 小时里，科技行业屏息以待，观望 Altman 和 OpenAI 的命运如何。尽管 Altman 和其他人口头上支持监管并表示欢迎全世界的反馈，这个动荡的周末展示了在可能是我们这个时代最重要技术的进展中，究竟有多少人能发出自己的声音。人工智能的未来正被富有的技术乐观主义者、狂热的末日论者以及数十亿美元的公司之间的意识形态斗争所决定。OpenAI 的命运或许悬而未决，但公司的自负——其名称所倡导的开放性——已显示出其局限性。看来，未来将在关起门之后被决定。

参考

^https://www.bloomberg.com/news/articles/2023-11-20/openai-s-murati-aims-to-re-hire-altman-brockman-after-exits^https://www.theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050/