在 Google I/O 2024 开幕当天，消失了半年之久的 OpenAI 联合创办人兼首席科学家 Ilya Sutskever 突然在社交平台 X 上宣布离开 OpenAI，这一消息回应了许多扑朔迷离的猜测。
“在 OpenAI 工作近十年后，我决定离开。公司取得了难以置信的进步，我相信在 Sam、Greg、Mira 及杰出研究领导者 Jakub 的带领下，OpenAI 将建立安全有益的通用人工智慧。”Ilya 写道，并附上一张办公室合影，纪念几人的革命情谊。
消息传出后，Lex Fridman、Jeff Dean 等业内大佬和网友纷纷留言祝福，感谢 Ilya 的贡献。Sam Altman 也立即发表正式回应，与以往随性的风格形成鲜明对比。他表示，与 Ilya 分道扬镳“非常悲伤”，称赞 Ilya 是“这代最杰出的人才，AI 领域的指路明灯，也是亲密朋友”。他还说：“没有他，OpenAI 不会成为今天的样子。我永远感激 Ilya，并承诺完成共同使命。”
同时，Altman 宣布领导 OpenAI 推理团队、深度学习科学团队和 GPT-4 开发的前研究总监 Jakub Pachocki 接任 Ilya 成为新首席科学家。他还转发 Ilya 的照片说“feeling the AGI today”，并在 Ilya 的发文下借用网友的梗留言打趣：“别告诉他们你看到了什么”。
然而，事情并非表面上那么平静。当晚 9 时 43 分，第一个“离职人”出现了：与 Ilya 共同领导 OpenAI「超级对齐团队」的 Jan Leike 在 X 发文宣布“我（也）撤了。”
Jan Leike 自 2021 年从 Google DeepMind 跳槽到 OpenAI，主要研究方向包括强化学习、大语言模式对齐工程及 AGI。他和 Ilya 的 Superalignment 团队旨在四年内建立能与人类媲美的自动对齐研究器，尽可能将工作交由自动系统完成，同时确保 AI 系统行为与人类价值观和目标一致。
今年 4 月，有媒体报道对齐团队的两名员工 Leopold Aschenbrenner 和 Pavel Izmailov 因“泄密”被开除，但 OpenAI 未说明泄密内容。随后，OpenAI 证实团队已经解散，工作整合分散至其他小组。
熟悉的情节再次上演，仿佛重现了去年 11 月 Altman 被董事会罢免、Greg Brockman 离职的局面。网友 Logan Kilpatrick 留言道：“你们又来了是吧？”
第二天，OpenAI 前工程负责人 Evan Morikawa 也宣布离开，与波士顿动力前高阶机器人学家 Andy Barry 和 DeepMind 研究科学家 Pete Florence、Andy Zeng 一起开启新计划，认为“这是全球达成 AGI 的必需”。
Jan Leike 重拳出击，公开表示与 OpenAI 高层的核心优先事项有“无法调和”的分歧，团队在推进项目和争取运算资源时遭遇重大阻碍，严重影响进度和质量。他说，5 月 17 日是他担任 OpenAI 对齐负责人、超级对齐负责人和高层的最后一天。
他肯定了团队三年多的成绩：“推出了第一个基于 RLHF 的大语言模型 InstructGPT，发表了第一个大规模监督 LLMs 的方法，并开创了自动解释性和从弱到强泛化。”
接着，Jan 话锋一转，表达了对 OpenAI 的失望：“离开这工作是我最艰难的决定之一，因为我们迫切需要弄清楚如何引导和控制比我们聪明的 AI。我加入 OpenAI 是因为我以为这里是全世界最适合做这研究的地方。然而，我与 OpenAI 领导层的核心优先事项有长期分歧，直到我们达到临界点。”
Jan Leike 继续解释：“我相信，应该将更多频宽花在为下一代模型做准备，专注安全、监控、对抗性稳健性、超级对齐、保密性、社会影响等主题。这些问题很难解决，我担心还没走上正轨。过去几个月，团队一直在逆风前进。有时我们争取计算资源，完成关键研究越来越困难。”
他还提到：“建造比人类更聪明的机器本质上是危险的工作。OpenAI 代表全人类肩负着巨大的责任。但过去几年，安全文化和流程让位给光鲜亮丽的产品。我们早该认真重视 AGI 的影响度了，必须优先做好准备，这样才能确保 AGI 造福全人类。OpenAI 必须成为安全至上的 AGI 公司。”
最后，Jan Leike 向所有 OpenAI 员工喊话：“学会感受 AGI。对你正在建构的事物，态度庄重一点。我相信你们可以‘传递’文化变革。我指望你们，全世界都指望你们。”
这番言论一出，网友立即炸锅。有网友评论：“这就是 Ilya 看到的，他一直在告诉董事会并试图反对。他要求的只是 AI 安全，现在 Jan 也证实了这一点。”还有人梳理了 OpenAI 历史上所有安全团队带头大佬离职的时间线，包括 Anthropic 共同创办人 Amodei 兄妹。
“这听起来像 OpenAI 想继续烧钱商业化，而不是确保安全。他们想成为企业大亨，而不是英雄。”更有人爆料，员工离开 OpenAI 时，需签署“承诺终身不得贬损公司的离职协议”。如果拒签就会失去所有归属股权，代表损失数百万美元。
面对 Jan Leike 的长文，Altman 很快发文“反击”，最后也送了一颗小心心：“我非常感激 Jan Leike 对 OpenAI 对齐研究和安全文化的贡献，也非常难过看到他离开。他说得对，我们还有很多事情要做，我们承诺会做到。我会在接下来的几天发长文解释。”
看来这场新的 OpenAI 保卫战，即 OpenAI 内斗第二季之杨莱克大战奥特曼就要开打，接下来双方的小作文比賽马上要开始了。这间公司每个人好像都为自己上满了主角光环，隔段时间就上演大戏惯例已定。接下来走向如何，会否又来一场员工团体运动？看來 OpenAI 不会停了。
相关文章
