OpenAI团队分崩离析?听听他们自己怎么说吧|TodayAI

人工智能新闻2个月前发布 TodayAI
2,719 0 0
PonderAI-智能助手

OpenAI团队分崩离析?听听他们自己怎么说吧|TodayAI

在 Google I/O 2024 开幕当天,消失了半年之久的 OpenAI 联合创办人兼首席科学家 Ilya Sutskever 突然在社交平台 X 上宣布离开 OpenAI,这一消息回应了许多扑朔迷离的猜测。

“在 OpenAI 工作近十年后,我决定离开。公司取得了难以置信的进步,我相信在 Sam、Greg、Mira 及杰出研究领导者 Jakub 的带领下,OpenAI 将建立安全有益的通用人工智慧。”Ilya 写道,并附上一张办公室合影,纪念几人的革命情谊。

消息传出后,Lex Fridman、Jeff Dean 等业内大佬和网友纷纷留言祝福,感谢 Ilya 的贡献。Sam Altman 也立即发表正式回应,与以往随性的风格形成鲜明对比。他表示,与 Ilya 分道扬镳“非常悲伤”,称赞 Ilya 是“这代最杰出的人才,AI 领域的指路明灯,也是亲密朋友”。他还说:“没有他,OpenAI 不会成为今天的样子。我永远感激 Ilya,并承诺完成共同使命。”

同时,Altman 宣布领导 OpenAI 推理团队、深度学习科学团队和 GPT-4 开发的前研究总监 Jakub Pachocki 接任 Ilya 成为新首席科学家。他还转发 Ilya 的照片说“feeling the AGI today”,并在 Ilya 的发文下借用网友的梗留言打趣:“别告诉他们你看到了什么”。

然而,事情并非表面上那么平静。当晚 9 时 43 分,第一个“离职人”出现了:与 Ilya 共同领导 OpenAI「超级对齐团队」的 Jan Leike 在 X 发文宣布“我(也)撤了。”

Jan Leike 自 2021 年从 Google DeepMind 跳槽到 OpenAI,主要研究方向包括强化学习、大语言模式对齐工程及 AGI。他和 Ilya 的 Superalignment 团队旨在四年内建立能与人类媲美的自动对齐研究器,尽可能将工作交由自动系统完成,同时确保 AI 系统行为与人类价值观和目标一致。

今年 4 月,有媒体报道对齐团队的两名员工 Leopold Aschenbrenner 和 Pavel Izmailov 因“泄密”被开除,但 OpenAI 未说明泄密内容。随后,OpenAI 证实团队已经解散,工作整合分散至其他小组。

熟悉的情节再次上演,仿佛重现了去年 11 月 Altman 被董事会罢免、Greg Brockman 离职的局面。网友 Logan Kilpatrick 留言道:“你们又来了是吧?”

第二天,OpenAI 前工程负责人 Evan Morikawa 也宣布离开,与波士顿动力前高阶机器人学家 Andy Barry 和 DeepMind 研究科学家 Pete Florence、Andy Zeng 一起开启新计划,认为“这是全球达成 AGI 的必需”。

Jan Leike 重拳出击,公开表示与 OpenAI 高层的核心优先事项有“无法调和”的分歧,团队在推进项目和争取运算资源时遭遇重大阻碍,严重影响进度和质量。他说,5 月 17 日是他担任 OpenAI 对齐负责人、超级对齐负责人和高层的最后一天。

他肯定了团队三年多的成绩:“推出了第一个基于 RLHF 的大语言模型 InstructGPT,发表了第一个大规模监督 LLMs 的方法,并开创了自动解释性和从弱到强泛化。”

接着,Jan 话锋一转,表达了对 OpenAI 的失望:“离开这工作是我最艰难的决定之一,因为我们迫切需要弄清楚如何引导和控制比我们聪明的 AI。我加入 OpenAI 是因为我以为这里是全世界最适合做这研究的地方。然而,我与 OpenAI 领导层的核心优先事项有长期分歧,直到我们达到临界点。”

Jan Leike 继续解释:“我相信,应该将更多频宽花在为下一代模型做准备,专注安全、监控、对抗性稳健性、超级对齐、保密性、社会影响等主题。这些问题很难解决,我担心还没走上正轨。过去几个月,团队一直在逆风前进。有时我们争取计算资源,完成关键研究越来越困难。”

他还提到:“建造比人类更聪明的机器本质上是危险的工作。OpenAI 代表全人类肩负着巨大的责任。但过去几年,安全文化和流程让位给光鲜亮丽的产品。我们早该认真重视 AGI 的影响度了,必须优先做好准备,这样才能确保 AGI 造福全人类。OpenAI 必须成为安全至上的 AGI 公司。”

最后,Jan Leike 向所有 OpenAI 员工喊话:“学会感受 AGI。对你正在建构的事物,态度庄重一点。我相信你们可以‘传递’文化变革。我指望你们,全世界都指望你们。”

这番言论一出,网友立即炸锅。有网友评论:“这就是 Ilya 看到的,他一直在告诉董事会并试图反对。他要求的只是 AI 安全,现在 Jan 也证实了这一点。”还有人梳理了 OpenAI 历史上所有安全团队带头大佬离职的时间线,包括 Anthropic 共同创办人 Amodei 兄妹。

“这听起来像 OpenAI 想继续烧钱商业化,而不是确保安全。他们想成为企业大亨,而不是英雄。”更有人爆料,员工离开 OpenAI 时,需签署“承诺终身不得贬损公司的离职协议”。如果拒签就会失去所有归属股权,代表损失数百万美元。

面对 Jan Leike 的长文,Altman 很快发文“反击”,最后也送了一颗小心心:“我非常感激 Jan Leike 对 OpenAI 对齐研究和安全文化的贡献,也非常难过看到他离开。他说得对,我们还有很多事情要做,我们承诺会做到。我会在接下来的几天发长文解释。”

看来这场新的 OpenAI 保卫战,即 OpenAI 内斗第二季之杨莱克大战奥特曼就要开打,接下来双方的小作文比賽马上要开始了。这间公司每个人好像都为自己上满了主角光环,隔段时间就上演大戏惯例已定。接下来走向如何,会否又来一场员工团体运动?看來 OpenAI 不会停了。

OpenAI团队分崩离析?听听他们自己怎么说吧|TodayAI
© 版权声明

相关文章