聊一下OpenAI最近的离职风波
最近一周,OpenAI和谷歌接连在AI领域发力。OpenAI 发布了GPT-4o,加入了很多对消费者来说很神奇、有价值的功能。谷歌的2024IO大会,AI更是重心所在,发布了大量和AI相关的产品来应对OpenAI和微软的攻势。网上有很多这方面的视频,我就不鹦鹉学舌了。我今天要谈的,是OpenAI内部的人事变动。
在OpenAI的发布之后,内部新一波的人事动荡对外公开。先是联合创始人兼首席科学家Ilya Sutskever在5月14日宣布离职;三天后,SuperAlignment 的联合负责人 Jan Leike 也宣布离职。
我觉得这次离职事件,是上次公司内斗的自然延续,也是一个标志,即OpenAI 将在商业化道路上狂奔,并彻底放弃了对人工智能安全问题的底线。
我们知道任何一家普通的商业公司,根据产品的不同,都有一定的社会责任和底线。比如食品公司,满足基本的食品安全和质量是他们的社会责任和道德底线;航运公司,保证货物安全或旅客生命和健康安全是他们的社会责任和道德底线。OpenAI作为一家的“公益组织”,先是成立了一家盈利性质的公司。好吧,我们能理解,AI 的投资太吓人,你们需要盈利支持。现在又解散了对AI安全、滥用、监管等有重要意义的研究部SuperAlignment部门,你觉得这还是公益组织吗?这次事件后,是不是说作为一个公益组织的OpenAI实际已经不复存在,它现在就是一只披着羊皮的狼。任何关于OpenAI是公益组织的诡辩,都是自欺欺人或欺世盗名。
对Sam Alterman在OpenAI的很多作为,我个人不太认同。媒体或者他自己把自己装扮成AI的形象代言人,但他没有任何值得称道的AI学术成就,充其量就是个OpenAI的鼓吹者。他机遇不错,很会炒作、鼓吹、推销。但最终为了商业化而彻底放弃公益组织的理念,改变OpenAI的初心。在这个过程中,OpenAI内部显然有不同意见。但需要指出的是,反对派是少数。最后总是上演资本战胜良心,利益高于责任的老套路,和好莱坞的伟光正影片,恰好相反。
Ilya这个人可能受他的导师Hinton影响,感觉他有点理想主义。他的学术和技术能力是毋庸置疑的。他这种人无论是自己创业或加入其他公司,都是技术上的中流砥柱。我认同他在 SuperAlignment 上的努力,这说明他有前瞻性的技术眼光。一个人类无法理解控制的技术,终究会成为全人类的威胁。因此理解这种技术,并发展出对应的控制手段,是一种必然。但他对ChatGTP拥有意识的观点,我不认同。我认为目前人类从技术层面上,不完全理解意识,ChatGPT更是没有任何一点和意识相关的技术实现。
即便从投资角度,OpenAI撤销对AI安全的研究和投资,解散 SuperAlignment 部门,未必是正确的做法。目前AI的监管并不到位,政府部门对新事物的应对总是要迟滞5-10年。但从长远来看,这种监管是必然的;相关的技术在以后必然得到充分的研究和突破。因此这笔投资,无论是对OpenAI无形资产还是长期资产,都会有相当的回报。如果运作得当,甚至会对竞争对手形成压制性的优势,比如强制性的合规要求,会阻止没有类似技术的竞争对手进入很多领域。另外 SuperAlignment 研究进展,可能会加速我们对 AI 网络结构的深度理解,并因此发明新的网络结构,应对各种智能问题,或者提升目前各种神经网络的性能。
OpenAI目前获得的商业上的成功,在我看来是暂时的。所有的AI初创公司,包括OpenAI,目前我们都没有看到一个有效、可观的盈利手段。OpenAI在技术上比竞争对手领先,但这种领先是工程方面的,没有突破性的技术优势,并且是暂时的。他们也没有利用AI对其他公司的传统业务,形成降维打击。这些都是很严重的商业策略问题。我一直认为,谷歌和Meta的AI技术储备要强过OpenAI。等到这些公司完成对自己业务的AI改造,或者偶然开发或发现一款颠覆性的AI应用,那么OpenAI的好日子就到头了。
此次的离职事件,也有可能对OpenAI的创新能力造成打击。OpenAI在过去的几年里,在AI的技术创新、工程能力方面至少领先竞争对手1-2两年。在内部宫斗剧前后,我们可以明显感觉到其他对手的追赶,换个角度,是不是他们放慢了脚步。随着 Ilya 的离开,OpenAI 必须寻找一个新的与之相当的首席科学家,对Sam Alterman来说,这是一个新的冒险任务。
另外,这次事件,应该对各国的政府部门敲一下警钟,加快相关的立法工作,应对可能产生的社会冲击。OpenAI内部,像Ilya等人都是少数派,大部分都愿意跟着Sam在商业化的道路上狂奔,对于放弃社会责任没有一点负担,这对个人来说,无可厚非,因为这是整个人类社会和各国政府的责任,而不是仅仅依赖人性的光辉和社会的自觉。人类的技术进步,正逐渐进入到一个颠覆性阶段。这个阶段的很多技术发明,会对人类自身、伦理、社会等以及自然造成难以估量的影响。如果整个社会和政府反应迟钝,这些技术就会对社会造成威胁。比如被误用或滥用已经开始成为一种普遍的社会现象,以后,某项技术甚至会被某些人用来奴役和控制整个人类社会。这似乎有些危言耸听,但却无比真实。也是从这个角度,我在Geoffrey、Ilya等人身上看到了人性的光辉,感谢 Ilya 对 SuperAliagnmen 研究的推动,对他的离开,感到惋惜。
AI发展到今天,已经有多商业化的前景,很多人、很多公司都在做。但是像他一样预见了AI的威胁,并踏实地研究和寻找对策的人很少,希望他能坚持自己的初衷。