聊一下OpenAI最近的离职风波
最近一周，OpenAI和谷歌接连在AI领域发力。OpenAI 发布了GPT-4o，加入了很多对消费者来说很神奇、有价值的功能。谷歌的2024IO大会，AI更是重心所在，发布了大量和AI相关的产品来应对OpenAI和微软的攻势。网上有很多这方面的视频，我就不鹦鹉学舌了。我今天要谈的，是OpenAI内部的人事变动。
在OpenAI的发布之后，内部新一波的人事动荡对外公开。先是联合创始人兼首席科学家Ilya Sutskever在5月14日宣布离职；三天后，SuperAlignment 的联合负责人 Jan Leike 也宣布离职。
我觉得这次离职事件，是上次公司内斗的自然延续，也是一个标志，即OpenAI 将在商业化道路上狂奔，并彻底放弃了对人工智能安全问题的底线。
我们知道任何一家普通的商业公司，根据产品的不同，都有一定的社会责任和底线。比如食品公司，满足基本的食品安全和质量是他们的社会责任和道德底线；航运公司，保证货物安全或旅客生命和健康安全是他们的社会责任和道德底线。OpenAI作为一家的“公益组织”，先是成立了一家盈利性质的公司。好吧，我们能理解，AI 的投资太吓人，你们需要盈利支持。现在又解散了对AI安全、滥用、监管等有重要意义的研究部SuperAlignment部门，你觉得这还是公益组织吗？这次事件后，是不是说作为一个公益组织的OpenAI实际已经不复存在，它现在就是一只披着羊皮的狼。任何关于OpenAI是公益组织的诡辩，都是自欺欺人或欺世盗名。
对Sam Alterman在OpenAI的很多作为，我个人不太认同。媒体或者他自己把自己装扮成AI的形象代言人，但他没有任何值得称道的AI学术成就，充其量就是个OpenAI的鼓吹者。他机遇不错，很会炒作、鼓吹、推销。但最终为了商业化而彻底放弃公益组织的理念，改变OpenAI的初心。在这个过程中，OpenAI内部显然有不同意见。但需要指出的是，反对派是少数。最后总是上演资本战胜良心，利益高于责任的老套路，和好莱坞的伟光正影片，恰好相反。
Ilya这个人可能受他的导师Hinton影响，感觉他有点理想主义。他的学术和技术能力是毋庸置疑的。他这种人无论是自己创业或加入其他公司，都是技术上的中流砥柱。我认同他在 SuperAlignment 上的努力，这说明他有前瞻性的技术眼光。一个人类无法理解控制的技术，终究会成为全人类的威胁。因此理解这种技术，并发展出对应的控制手段，是一种必然。但他对ChatGTP拥有意识的观点，我不认同。我认为目前人类从技术层面上，不完全理解意识，ChatGPT更是没有任何一点和意识相关的技术实现。
即便从投资角度，OpenAI撤销对AI安全的研究和投资，解散 SuperAlignment 部门，未必是正确的做法。目前AI的监管并不到位，政府部门对新事物的应对总是要迟滞5-10年。但从长远来看，这种监管是必然的；相关的技术在以后必然得到充分的研究和突破。因此这笔投资，无论是对OpenAI无形资产还是长期资产，都会有相当的回报。如果运作得当，甚至会对竞争对手形成压制性的优势，比如强制性的合规要求，会阻止没有类似技术的竞争对手进入很多领域。另外 SuperAlignment 研究进展，可能会加速我们对 AI 网络结构的深度理解，并因此发明新的网络结构，应对各种智能问题，或者提升目前各种神经网络的性能。
OpenAI目前获得的商业上的成功，在我看来是暂时的。所有的AI初创公司，包括OpenAI，目前我们都没有看到一个有效、可观的盈利手段。OpenAI在技术上比竞争对手领先，但这种领先是工程方面的，没有突破性的技术优势，并且是暂时的。他们也没有利用AI对其他公司的传统业务，形成降维打击。这些都是很严重的商业策略问题。我一直认为，谷歌和Meta的AI技术储备要强过OpenAI。等到这些公司完成对自己业务的AI改造，或者偶然开发或发现一款颠覆性的AI应用，那么OpenAI的好日子就到头了。
此次的离职事件，也有可能对OpenAI的创新能力造成打击。OpenAI在过去的几年里，在AI的技术创新、工程能力方面至少领先竞争对手1-2两年。在内部宫斗剧前后，我们可以明显感觉到其他对手的追赶，换个角度，是不是他们放慢了脚步。随着 Ilya 的离开，OpenAI 必须寻找一个新的与之相当的首席科学家，对Sam Alterman来说，这是一个新的冒险任务。
另外，这次事件，应该对各国的政府部门敲一下警钟，加快相关的立法工作，应对可能产生的社会冲击。OpenAI内部，像Ilya等人都是少数派，大部分都愿意跟着Sam在商业化的道路上狂奔，对于放弃社会责任没有一点负担，这对个人来说，无可厚非，因为这是整个人类社会和各国政府的责任，而不是仅仅依赖人性的光辉和社会的自觉。人类的技术进步，正逐渐进入到一个颠覆性阶段。这个阶段的很多技术发明，会对人类自身、伦理、社会等以及自然造成难以估量的影响。如果整个社会和政府反应迟钝，这些技术就会对社会造成威胁。比如被误用或滥用已经开始成为一种普遍的社会现象，以后，某项技术甚至会被某些人用来奴役和控制整个人类社会。这似乎有些危言耸听，但却无比真实。也是从这个角度，我在Geoffrey、Ilya等人身上看到了人性的光辉，感谢 Ilya 对 SuperAliagnmen 研究的推动，对他的离开，感到惋惜。
AI发展到今天，已经有多商业化的前景，很多人、很多公司都在做。但是像他一样预见了AI的威胁，并踏实地研究和寻找对策的人很少，希望他能坚持自己的初衷。
