• 媒体品牌
    爱范儿
    关注明日产品的数字潮牌
    APPSO
    先进工具,先知先行,AIGC 的灵感指南
    董车会
    造车新时代,明日出行家
    玩物志
    探索城市新生活方式,做你的明日生活指南
  • 知晓云
  • 制糖工厂
    扫描小程序码,了解更多

OpenAI 宫斗的「幕后黑手」,是 ChatGPT

商业

2023-11-22 10:52

当我(一次又一次天真地)以为 OpenAI 这场风波要尘埃落定时,它总能以《继承之战》编剧都没法写出来的方式反转。

在超过九成 OpenAI 员工彻底撕破脸,联名要求董事会解散,并迎回 Sam Altman 后 ,董事会还没放弃抵抗。他们甚至找到了竞争对手 Anthropic,试图让两家公司合并。

董事会希望说服 Anthropic 的联合创始人兼 CEO Dario Amodei 接任 CEO,以完成四天更换四个 CEO 历史壮举。

Dario Amodei 也曾是 OpenAI 高管,他离职后创立的 Anthropic 主推安全的 AI,旗下聊天机器人 Claude 是 ChatGPT 的竞品。

分析认为,如果 OpenAI 和 Anthropic 真合并了,那简直又是一场混乱的开端,因为两家明星创业公司背后是几家科技巨头在 AI 领域布局的站队。

微软和 OpenAI 一队,Anthropic 则和亚马逊以及 Google 签了数十亿美元的云计算协议,两家巨头也都有投资 Anthropic。

目前 OpenAI 已经处于分崩离析的边缘,竞争对手开始招募流出的大批人才,同时 OpenAI 的大客户也在考虑转投 Anthropic、微软或 Google 等公司

在我们继续追踪事态发展的同时,也回顾一下这场剧变的起始点 —— OpenAI 的内部矛盾。《大西洋月刊》在最新的一篇报道中,挖出了内部深埋已久的理念冲突。

OpenAI 的混乱,从 ChatGPT 发布那天就开始了

1. OpenAI 原本没打算发布GPT-3.5。2022 年秋季,OpenAI 原本在筹备发布 GPT-4。但有传言称 Anthropic 也要发聊天机器人,于是 OpenAI 管理团队在 11 月宣布几周后就要发布产品,选用了当时相对完善的 GPT-3.5。

2. 没人料到 ChatGPT 的成功。ChatGPT 的发布很低调,低调到公司里好些员工都不知道 OpenAI 发布了它。当时知情的员工还在赌能引来多少用户,最多只猜到一万用户。结果,上线五天用户数就突破了一百万。

3. ChatGPT 不仅让服务器宕机,也让检测工具失效。团队做了一个流量监测工具,可追踪用户行为,理解用户在如何使用这个工具,协调潜在危机和滥用。ChatGPT 的爆火让这个工具重复崩溃。

4. OpenAI 的安全团队劝产品团队减缓产品更新速度。ChatGPT 发布后用户数快速增长,安全团队未能跟上应对安全隐患和恶意使用。随后,产品团队不顾安全团队提醒,坚持乘胜追击,接连推出了付费版 ChatGPT 和开放 API 接口。

5. 诈骗危机。随着 ChatGPT 和 GPT-4 的广泛应用,也有人找到了漏洞。有用户开始大规模创建新账号,以获取每个新账号带来的 20 美元优惠。阻止这些诈骗成为了 OpenAI 当时的首要任务,原本被分配到不同领域的小支安全团队成员被安排专注于解决这个问题。

6. 压力之下,一些员工甚至出现了精神健康问题。公司内部的沟通情况很糟糕,员工只有在发现同事在 Slack 上消失时才知道他们被解雇了。

7. 「感受下 AGI(feel the AGI)」。技术进步之快,首席科学家 Ilya Sutskever 愈加确信 AGI 终会实现,他的行为也越来越像某种「精神领袖」,口头禅是「感受下 AGI」,意指大家已经很接近实现 AGI 的目标了。Sutskever 曾在社交媒体发文「如果你能感受到 AGI,你就应聘 OpenAI」。在 OpenAI 的 2022 节日派对上,Sutskever 甚至带领员工齐声高呼「感受下 AGI!感受下 AGI!」员工还在 Slack 上做了「感受下 AGI」的 emoji。

8. 信念的另一面,是对 OpenAI 在安全方面不够重视的担忧。今年 7 月,Sutskever 和 Jan Leike 带领成立了「Superalignment(超级对齐)」团队,研发更多上游 AI 安全技术,独占公司 20% 现有计算芯片,准备迎接在这个十年内即将到来的 AGI。「对齐」的意思是让 AI 只做人们想让它们做的事。

9. 今年的一次内部活动中,Sutskever 甚至还定制了一个木雕像以代表「不对齐的 AI」,然后一把火烧了,代表 OpenAI 做对齐 AI 的决心。

10. 今年 10 月,矛盾升温。知情人士称,Altman 意在削弱 Sutskever 在公司的影响力,引发了和董事会间的冲突。

11. 11 月 6 日开发者大会,Altman 宣布推出可定制 GPT 功能 ,Sutskever 彻底怒了,带着忧虑去找董事会。

12. 11 月 17 日,Altman 在线上会议被董事会辞退。

13. 面对众多 Altman 将回归的传闻,马斯克在 X 上表示如果 Altman 真的回归,他会很担心。因为「 Ilya 有很好的道德准则,不会追寻权力。如果不是觉得必须要动手的话,Ilya 不会有这样极端的行为。」

14. 11 月 20 日,Sutskever 对员工表示,Altman 并不会回归 OpenAI 担任 CEO。亚马逊旗下直播平台 Twitch 的联合创始人 Emmett Shear 将担任 OpenAI 临时 CEO。

混乱背后:Sutskever 和 Altman 的理念冲突

1. 主导 OpenAI 前沿技术发展的首席科学家 Ilya Sutskever 师从「AI 教父」Geoffrey Hinton,主张谨慎地应对 AI 和 AGI 的安全隐患。

2. Sutskever 的表现一直很出色。他加入 Hinton 团队早期,Hinton 给了他一项很复杂的任务,Sutskever 厌倦了编写过程要做的计算,告诉 Hinton 自己写一个程序语言来完成更简单。当时 Hinton 听到有点生气,警告他这可能会耗一整个月且无果而终。Sutskever 坦白说:「我今早其实就做完了。」

3. 业内地位极高。Sam Altman 称 Sutskever 是其中一位全球最受尊敬的研究者,并认为把他请来了,能吸引更多 AI 人才。马斯克直言认为他是 OpenAI 成功的关键人物。

4. 为了把 Sutskever 从 Google 挖到 OpenAI,马斯克和 Google 的联合创始人 Larry Page 闹翻了。

5. Sutskever 的 AI 观:技术就像是一种自然力量。把控 AGI 的初诞生至关重要,否则它会遵循类似「适者生存」的法则,优先保住自身存在。就和人与动物一样,人不恨动物,但当人类要发展,我们就会把建造高速公路的需求放在动物生存之上。

6. 当那篇历史性论文 「Attention Is All You Need」出来时,Sutskever 是为数不多能看出其重要性的人:「我们在等的就是这个。」

7. Sutskever 主张将特定价值观「刻」在超级 AI 中,让 AI 像动物一样拥有一些类似「天性」的「铭印」:「最终,AI 将变得非常、非常、非常强大。我们将无法理解他们。他们会比我们聪明得多。到那个时候,强烈的铭印至关重要,只有这样,他们对我们的感觉才会像我们对自己的孩子一样。」

8. AGI 争夺战无益。Sutskever 认为如果有多支团队争先做出 AGI,他们用来保证 AGI 安全性的工作就更少空间了。与之相比,Altman 称自己更像一个「中间派」,既要保证速度,也要确保其安全性。

9. Sutskever 心中的第一批 AGI 看起来就像超级巨大的数据中心,内置专有神经网络,极度耗能,耗能约等于上千万个家庭用电量。这些 AGI 肯定会深度影响社会,但我们不确定谁会受益。

10. OpenAI 前员工说 Sutskever 在内部有很多追随者,称他是备受尊敬且亲力亲为的领袖,对于建设 OpenAI 前沿技术至关重要。OpenAI 前总裁 Greg Brockman 则擅长于将 Sutskever 的研究成果转化成可用的 AI 产品。

Sam Altman 被罢免事件时间线:

当地时间 11 月 16 日周四晚

Altman 收到 Sutskever 发来的信息,要求于周五中午进行对话。Sutskever 告诉 Sam 他被解雇了,并且新闻很快就会发布。
当地时间 11 月 17 日周五

OpenAI 宣布 CEO Sam Altman 将离开公司,首席技术官 Mira Murati 被任命为临时 CEO,这一人事任命立即生效。

OpenAI 董事会在博文中表示,「Altman 先生与董事会的沟通中没有保持坦诚,阻碍了董事会履行其职责的能力。董事会不再对他继续领导 OpenAI 持有信心」。

Altman 在 X 平台上发文称,我很喜欢在 OpenAI 的时光,这对我个人来说是具有变革性的,希望对世界也有一点变革。最重要的是,我喜欢和这么多有才华的人一起工作。

OpenAI 总裁、董事会主席 Greg Brockman 宣布辞职,他表示对董事会的决定感到震惊和难过。

OpenAI 三名高级研究人员于当地时间周五晚辞职。
当地时间 11 月 18 日周六

Sam Altman 告诉投资者,他计划推出一家新的 AI 企业。Greg Brockman 预计将加入这一企业,该项目仍在开发中,目前尚不清楚该合资企业的确切性质。

OpenAI 董事会正在与 Altman 讨论重返 CEO 岗位。他对回归感到「矛盾」,并希望对治理进行重大改变。
当地时间 11 月 19 日周日

Sam Altman 与 Greg Brockman 抵达 OpenAI 公司旧金山总部与高管们会面。

OpenAI 临时 CEO Mira Murati 计划重新聘请 Sam Altman 和 Greg Brockman,而同时,董事会成员仍在寻求一位新的 CEO。

OpenAI 董事会选择聘请亚马逊游戏直播平台 Twitch 的前 CEO Emmett Shear 担任首席执行官,Altman 回归失败。

得知 Altman 不会回归,数十名 OpenAI 员工在内部宣布他们将退出公司。

微软 CEO Satya Nadella 宣布:OpenAI 创始人 Sam Altman 和 Greg Brockman 及其同事们将加入微软,领导一个新的高级人工智能研究团队。
当地时间 11 月 20 日

710 多名 OpenAI 员工要求董事会辞职,否则可能集体投奔微软

未完待续……

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中