# 马斯克多次失手，OpenAI 异军突起，硅谷 AI 之战十年前已经打响

- 作者：方嘉文
- 发布时间：2023-12-05 18:00
- 分类：公司、商业
- 原文：https://www.ifanr.com/1569647

![](https://s3.ifanr.com/wp-content/uploads/2023/12/musk-1-1692674012-3980-1692674024.jpg)

> 编者按：「那些声称最担心人工智能会带来危机的人，却是最坚决要创造它并享受它所带来的财富的人。」
> 
> 这篇来自《纽约时报》的特写报道，为我们回溯了从 2010 年就已经开始酝酿的硅谷 AI 之争：
> 
> 1\. 马斯克和 Google 联合创始人拉里·佩奇在 2015 年的派对上「闹翻」，两人对 AI 发展持对立态度。
> 
> 2\. DeepMind 创始人丹米斯·哈撒比斯最开始是用国际象棋获得了彼得·蒂尔的关注。在蒂尔的支持下，DeepMind 获得马斯克关注和投资，逐渐成长。
> 
> 3.「AI 教父」杰弗里·辛顿举行了一场「拍卖会」，「卖」的是自己和团队。最后 Google 成功将辛顿博士团队收入囊中。
> 
> 4\. 这场拍卖象征着硅谷巨头正式进入 AI 战争。DeepMind「知难而退」，决定出售。
> 
> 5\. 出售后的 DeepMind 原设有「道德委员会」来确保 AI 的安全发展，但这个委员会最终变得形同虚设。
> 
> 6\. OpenAI 和马斯克决裂，走向和微软的合作。
> 
> 7\. OpenAI 的达里奧·阿莫迪离开，创立 Anthropic。
> 
> 8\. OpenAI 通过了比尔·盖茨的「考试」，GPT 被后者视为具有革命性的创新。
> 
> *原文地址：https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html*
> 
> *原文作者：Cade Metz、Karen Weise、Nico Grant & Mike Isaac*

2015 年 7 月，埃隆·马斯克在加利福尼亚的葡萄酒乡村度假村庆祝他的 44 岁生日，这是他的妻子为他举办为期三天的派对，度假村里布满了小木屋。只有家人和朋友受邀参与，孩子们在这家纳帕谷的高档物业中奔跑玩耍。

这时离 Twitter 成为 X 和特斯拉能盈利还有几年。马斯克先生和他的妻子塔卢拉·莱利（Talulah Riley）—— 一位在 HBO 科幻剧《西部世界》中饰演美丽但危险的机器人的女演员 —— 离他们第二次婚姻的结束还有一年。派对的客人拉里·佩奇（Larry Page），那时还是 Google 的首席执行官。而人工智能只是在几年前开始被公众所知，当时它被用来在 YouTube 上识别猫 —— 准确率为16%。

当马斯克和佩奇在第一晚的晚餐后，坐在泳池边上的篝火旁聊天，人工智能是他们谈论的主题。这两位亿万富翁已经是十多年的好友，马斯克有时开玩笑说，他不时会在通宵玩游戏后在佩奇先生的沙发上过夜。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/00tech-AI-superJumbo-1.jpg)

但那个明朗的夜晚的气氛很快变得紧张起来，因为两人开始在争论人工智能最终到底是会提升人类还是毁灭人类。

随着讨论延伸至清凉的夜，气氛变得越来越紧张，30 多号来参加派对的人里已有一些聚集起来，靠近倾听。因声带受到一个不寻常的疾病影响十多年，佩奇用低声细语来描述他的数字乌托邦愿景。他说，人类最终会与人工智能机器融为一体。有一天，会有许多种智能竞争资源，而最好的会赢。

如果那样的事情发生，马斯克说，我们就完了。机器会毁灭人类。

带着一丝挫败的嘶哑，佩奇坚称我们应追求他所描述的乌托邦。最后，他称马斯克为「物种主义者」，一个偏爱人类而不是未来数字生命形态的人。

马斯克后来说，那个羞辱是「最后一根稻草」。

当人群散去，许多人看起来对此感到惊愕，但也觉得有趣，他们觉得，这也只是硅谷派对上经常出现的那种深奥辩论。

然而，八年以后，这两人间的辩论看起来颇有先见之明。人工智能到底是会提升世界还是毁灭它 —— 或者至少造成严重的损害 —— 已经构成了硅谷创业者、聊天机器人用户、学者、立法者和监管者之间，关于我们是应该控制或任由其发展的持续辩论框架。

那场辩论使得世界上一群最富有的人相互对立：马斯克，佩奇，Meta 的马克·扎克伯格（Mark Zuckerberg），科技投资人彼得·蒂尔（Peter Thiel），微软的萨蒂亚·纳德拉（Satya Nadella）和 OpenAI 的萨姆·奥特曼（Sam Altman）。他们都努力地在这个可能有朝一日价值数万亿美元业务中争一杯羹，还有争夺去塑造它的权力。

这场竞争的核心是一个让人费解的悖论。那些声称最担心人工智能的人，却是最坚决要创造它并享受它所带来的财富的人。他们以一个坚定的信念来为自己的野心正名 —— 只有他们自己才能避免人工智能对地球造成危险。

那个夏日派对过去不久后，马斯克和佩奇就不联系了。几周后，马斯克与当时正在运营一家科技孵化器的奥特曼以及几位研究员在加州门洛帕克的瑰丽酒店的私人房间里共进晚餐。这是一个相当受欢迎的聊合作的地方，因为它离沙山路上的 VC 办公室很近。

那顿晚餐促成了一家名为 OpenAI 的创业公司在同年晚些的成立。得到了来自马斯克和其他投资者的数亿美元支持，这个实验室承诺保护世界免受佩奇的愿景影响。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/NYPICHPDPICT000009799010.jpg)

▲ 马斯克和佩奇因对 AI 理念出现分歧而分裂



多得它的 ChatGPT 聊天机器人，OpenAI 已经从根本上改变了科技行业，并向世人展示了人工智能的风险和潜力。据两位熟悉该公司最新融资轮的人士透露，OpenAI 的估值超过 800 亿美元，尽管马斯克和奥特曼的合作并未能延续。从那以后，两人已经不再对话。

「其中存在分歧、不信任、自我主义，」奥特曼说。「人们越是朝着同一个方向前进，分歧就越有尖锐。你在教派和宗教团体中也能看到这一点。正是那些最亲近的人，之间会有激烈的争斗。」

上个月，这场内斗来到了 OpenAI 的董事会。反叛的董事会成员试图逼走奥特曼，因为他们认为，他们再也不能信任他能构建可以造福人类的 AI。在五天的混乱中，OpenAI 看起来马上就要崩溃了，直到重要投资者和员工施压并威胁要跟随奥特曼离开，董事会才让步。

OpenAI 内部的戏剧性争斗让世界首次窥见了那些将决定 AI 未来的人之间的激烈争斗。

但在 OpenAI 这次几乎崩塌事件发生的几年前，硅谷就有一场鲜为人知但激烈的竞争，争夺着现在正在快速重塑世界的技术，它正在改写的方面从我们该如何教育孩子延伸到该如何打仗。《纽约时报》采访了 80 多位高管、科学家和企业家，包括两位参加了马斯克 2015 年生日派对的人，来讲述这个关于野心、恐惧和金钱的故事。

### DeepMind 的诞生

在纳帕谷那场派对发生的五年前，以及 YouTube 上猫咪视频大获成功两年前，34 岁的神经科学家丹米斯·哈撒比斯（Demis Hassabis）走进了彼得·蒂尔在旧金山的联排别墅举办的鸡尾酒会，他意识到自己找到了金矿。在蒂尔那俯瞰着当地的艺术宫和天鹅池的客厅里，摆放着一副棋盘。哈撒比斯博士曾经是 14 岁以下类别中世界排名第二的棋手。

「我为那次会面准备了一年，」哈撒比斯博士说。「我以为那会是我独特的切入点：我知道他喜欢下棋。」

![](https://s3.ifanr.com/wp-content/uploads/2023/12/Untitled_design_-_2023-05-03T132729.655.jpg)

▲ 丹米斯·哈撒比斯



2010 年，居住在英国的哈撒比斯博士和他的两位同事，正在寻找资金来开始构建「人工通用智能」或称为 A.G.I.，这是一种能做任何大脑能做的事情的机器。当时，很少有人对人工智能感兴趣。经过半个世纪的研究，人工智能领域未能产出任何接近人脑的东西。

然而，一些科学家和思考者已经对 AI 的负面影响产生了固执的看法。许多人，如这三位来自英国的年轻人，都和互联网哲学家、自学成才的 AI 研究者埃利泽·尤多科夫斯基（Eliezer Yudkowsky）有所关联。尤多科夫斯基先生是是一个自称为「理性主义者」的社区领导者，后来，这也被称为「有效利他主义者」。

他们相信人工智能可以找到治疗癌症的方法或解决气候变化问题，但他们担心人工智能机器人可能会做出其违背其创造者意图的事情。如果机器变得比人类更聪明，理性主义者们辩称，机器可能会反过来对付他们的创造者。

蒂尔通过对 Facebook 的早期投资以及和马斯克在 PayPal 早期的合作，积累了巨大的财富。他对奇点产生了极大的兴趣，这是科幻小说的一个主题，描述的是当智能技术无法再被人类控制的那一刻。

在蒂尔的资助下，尤多科夫斯基扩大了他的 AI 实验室，并创建了一个关于奇点的年度会议。多年前，哈撒比斯博士的两位同事之一遇到了尤多科夫斯基。他在会议上为他们争取到了发言的机会，确保他们被邀请到蒂尔的派对。

尤德科夫斯基先生向蒂尔介绍了哈撒比斯博士。哈撒比斯以为，派对上会有许多人试图从蒂尔那里挤出钱。他的策略是安排另一次会面。他告诉蒂尔，主教和骑士之间的关系很紧张。这两个棋子的价值相同，但最好的玩家明白，他们的优势大不相同。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/www.politico.jpg)

▲ 彼得·蒂尔



这奏效了。被迷住的蒂尔邀请他们第二天再来，在厨房见面。东道主刚刚完成早晨的锻炼，身上闪亮的运动满是汗。一个管家递给他一瓶健怡可乐。他们三人讲述了自己的提案，很快，蒂尔和他的风险投资公司同意向他们的初创公司投入 140 万英镑（大约 225 万美元）。他是他们的第一位重要投资者。

他们将公司命名为 DeepMind，这是对「深度学习」（一种通过分析大量数据让 AI 系统学习技能的方式），神经科学以及科幻小说《银河系漫游指南》中的深思超级计算机的致敬。到了 2010 年秋天，他们已经在构建自己梦想中的机器。他们坚信，因为理解其中风险，所以他们对于保护世界有独特的优势。

「我并不认为这是一个矛盾的立场，」DeepMind 的三位创始人之一 穆斯塔法·苏莱曼（Mustafa Suleyman）说。「这些技术将带来巨大益处。目标不是消除或暂停它们的发展。目标是减少它们的负面影响。」

![](https://s3.ifanr.com/wp-content/uploads/2023/12/00tech-AI-02-jumbo.jpg)

在赢得了蒂尔的支持后，哈撒比斯博士逐渐进入了马斯克的视野。大约两年后，他们在蒂尔的投资基金组织的一次会议上相遇，该基金也投资了马斯克的公司 SpaceX。哈撒比斯博士安排了一次 SpaceX 总部的参观。之后，就在天花板挂着火箭壳的食堂，两人共进午餐并进行了交谈。

马斯克先生解释说，他的计划是殖民火星，用来躲避地球上人口过度和其他危险。哈撒比斯博士回应说，这个计划会奏效 —— 前提是超级智能机器不会跟着人类到火星，并在火星上把人类也摧毁了。

马斯克无言以对。他从未考虑过这个特定的危险。马斯克很快就和蒂尔先生一起投资了 DeepMind，以便能更接近这项技术的创造。

拥有充足的资金，DeepMind 聘请了专门研究神经网络的研究人员，这些复杂的算法以人脑为原型。神经网络本质上是一个巨大的数学系统，它花费数天、数周甚至数月的时间在大量的数据中识别模式。这些系统最初在 1950 年代被开发出来，它们可以学会自行处理任务。例如，分析了数百个信封上手写的名字和地址后，它们可以阅读手写文本。

DeepMind 进一步发展了这个概念。它构建了一个系统，可以学习玩经典的雅达利游戏，如《太空侵略者》《乓》和《Breakout》，以展示其潜力。

这引起了硅谷另一巨头 Google，特别是拉里·佩奇的注意。他看到了 DeepMind 的机器玩雅达利游戏的演示。他想参与其中。

### 人才拍卖

在 2012 年秋季，多伦多大学一位 64 岁的教授杰弗里·辛顿（Geoffrey Hinton）和两名研究生发表了一篇研究论文，向世界展示了人工智能的能力。他们训练了一个神经网络来识别常见的物体，如花朵、狗和汽车。

科学家们对于由辛顿博士和他的学生们构建的技术的准确性感到惊讶。尤其关注到这个的人是余凯，他是一位人工智能研究员，曾在一次研究会议上遇到过辛顿博士，并于最近开始为中国的互联网巨头百度工作。据三位熟悉此事的人士透露，百度曾向辛顿博士和他的学生们开价 1200 万美元，希望他们加入位于北京的公司。

辛顿博士拒绝了百度，但这笔钱引起了他的注意。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/230501094028-geoffrey-hinton-file-restricted-090519.jpg)

▲ 杰弗里·辛顿



这位在剑桥大学受过教育的英国侨民，除了偶尔在微软和 Google 工作外，大部分时间都在学术界度过，并不特别看重金钱。但他的孩子受神经多样性影响，而这笔钱将意味着经济上的保障。

「我们并不知道我们的价值是多少，」 辛顿博士说。他咨询了律师和收购专家，然后提出了一个计划：「我们将组织一场拍卖，我们将出售我们自己。」这场拍卖将在哈拉斯酒店和太浩湖赌场举办的年度人工智能会议上进行。

大科技公司开始关注。Google、微软、百度等公司开始相信，神经网络将带来的机器，将不仅能拥有看的能力，而且还能听、写、说，最终 —— 甚至能思考。

佩奇在他公司 Google Brain 的人工智能实验室看到了类似的技术，他认为辛顿博士的研究可以提升他的科学家们的工作。他相当于是给了 Google 的高级副总裁兼工程师艾伦·尤斯塔斯（Alan Eustace）一张没填数字的支票，让他雇佣他任何他所需要的人工智能专家。

尤斯塔斯先生和负责 Brain 实验室的杰夫·迪恩（Jeff Dean）飞到了太浩湖，并在拍卖前一晚约了辛顿博士和他的学生去酒店内的一家牛排馆吃饭。迪恩博士回忆说，那里弥漫着浓重的旧烟味。他们劝说辛顿博士和他的学生去 Google 工作。

第二天，辛顿博士在他的酒店房间里进行了拍卖。由于旧伤，他很少坐下。他把一个垃圾桶倒置在桌子上，把笔记本电脑放在上面，然后在接下来的两天里看着出价的不断涌入。

Google 出了一个报价。微软也是。随着价格的上涨，DeepMind 很快就退出了。根据拍卖详细文件，这些行业巨头将出价推高到 2000 万美元，然后是 2500 万美元。当价格超过 3000 万美元时，微软退出了，但却在 3700 万美元时重新加入竞标。

「我们感觉那就像电影一样，」辛顿博士说。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/hinton1-FINAL.jpg)

▲ 杰弗里·辛顿和他的两位明星学生伊尔亚·苏茨克维和亚历克斯·克里泽夫斯基（Alex Krizhevsky）



然后，微软第二次退出竞标。只剩下百度和 Google，他们将竞标价格推到 4200 万美元，4300 万美元。最后，在 4400 万美元时，辛顿博士和他的学生终止了拍卖。尽管出价仍在上涨，但他们想为 Google 工作。而且这笔钱数目已经够惊人。

这是一个明确的标志，表明资金雄厚的公司决心购买最有才华的人工智能研究人员 —— DeepMind 的哈撒比斯博士也意识到这一点。他一直告诉自己员工，DeepMind 将保持独立的公司状态。他认为，这是确保其技术不会变成危险物的最佳方式。

但是，当大型科技公司加入人才竞争时，他决定自己已经别无选择：是时候出售了。

到 2012 年底，据三位知情人士透露，Google 和 Facebook 都在寻求收购这家伦敦实验室。哈撒比斯博士和他的联合创始人坚持了两个条件：DeepMind 的技术不能用于军事目的，其人工智能技术必须由一个由技术人员和伦理学家组成的独立委员会进行监督。

Google 的出价是 6.5 亿美元。Facebook 的马克·扎克伯格向 DeepMind 的创始人提出了更高价格，但不同意条件。DeepMind 最终卖给了 Google。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/fd.jpg)

扎克伯格决定建立一个自己的人工智能实验室。他聘请了法国计算机科学家扬·勒丘恩（Yann LeCun）来管理这个实验室，他也做过开创性的人工智能研究。在辛顿博士拍卖会一年后，扎克伯格和勒丘恩博士飞往塔霍湖参加同样的人工智能会议。在哈拉斯赌场的一间套房里，扎克伯格先生穿着袜子四处走动，亲自面试顶级研究人员，这些人员很快被提供了数百万美元的薪水和股票。

人工智能曾经被嘲笑。现在，硅谷最富有的人正花费数十亿美元以防止自己在竞赛中被落下。

### 消失的道德委员会

当马斯克投资 DeepMind 时，他打破了自己的非正式规则 —— 他不会投资任何不是自己经营的公司。这个决定的负面影响，在他的生日争吵后仅一个月左右就显现了 —— 他又要面对他的前朋友兼亿万富翁同行了。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/0114d731ce6c78e49c7ded22f9c966a8.jpg)

▲ 道德委员会成员们：谢尔盖·布林、埃里克·施密特、拉里·佩奇



这个场合是 DeepMind 伦理委员会的首次会议，于 2015 年 8 月 14 日举行。在创始人的坚持下，该委员会成立是为了确保他们的技术在出售后不会造成任何伤害。根据三位熟悉会议的人士的说法，委员会成员在马斯克于 SpaceX 的办公室外的一个会议室集合，窗户外就能看到他的火箭工厂。

但是，这也是马斯克控制权结束的地方。当 Google 收购 DeepMind 时，它买下了整个公司。马斯克被挤出局。虽然他在财务上赚了，但他并不开心。

现在，三位 Google 高管牢牢地控制了 DeepMind：佩奇；Google 的联合创始人、特斯拉投资者谢尔盖·布林（Sergey Brin）；以及 Google 董事长埃里克·施密特（Eric Schmidt）。其他出席者包括另一位 PayPal 创始人里德·霍夫曼（Reid Hoffman），以及一位在研究「存在风险」的澳大利亚哲学家托比·奥德（Toby Ord）。

DeepMind的创始人报告说，他们正在推进其工作，但他们意识到这项技术存在严重风险。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/00tech-AI-03-jumbo.jpg)

DeepMind 联合创始人苏莱曼做了一个名为「揭竿而起的人们即将到来」的演讲。他告诉董事会，人工智能可能导致虚假信息的爆炸式增长。他担忧，在未来几年中，随着这项技术取代无数的工作，公众会指责 Google 剥夺了他们的生计。他认为，Google 需要与那数百万失业的人分享其财富，并提供「全民基本收入」。

马斯克同意。但很明显，他那些来自 Google 的客人并未打算进行（对他们的）财富进行再分配。施密特先生表示，他认为这些担忧完全被夸大了。佩奇先生以他通常的低声同意了。他辩称，人工智能会创造比它带走的更多的工作。

八个月后，DeepMind 取得了令 AI 界和全世界震惊的突破。一个名为 AlphaGo 的 DeepMind 机器击败了世界上最好的围棋选手之一。这场比赛通过互联网直播，全球有两亿人观看。大多数研究人员曾认为，AI 需要再过十年才能拥有做到这一点的创新能力。

理性主义者，有效的利他主义者以及其他担心人工智能风险的人声称，计算机的胜利证实了他们的恐惧。

「这是另一个迹象，表明人工智能的发展速度超过了许多专家的预期，」即将加入 DeepMind 担任「人工智能安全」研究员的 Victoria Krakovna 在博客文章中写道。

DeepMind 的创始人们越来越担心 Google 会如何使用他们的发明。在 2017 年，他们试图从公司中脱离出来。作为回应，Google 提高了 DeepMind 创始人及其员工的薪水和股票奖励。他们选择了留下。

道德委员会，从未进行过第二次会议。

### 分手

马斯克确信佩奇对人工智能的乐观完全错误，并对失去 DeepMind 感到愤怒，于是建立了自己的实验室。

OpenAI 于 2015 年底成立，就在他和萨姆·奥特曼在硅谷瑰丽酒店会面几个月后。马斯克向这个实验室注入了资金，他的前 PayPal 伙伴，霍夫曼先生和蒂尔先生，也加入了这次行动。三人和其他人承诺向这个项目投入 10 亿美元，当时 30 岁的奥特曼将协助运营。为了启动这个项目，他们从 Google 挖来了伊尔亚·苏茨克维 （Ilya Sutskever）。（苏茨克维博士是 Google 在辛顿博士的拍卖中「购买」的研究生之一。）

![](https://s3.ifanr.com/wp-content/uploads/2023/12/sam-altman.jpeg)

最初，马斯克想要将 OpenAI 作为一个非盈利机构运营，避免受到像 Google 这样的公司所驱动的经济利益的影响。但是，当 Google 以其围棋表演震惊科技界时，马斯克正在改变他对 OpenAI 应如何运营的看法。他迫切希望 OpenAI 能发明出一些能够吸引全世界的想象力，并拉近他们和 Google 距离的东西，但作为一个非盈利机构，它并未能完成这项工作。

在 2017 年底，他策划了一个计划，试图从奥特曼和其他创始人手中夺取实验室的控制权，将其转变为一个商业运营，与特斯拉联手，并依赖该汽车公司正在开发的超级计算机的公司，据四个熟悉此事的人士透露。

当奥特曼和其他人反对时，马斯克选择退出，并表示他将专注于在特斯拉的自己的人工智能工作。2018 年 2 月，他在一家改建的卡车工厂的创业公司办公室的顶楼，向 OpenAI 的员工宣布了他的离职，参加会议的三个人说。当他说 OpenAI 需要更快地行动时，一位研究员在会议上反驳说马斯克先生的行为是鲁莽的。

马斯克骂那个研究员是「笨蛋」，然后怒气冲冲地离开了，也带走了他的巨额财富。

OpenAI 突然急需新的融资。奥特曼飞到了太阳谷（Sun Valley）参加一个会议，并偶遇了微软的首席执行官萨蒂亚·纳德拉。两者的联合似乎很自然。奥特曼认识微软的首席技术官凯文·斯科特（Kevin Scott）。微软曾从 OpenAI 董事会成员霍夫曼收购了 LinkedIn。纳德拉委任斯科特去完成这件事。这笔交易在 2019 年完成。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/OpenAI-Microsoft-CEO-Satya-Nadella-Sam-Altman.jpg)

奥特曼和 OpenAI 在原有的非营利组织下成立了一家营利性公司，他们拥有 10 亿美元的新资本，而微软也找到了一种将人工智能融入其庞大的云计算服务的新方法。

但不是 OpenAI 里的每个人都为此感到开心。

研究员达里奧·阿莫迪（Dario Amodei）与有效利他主义社区有关，当 OpenAI 在瑰丽酒店诞生时，他就已经在现场。阿莫迪博士在谈话时不断地扭动他的卷发，他正在领导实验室建立一个名为大型语言模型的神经网络，该网络可以从大量的数字文本中学习。通过分析无数的维基百科文章、数字书籍和留言板，它可以自己生成文本。它也有一个不幸的习惯，那就是编造事情。它被称为 GPT-3，于 2020 年夏天发布。

OpenAI、Google 以及其他公司内部的研究人员认为，这种迅速改进的技术可能是通向 A.G.I. 的路径。

但是，阿莫迪博士对微软的交易感到不满，因为他认为这正将 OpenAI 带向一个非常商业化的方向。据了解此事的五个人表示，他和其他研究人员曾试图向董事会施压，希望赶走奥特曼先生。但他们失败了，于是离开了。就像之前的 DeepMind 创始人一样，他们担心他们的新公司老板会将商业利益置于安全之上。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/1111.jpg)

▲ Daniela Amodei 和 Dario Amodei 联合创立了 Anthropic



在 2021 年，大约 15 名工程师和科学家创建了一个名为 Anthropic 的新实验室。他们的计划是按照有效利他主义者认为应该的方式来构建人工智能——即采用非常严格的控制。

「Anthropic 的联合创始人并没有试图将萨姆·奥特曼从 OpenAI 中移除，」Anthropic 的发言人 Sally Aldous 说。「联合创始人自己得出了他们希望离开 OpenAI 去创立自己的公司的结论，他们向 OpenAI 的领导层表明了这一点，并在几周内以双方都能接受的条件协商了退出。」

Anthropic 接受了来自亚马逊的 40 亿美元投资，两年后又从 Google 那里获得了 20 亿美元的投资。

### 揭示

当 OpenAI 从微软那里获得了额外 20 亿美元的投资后，奥特曼和另一位高管格雷格·布莱克曼（Greg Brockman）前往比尔·盖茨位于华盛顿湖畔，西雅图郊外的豪宅。尽管这位微软创始人已经不再参与公司的日常运营，但他仍然与公司的高管保持着定期的联系。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/00tech-AI-04-jumbo.jpg)

在晚餐时，盖茨告诉他们，他不确定大型语言模型能否奏效。他表示，除非这项技术能完成需要批判性思考的任务 —— 例如通大学先修课程里的生物学考试，否则他将保持怀疑态度。

五个月后，也就是 2022 年 8 月 24 日，奥特曼和布罗克曼回来了，并带来了一位名叫切尔西·沃斯（Chelsea Voss）的 OpenAI 研究员。沃斯女士在高中时曾是国际生物奥林匹克竞赛得奖者。纳德拉先生和其他微软高管也在场。

在盖茨的客厅外的一个大型数字显示器上，OpenAI 团队展示了一项名为 GPT-4 的技术。

布洛克曼先生让这个系统做了一次高级生物学考试的多选题，沃斯女士对答案进行了评分。第一个问题涉及到极性分子，这是一种原子群，一端带正电，另一端带负电。系统正确地回答了问题，并解释了它的选择。「我们只训练了它提供答案，」布洛克曼先生说。「对话的特性却神奇地显现了出来。」换句话说，它正在做他们并没有真正设计它去做的事情。

60个问题里，GPT-4 只答错了一个。

盖茨先生坐直了身子，眼睛睁得大大的。1980 年，当研究人员向他展示了成为现代个人电脑基础的图形用户界面时，他有过类似的反应。他认为 GPT 具有那样的革命性。

![](https://s3.ifanr.com/wp-content/uploads/2023/12/FUGQDQTUDNJRTH7R2DFN7TLBTY.jpeg)

到十月份，微软已经在其在线服务中，包括其必应搜索引擎中，添加了这项技术。两个月后，OpenAI 发布了其 ChatGPT 聊天机器人，现在每周有 1 亿人使用。

OpenAI 已经打败了 Anthropic 的有效利他主义者。佩奇在 Google 的乐观派赶忙发布了他们自己的聊天机器人 Bard，但被广泛认为在与 OpenAI 的竞赛中输了。在 ChatGPT 发布三个月后，Google 的股票下跌了 11%。马斯克先生则无处可寻。

但这一切，只是开始。