解读 Elon Musk 的十亿美元计划：不只是想拯救世界

马斯克和 Sam Altman 担心人工智能将要统治世界。因此，两位企业家创建了一家融资了十亿美元的非盈利公司。这家公司将会最大化地利用 AI 的能力，然后，将其分享给任何想要的人。

至少，这是电动汽车公司特斯拉创始人马斯克和初创公司孵化器 Y Combinator 总裁 Altman 在宣布他们新事业时传递的信息。这家史无前例的公司名为 OpenAI。在公司成立之际，Altman 接受了 Steven Levy 的采访。他说，他们期待着这项持续数十年的项目发展出超越人类的智力。但是，他们相信，任何风险都会被减轻，因为这项技术将 “为所有人所用，而不是仅仅被 Google 这样的公司使用。”

很自然地，Levy 问道，他们自由分享此技术的计划是否会为坏人所用，最终把最先进的人工智能技术送给了世界上的邪恶博士。但是，他们淡化了这种危险。他们觉得，多数人的力量会胜过少数人的力量。“正如人类对抗邪恶博士一样，事实上多数人是善良的，而人性的集体力量能够控制那些恶意的元素，” Altman 说，“我觉得，未来可能会出现许多、许多的 AI，它们将会合作，制止那些偶尔出现的恶人。”

许多年之后，我们才能知道这种反直觉的论点是否能站住脚跟。即使超越人类的人工智能会到来，那也是非常遥远的未来了。“这个想法有许多直觉上的吸引力，” 亚利桑那州立大学的博士研究生 Miles Brandage 这样谈论 OpenAI，他的研究领域是科学和技术对人类和社会的影响，“但是，这仍然不是一个可以快速得出结论的争论。在我们今天所处的阶段，没有一个 AI 系统能够统治世界，而且，在可以预见的未来，这种事情也不会发生。”

但在创造 OpenAI 的过程中，除了超越人类的智力实现统治世界的可能性之外，还有许多其它的可能性。 从短期来说，OpenAI 能够让马斯克、Altman 以及他们的公司（Y Combinator 资助了 Airbnb、Dropbox 和 Stripe 等独角兽公司。）直接受益（独角兽公司是指估值达到 10 亿美元以上的初创企业）。在吸引了来自 Google 等公司的顶级 AI 研究员并将他们安置到 OpenAI 之后，两位企业家能够获取以前无法触及的观点。然后如承诺一样从各自的公司中收集在线数据后，他们将会有了实现这些想法的方法。如今，改进 AI 的关键要素之一是工程师人才，另一个是数据。

（Sam Altman，图片来自：Silicon Valley Business Journal）

如果 OpenAI  忠实于让每一个人都能接触到新想法的使命，那么，至少它能够作为对强大的公司，比如 Google 和 Facebook 的一种监督。随着马斯克、Altman 和其他人向公司投入超过十亿美元的资金，OpenAI 正在展示竞争的观念在近年来发生的变化。越来越多的公司、企业家和投资者期望着，通过分享技术，他们可以与对手一决高下。真是反直觉的事情。

开源的好处

OpenAI 是过去这一个月里各个科技公司宽宏大量的结果。11 月早期，Google 开源了驱动其 AI 服务的（部分）软件引擎——他们的深度学习技术已被证明是非常擅长识别图片、辨识语音、翻译语言和理解自然语言的。在 OpenAI 被宣布前，Facebook 开源了它为运行深度学习服务而构建的服务器设计。这种服务器处理的任务与 Google 技术是类似的。如今，OpenAI 宣布说，它会分享自己构建的任何东西——重大的关注点似乎就是深度学习。

是的。这种分享是一种竞争方式。如果 Google 或 Facebook 这样的公司公开分享了软件和硬件设计，那么，这能够加速 AI 作为一个整体的进步。最终，这也会服务于他们自己的利益。例如，随着大型组织改进这些开源技术，Google 和 Facebook 能够将此种改进运用在自己的业务中。但是，开源同时也是招聘和留住人才的一种方法。特别是在深度学习领域，研究员非常喜欢公开分享自身工作的想法，尽可能地使更多人受益，他们中的许多人来自学术界。“在招聘研究员方面，这肯定是一个竞争优势，” Altman 对 Wired 说，“我们招聘的人…… 喜欢这样的事情，即 OpenAI 是开放的，他们可以分享自己的工作。”

这种竞争或许比看上去还要直接。我们不由地会思考，Google 将其 AI 引擎 TensorFlow 开源的理由就是它知道 OpenAI 即将到来，而 Facebook 分享其 Big Sur 服务器设计则是对 Google 和 OpenAI 的一种应对。Facebook 说情况并非如此。Google 对此问题尚未做出答复。Altman 拒绝回应。不过，他说，Google 知道 OpenAI 要到来了。它怎么能不知道呢？这个项目夺走了公司的顶级 AI 研究员之一 Ilya Sutskever。

（Google 的 TensorFlow 开源 AI 引擎）

这并不能削弱 Google 开源项目的价值。无论公司的动机为何，每个人都可以根据自己的需要使用（Google 的）代码。不过，值得记住的是，在今天的世界里，分享技术不仅仅是出于慷慨大方。深度学习社群相对较小，而所有的公司都在抢夺那些可以帮助自己利用这种极为强大技术的人才。他们想要分享，但他们也想要获胜。他们或许会分享一些秘密，但是不会分享全部。开源会加速 AI 的发展，但是，在此过程中，重要的是没有一家公司或技术变得太过强大。这就是 OpenAI 如此有意义的原因所在。

马斯克的阿波罗计划

可以肯定的是，，在一定程度上，马斯克也把分享看作是一种获胜方式。“你知道的，我对 AI 有些顾虑。” 马斯克告诉 BackChannel。马斯克对 AI 潜在威胁的焦虑受到了很多人的关注。不过马斯克也在经营特斯拉，OpenAI 的技术发展会给这家公司带来很多好处。和 Google 一样，特斯拉在打造自动驾驶汽车。很大程度上，深度学习技术可以让其受益。

深度学习依赖于软件和硬件构成的大规模神经网络，就像人类大脑的神经元网络。将足够多的猫的照片输入神经网络，它就可以学会辨认猫；将足够多的人类对话输入神经网络，它就可以参与对话。当它拥有了足够的路况及驾驶员相关反应的数据，它就可以学会自动驾驶汽车。

没错，马斯克可以在特斯拉雇用一些 AI 研究人员，他也确实这样做了。不过有了 OpenAI 以后，他可以雇用更加优秀的研究者（因为 OpenAI 开源了，不会受到任何一家公司的商业模式以及短期目标的限制）。他甚至可以从 Google 挖人。另外，马斯克可以创建更加庞大的数据库，帮助这些研究人员的工作。Altman 表示 Y Combinator 孵化的公司会与 OpenAI 分享各自的数据，这会是一件大事。把这些公司的数据与特斯拉的数据对接，就可以和 Google 在某些领域一争高下了。

“这样的做法有好有坏，” 深度学习领域的初创公司 Skymind 的 CEO Chris Nicholson 认为，这家公司最近被认可进入 Y Combinator 的项目。“我敢肯定 Airbnb 拥有的住房大数据是 Google 无法获取的。”

马斯克是英国 DeepMind 公司的早期投资者，这家公司把自己描述为 “AI 的阿波罗计划”。借助这一次投资，马斯克有机会看看这一出色的技术是怎样发展的。然而 Google 后来收购了 DeepMind，他也失去了这个机会。现在，马斯克开创了属于自己的 “阿波罗计划”，又一次走上了轨道。OpenAI 的其他投资者也处于相同的状况，包括亚马逊，一家追随着 Google 和 Facebook 参与 AI “赛跑” 的互联网巨头。

悲观的乐观主义者

但是这并不会降低马斯克的开源计划的价值。马斯克或许兼具自私和利他动机，但这一项目的最终结果仍然会给广大的 AI 业界带来巨大的效益。在与全世界共享自身技术的过程中， OpenAI 会推动 Google, Facebook 和其他公司参与其中——如果他们还没这样做的话。这对特斯拉和所有的 Y Combinator 公司都有好处，当然，也会给所有对利用 AI 感兴趣的人带来收益。

当然，在分享技术的同时，OpenAI 也会给 Google 和 Facebook 补充新的能力。获得这些能力的还有潜伏在不知道哪个角落的邪恶博士。邪恶博士可以把 OpenAI 的力量注入自己的系统中。不过最大的顾虑还不是邪恶博士会让这一技术与全世界对立，而是这一技术本身会与世界对立。深度学习并不会止步于无人驾驶汽车和自然语义识别。顶级研究者相信，如果数据和算法的组合正确，它的理解能力可以拓展至人类所说的 “常识”。它甚至可以演变为超越人类的 “超智能”。

“人类的恐惧是，超智能可能会递归式地自我改进，达到逃逸速度，从而在智力上远远超越了人类可能达到的水平。”Nicholson 说。“距离这样的事情发生还有很长、很长时间，有些人认为它并不会发生。但如果真的出现了这样的事情，那将会非常可怕。”

这就是马斯克和 Altman 希望阻止的事情。“开发、利用和拓展用以保护人类的技术，”Altman 告诉我们，“这样做是保护我们所有人的最佳方式。” 不过与此同时，他们也缩短了通向超智能的捷径。尽管 Altman 和马斯克可能相信，给予人们使用超智能的权力可以阻止任何恶意的 AI，但与之相反的情况仍可能出现。正如 Brundage 所指，如果公司发现任何人都以惊人的速度发展最新的 AI 技术，他们或许会不太愿意把安全措施做到位。

具有讽刺意味的是，预防措施有多大的必要性取决于你对人类加速技术发展的能力有多乐观。基于人类过去的成就，马斯克和 Altman 有充足的理由相信发展曲线会向上弯曲。但其他人不太确定 AI 会像马斯克和 Altman 相信的那样威胁人类。“你可以把 AI 看成是技术专家的可卡因：它让我们兴奋，产生不必要的偏执。”Nicholson 说到。

无论如何，这个世界上的 Google 们和 Facebook 们正在快速地把 AI 技术推向新的层次。至少在微观层面，OpenAI 能够牵制他们以及其他所有人态。“我认为马斯克和团队成员发现了 AI 是无法阻挡的趋势，”Nicholson 表示，“所以他们所有人期待做的事情就是影响 AI 的发展轨迹。”

本文全文译自 Wired，原文标题 Elon Musk’s Billion-Dollar AI Plan Is About Far More Than Saving the World。作者 Cade Metz。上周，特斯拉创始人 Elon Musk 和 Y Combinator 总裁 Sam Altman 创办了人工智能开源项目 OpenAI，该项目表面上是希望将开源项目发展到极致，推动人类社会发展，但特斯拉、Y Combinator 也希望通过这一项目谋求利益——比如其他公司的数据。爱范儿积木、麦玮琪翻译出品。

题图来自：Wired