# Google 公布 AI 七项原则，表示不会制造武器，但是……

- 作者：沈星佑
- 发布时间：2018-06-08 11:56
- 分类：公司
- 原文：https://www.ifanr.com/1045958

![](https://s3.ifanr.com/wp-content/uploads/2018/06/dbe.jpg)

北京时间 6 月 8 凌晨，Google CEO 桑达尔 · 皮查伊（Sundar Pichai）宣布了他们使用[人工智能的七项原则，以及四条底线](https://www.blog.google/topics/ai/ai-principles/)。

这是 3 月 Google 被披露与军方合作，引起大量员工抗议，受到各路抨击后，劈柴叔首次正式回应。这些原则依然符合 Google 一路以来的价值观，也提到了不会将人工智能技术用于开发和制造武器，但并没有说将会停止与军方的合作。

这七项基本的原则是：

> 1.对社会有益。  
> 2.避免制造或者加深不公平的偏见。  
> 3.在开发中进行测试以确保安全。  
> 4.对人类负责。  
> 5.隐私原则。  
> 6.坚守对卓越科学的追求。  
> 7.在使用中考虑首要用途、技术的独特性及适用性、使用的规模这三个因素。

四条底线是：

> 1.对于那些将产生或者导致伤害的整体性技术，我们会确保其利大于弊，并将做好确保安全的相关限制。
> 
> 2.不会将 AI 用于制造武器及其它将会对人类产生伤害的产品。
> 
> 3.不会将 AI 用于收集或使用用户信息，以进行违反国际公认规范的监视。
> 
> 4.不会将 AI 用于违反国际法和人权的技术开发。

![](https://s3.ifanr.com/wp-content/uploads/2018/06/GOOGLE-CEO.jpg)

▲ Google CEO 桑达尔 · 皮查伊

劈柴叔还说道：



> 我们想要澄清的是，我们没有将人工智能技术用于开发武器，我们将继续与政府和军方早其他领域保持合作，比如在网络安全、军事训练、军队招聘、退役军人康复、搜寻救援等方面。

Google 这次的回应，算是给这项三个多月来备受争议的话题来了一个终结。

今年 3 月，Google 被披露与美国国防部在一个被称为 「Project Maven」 的军事项目上合作，Google 为其提供利用人工智能技术分析由无人机拍摄的影像，以提高军事无人机的精准打击度。

随后有超过 3000 名 Google 员工联名给 Google CEO 桑达尔 · 皮查伊写了一封公开信，要求 Google 退出这个项目。公开信里写道：

我们相信 Google 不会参与战争有关的生意。

我们要求取消 Project Maven 项目。并且要求 Google 起草、公开以及执行一个清晰的道德政策，那就是无论 Google 本身还是 Google 的合作商，都不会发展战争技术。



4 月份，超过 400 名科学家再次联名上书。到了 5 月份，已经有十多名 Google 员工由于「Project Maven」与他们的价值观相悖，提出了离职。

![](https://s3.ifanr.com/wp-content/uploads/2018/06/google-ai-drones-pentagon-678x3812.jpg)

虽然 Google 与五角大楼都出来澄清，这次合作只会被限制用于 “非进攻性目的”（non-offensive uses only），但这并不能说服他们。毕竟战争充满谎言，他们担心这种技术一旦被军方获取，除了会用来搜救、侦查，也有可能用来发射武器。

6 月 1 日，Google 云的负责人戴安 · 格林（Diane Greene）在一次例会中向员工表示，Google 与美国官方签订的 Project Maven 合同将在明年到期，届时 Google 将不再续约。

Google 与军方的合作，可以说是双向需求。

一方面，[美国五角大楼对硅谷在人工智能方面的创新人才一直虎视眈眈](http://www.ifanr.com/dasheng/1016329)。Google 的 TensorFlow，从 2016 年开始，就在 GitHub 上成为了广受欢迎的机器学习开源项目。DeepMind 近些年在 AlphaGo 等项目上的研究，也一直在人工智能领域中保持领先。

Alphabet 董事会成员埃里克 · 施密特曾经说过，

> 美国军方对顶尖人工智能技术有着强烈的需求，而研究这些技术最厉害的人，很大一部分在 Google。

对了埃里克 · 施密特，还曾经担任美国国防创新委员会主管，帮助五角大楼与硅谷的高科技公司合作，他在科技界跟美国政坛都混得很开。

![](https://s3.ifanr.com/wp-content/uploads/2018/06/2222_meitu_1-1.jpg)

另一方面，一直依靠广告作为收入的 Google，持续高涨的流量获取成本让公司的财报越来越尴尬，而云计算、硬件这些业务虽然进展喜人，但依然不能在短期内成为支撑营收的大头。

因此，这份来自五角大楼的大订单，有媒体披露金额为数十亿美金，同时还有微软、亚马逊等巨头参与竞争，这么大一块肥肉，怎么可以轻易放手。不过去年 9 月， Google 的高层在面对这笔跟军方的大交易时，也有讨论过是否应该披露。

业界对于人工智能被用于制造武器的担忧一直存在。去年 8 月，特斯拉 CEO 埃隆 · 马斯克与 Google 旗下 DeepMind 联合创始人穆斯塔法 · 苏莱曼（Mustafa Suleyman），以及 26 个国家的一百多名人工智能领域专家共同向联合国发表了一封联名信，希望能禁止有关杀人机器人的研究和使用。

而这次 Google 公布人工智能的使用原则后， DeepMind 的穆斯塔法依然是在社交网络 Twitter 上呼吁各国政府关注科技的发展，关注全自动武器的制造和使用，着手制定相关的国家法规。

杰夫 · 迪恩（Jeff Dean）作为 Google AI 的负责人，在 [Twitter](https://twitter.com/JeffDean/with_replies) 上转发了这几项原则表示欢迎，还向公众分享了[他们践行这些原则的技术实践指导](https://ai.google/education/responsible-ai-practices)。