# 设计人类能信任 AI，我们需教它们更抽象的概念

- 作者：方嘉文
- 发布时间：2019-09-10 11:07
- 原文：https://www.ifanr.com/dasheng/1258206

![](https://s3.ifanr.com/wp-content/uploads/2019/09/06MarcusDavis-jumbo.jpg)

Gary Marcus 和 Ernest Davis 是即将出版的书籍《Rebooting AI: Building Artificial Intelligence We Can Trust》的作者。在他们看来，我们现在搭建 AI 的方式在根本上存在缺陷，真正值得我们信赖的 AI，应该是拥有一定概念背景知识的。

两人在《纽约时报》上的[文章指出](https://www.nytimes.com/2019/09/06/opinion/ai-explainability.html)，现在的 AI 承载了我们的偏见。譬如，亚马逊招聘用的 AI 就展示出性别歧视，因为用来训练 AI 的数据本身就带有过去招聘时隐藏的性别歧视。

与此同时，AI 现在只能做非常简单的识别。譬如，通过机器学习，AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别，但它却无法理解，为何一张照片中出现了两只暹罗猫是合理的，但出现两个 Derek Jeter 的话就要引起注意了（因为那意味着图片很可能是假的）。

现在的 AI 大部分没法回答任何需要简单「理解能力」的问题。文章作者以一个简单问题为例 ——「乔治·华盛顿是否拥有电脑？」

这个问题给人类来回答算很简单，因为华盛顿身处的年代并没有电脑，因此正常推理下，华盛顿并不会拥有电脑。在 Google 搜索输入这个问题，搜索结果中靠前的网站均对回答问题毫无帮助。

为什么？因为它们没有人类看作理所当然的「概念性常识」。

一般人都知道大部分生物都有出生和死亡。在生命和物件存在的期间，它们大多会占据一定空间，这也就是说，很少有多于一样东西/生命可同时占据同一物理空间。这类是我们经常忽视，但却对理解世界非常重要的基础知识。

因此，两位认为，要建立我们可信任的 AI，我们必须赋予它们对「时间」「空间」和「因果关系」的理解能力。

作者认为，这个选择意味着一定会遇到很多挑战，同时也要放弃大量现有对 AI 的研究结果，但只有这样，我们才能设计出我们需要的 AI。