通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了。

—— 《纽约时报》

大声

09-10 11:07

Gary Marcus 和 Ernest Davis 是即将出版的书籍《Rebooting AI: Building Artificial Intelligence We Can Trust》的作者。在他们看来,我们现在搭建 AI 的方式在根本上存在缺陷,真正值得我们信赖的 AI,应该是拥有一定概念背景知识的。

两人在《纽约时报》上的文章指出,现在的 AI 承载了我们的偏见。譬如,亚马逊招聘用的 AI 就展示出性别歧视,因为用来训练 AI 的数据本身就带有过去招聘时隐藏的性别歧视。

与此同时,AI 现在只能做非常简单的识别。譬如,通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了(因为那意味着图片很可能是假的)。

现在的 AI 大部分没法回答任何需要简单「理解能力」的问题。文章作者以一个简单问题为例 ——「乔治·华盛顿是否拥有电脑?」

这个问题给人类来回答算很简单,因为华盛顿身处的年代并没有电脑,因此正常推理下,华盛顿并不会拥有电脑。在 Google 搜索输入这个问题,搜索结果中靠前的网站均对回答问题毫无帮助。

为什么?因为它们没有人类看作理所当然的「概念性常识」。

一般人都知道大部分生物都有出生和死亡。在生命和物件存在的期间,它们大多会占据一定空间,这也就是说,很少有多于一样东西/生命可同时占据同一物理空间。这类是我们经常忽视,但却对理解世界非常重要的基础知识。

因此,两位认为,要建立我们可信任的 AI,我们必须赋予它们对「时间」「空间」和「因果关系」的理解能力。

作者认为,这个选择意味着一定会遇到很多挑战,同时也要放弃大量现有对 AI 的研究结果,但只有这样,我们才能设计出我们需要的 AI。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

用 iPhone 8 的我还是不时拿不稳手机。工作邮箱:fangjiawen@ifanr.com

VAR 的案例证明我们应该警惕,技术不一定能够提供更客观的答案。

查看全文 —— 作家 Kenan Malik

在开放空间中,「第四面墙」规范迅速传播。

查看全文 —— 哈佛商学院组织行为学教授 Edward W. Conard

我发现很多情侣都会一起购物,并确定买的化妆品的色调俩人都适用。美容产品的中性化绝对在变得越来越主流。情侣和另一半分享,甚至搭配化妆,是大家一起享受美妆产品的方式。

查看全文 —— Jessica Blackler,美妆品牌创始人

现在一切在设计上都是为了让你可即时获得下一阵兴奋。孩子尤其容易受影响。

查看全文 —— Mark Bertin,发展儿科医生

消费已经是我们这个时代的最大信仰。

查看全文 —— 传媒人 梁文道