通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了。

—— 《纽约时报》

大声

09-10 11:07

Gary Marcus 和 Ernest Davis 是即将出版的书籍《Rebooting AI: Building Artificial Intelligence We Can Trust》的作者。在他们看来,我们现在搭建 AI 的方式在根本上存在缺陷,真正值得我们信赖的 AI,应该是拥有一定概念背景知识的。

两人在《纽约时报》上的文章指出,现在的 AI 承载了我们的偏见。譬如,亚马逊招聘用的 AI 就展示出性别歧视,因为用来训练 AI 的数据本身就带有过去招聘时隐藏的性别歧视。

与此同时,AI 现在只能做非常简单的识别。譬如,通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了(因为那意味着图片很可能是假的)。

现在的 AI 大部分没法回答任何需要简单「理解能力」的问题。文章作者以一个简单问题为例 ——「乔治·华盛顿是否拥有电脑?」

这个问题给人类来回答算很简单,因为华盛顿身处的年代并没有电脑,因此正常推理下,华盛顿并不会拥有电脑。在 Google 搜索输入这个问题,搜索结果中靠前的网站均对回答问题毫无帮助。

为什么?因为它们没有人类看作理所当然的「概念性常识」。

一般人都知道大部分生物都有出生和死亡。在生命和物件存在的期间,它们大多会占据一定空间,这也就是说,很少有多于一样东西/生命可同时占据同一物理空间。这类是我们经常忽视,但却对理解世界非常重要的基础知识。

因此,两位认为,要建立我们可信任的 AI,我们必须赋予它们对「时间」「空间」和「因果关系」的理解能力。

作者认为,这个选择意味着一定会遇到很多挑战,同时也要放弃大量现有对 AI 的研究结果,但只有这样,我们才能设计出我们需要的 AI。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

如果你想纠正公司的某种行为方式,那你应该强调,这是一种被禁止的行为。把公司一分为二,让两个人做坏事——这似乎不是一个解决办法。

查看全文 —— 微软联合创始人 比尔·盖茨

实体书仍然比电子书受欢迎,因为人们更想真正拥有一本书。

查看全文 —— 英国书商协会常务董事 Meryl Halls

Z 世代可以让实体店复苏。

查看全文 —— 国际管理咨询公司 AT Kearney

付费 VR 内容已经死了。

查看全文 —— Admix 创始人 Samuel Huber

在未来 20 到 30 年内,谁要想主导世界经济,谁就必须在类脑计算领域领先。

查看全文 —— 《欧盟人脑计划》