通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了。

—— 《纽约时报》

大声

2019-09-10 11:07

Gary Marcus 和 Ernest Davis 是即将出版的书籍《Rebooting AI: Building Artificial Intelligence We Can Trust》的作者。在他们看来,我们现在搭建 AI 的方式在根本上存在缺陷,真正值得我们信赖的 AI,应该是拥有一定概念背景知识的。

两人在《纽约时报》上的文章指出,现在的 AI 承载了我们的偏见。譬如,亚马逊招聘用的 AI 就展示出性别歧视,因为用来训练 AI 的数据本身就带有过去招聘时隐藏的性别歧视。

与此同时,AI 现在只能做非常简单的识别。譬如,通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了(因为那意味着图片很可能是假的)。

现在的 AI 大部分没法回答任何需要简单「理解能力」的问题。文章作者以一个简单问题为例 ——「乔治·华盛顿是否拥有电脑?」

这个问题给人类来回答算很简单,因为华盛顿身处的年代并没有电脑,因此正常推理下,华盛顿并不会拥有电脑。在 Google 搜索输入这个问题,搜索结果中靠前的网站均对回答问题毫无帮助。

为什么?因为它们没有人类看作理所当然的「概念性常识」。

一般人都知道大部分生物都有出生和死亡。在生命和物件存在的期间,它们大多会占据一定空间,这也就是说,很少有多于一样东西/生命可同时占据同一物理空间。这类是我们经常忽视,但却对理解世界非常重要的基础知识。

因此,两位认为,要建立我们可信任的 AI,我们必须赋予它们对「时间」「空间」和「因果关系」的理解能力。

作者认为,这个选择意味着一定会遇到很多挑战,同时也要放弃大量现有对 AI 的研究结果,但只有这样,我们才能设计出我们需要的 AI。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

我们在打造南网的电鸿,行业的电鸿,生态的电鸿,更是开辟未来的电鸿。

查看全文 —— 南方电网公司数字化部副总经理 禤亮

我们决定在深蓝 L06 上磁流变技术的时候,基本上是没有经过思考,因为它又快又稳,为什么不选它?

查看全文 —— 深蓝L06全球市场总监 彭钱磊

我们跟华为这帮兄弟们,几个「界」也好,几个「境」也好,包括跟华为其他很多的合作伙伴,我们的初心是一致的,一起要把中国汽车的新能源化,中国汽车的智能化做好。

查看全文 —— 岚图汽车董事长 卢放

未来,英特尔会将不同的重要功能单元灵活组合,打造适应不同需求的芯片,若中国客户想「点菜」,我们也可以定制芯片。

查看全文 —— 英特尔中国区董事长王稚聪

原神上玩的好,其他游戏想玩但是没有,到时候市场上会举手,大家会被容易举手的吸引走。

查看全文 —— iQOO 副总裁罗峰