通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了。

—— 《纽约时报》

大声

2019-09-10 11:07

Gary Marcus 和 Ernest Davis 是即将出版的书籍《Rebooting AI: Building Artificial Intelligence We Can Trust》的作者。在他们看来,我们现在搭建 AI 的方式在根本上存在缺陷,真正值得我们信赖的 AI,应该是拥有一定概念背景知识的。

两人在《纽约时报》上的文章指出,现在的 AI 承载了我们的偏见。譬如,亚马逊招聘用的 AI 就展示出性别歧视,因为用来训练 AI 的数据本身就带有过去招聘时隐藏的性别歧视。

与此同时,AI 现在只能做非常简单的识别。譬如,通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了(因为那意味着图片很可能是假的)。

现在的 AI 大部分没法回答任何需要简单「理解能力」的问题。文章作者以一个简单问题为例 ——「乔治·华盛顿是否拥有电脑?」

这个问题给人类来回答算很简单,因为华盛顿身处的年代并没有电脑,因此正常推理下,华盛顿并不会拥有电脑。在 Google 搜索输入这个问题,搜索结果中靠前的网站均对回答问题毫无帮助。

为什么?因为它们没有人类看作理所当然的「概念性常识」。

一般人都知道大部分生物都有出生和死亡。在生命和物件存在的期间,它们大多会占据一定空间,这也就是说,很少有多于一样东西/生命可同时占据同一物理空间。这类是我们经常忽视,但却对理解世界非常重要的基础知识。

因此,两位认为,要建立我们可信任的 AI,我们必须赋予它们对「时间」「空间」和「因果关系」的理解能力。

作者认为,这个选择意味着一定会遇到很多挑战,同时也要放弃大量现有对 AI 的研究结果,但只有这样,我们才能设计出我们需要的 AI。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

让广汽的产品,以至于品牌具备更多年轻化的识别性,迫在眉睫。

查看全文 —— 广汽研究院副院长张帆

美国百分之八九十的飞机都能够上网,我们也要把国内普通用户的上网习惯移到飞机上。

查看全文 —— 飞享互联董事长 刘伯恒

对于美团及类型企业而言,这(骑手是否是雇员)是系统性、外部性问题,也是绕不过去的必然面对的问题。整体问题,有可能在美团企业的整个生命周期都没有解决完毕。

查看全文 —— 新融渡资本主管合伙人 张国防

我们目前的产品一定会想办法达到英特尔 Evo 的认证标准,并以此为最高原则。如果认证过了,坦白来讲,这对 OEM 或者 ODM 来讲都是一个非常好的广告和营销的方式。

查看全文 —— 联阳半导体资深经理 王忠贤

当你不专注的时候你就不专业了。

查看全文 —— HAYDON 黑洞创始人兼 CEO Judy