通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了。

—— 《纽约时报》

大声

2019-09-10 11:07

Gary Marcus 和 Ernest Davis 是即将出版的书籍《Rebooting AI: Building Artificial Intelligence We Can Trust》的作者。在他们看来,我们现在搭建 AI 的方式在根本上存在缺陷,真正值得我们信赖的 AI,应该是拥有一定概念背景知识的。

两人在《纽约时报》上的文章指出,现在的 AI 承载了我们的偏见。譬如,亚马逊招聘用的 AI 就展示出性别歧视,因为用来训练 AI 的数据本身就带有过去招聘时隐藏的性别歧视。

与此同时,AI 现在只能做非常简单的识别。譬如,通过机器学习,AI 能分清暹罗猫和棒球明星 Derek Jeter 的区别,但它却无法理解,为何一张照片中出现了两只暹罗猫是合理的,但出现两个 Derek Jeter 的话就要引起注意了(因为那意味着图片很可能是假的)。

现在的 AI 大部分没法回答任何需要简单「理解能力」的问题。文章作者以一个简单问题为例 ——「乔治·华盛顿是否拥有电脑?」

这个问题给人类来回答算很简单,因为华盛顿身处的年代并没有电脑,因此正常推理下,华盛顿并不会拥有电脑。在 Google 搜索输入这个问题,搜索结果中靠前的网站均对回答问题毫无帮助。

为什么?因为它们没有人类看作理所当然的「概念性常识」。

一般人都知道大部分生物都有出生和死亡。在生命和物件存在的期间,它们大多会占据一定空间,这也就是说,很少有多于一样东西/生命可同时占据同一物理空间。这类是我们经常忽视,但却对理解世界非常重要的基础知识。

因此,两位认为,要建立我们可信任的 AI,我们必须赋予它们对「时间」「空间」和「因果关系」的理解能力。

作者认为,这个选择意味着一定会遇到很多挑战,同时也要放弃大量现有对 AI 的研究结果,但只有这样,我们才能设计出我们需要的 AI。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

用 iPhone 8 的我还是不时拿不稳手机。工作邮箱:fangjiawen@ifanr.com

如果物理技术的变化继续加快,我们的社会技术能跟上吗?

查看全文 —— 牛津大学马丁学院新经济思维研究所教授 Doyne Farmer

家具也能像随身携带的物品一样,成为传递居家感觉的媒介。

查看全文 —— 荷兰设计公司 Malessa Studio

这么多年我们从研发 2-in-1 产品中学到的,就是它永远不会成为一款完美的平板电脑。

查看全文 —— 戴尔高级产品营销总监 Donnie Oliphant

奥斯卡仍然很重要,但奥斯卡没有胜者。

查看全文 —— 《Quartz》

史蒂夫想成为重要人物,而当年他身无分文,所以他一直在找各种赚钱的途径。

查看全文 —— 苹果联合创始人沃兹尼亚克