# 在辨识简单图片时，神经网络为何会出错？

- 作者：积木
- 发布时间：2015-01-07 14:13
- 分类：公司
- 原文：https://www.ifanr.com/481046

[![0313vsm_McCaffreyNeuralNet](https://s3.ifanr.com/wp-content/uploads/2015/01/0313vsm_McCaffreyNeuralNet.jpg)](http://www.ifanr.com/481046/0313vsm_mccaffreyneuralnet)

最近的一项研究表明，神经网络可以被一些简单的、随机生成的图像欺骗。当它看到抽象的图片时，会将其认为是一件特定的物品。这再次告诉我们，计算机视觉和人类视觉是完全不同的东西，但是，随着神经网络变得越来越复杂，我们对这种差别也越来越难以把握。“我们获得了一些结论，但却不知道是如何获得这些结论的。” 研究员 Jeff Clune 在接受 [Wired 网站](http://www.wired.com/2015/01/simple-pictures-state-art-ai-still-cant-recognize/)采访时说。

为了测试神经网络是否真的聪明，Clune 和两位博士生展开了一项研究。他们用算法生成随机的图像，将其变形。然后，他们让神经网络对两幅图进行辨识。如果神经网络认为变形后的图像更接近某个物品，他们就保留下变形后的图像，再次重复上述步骤；如果情况相反，他们就退回一步，再次进行辨识。通过这样的方法，他们获得了几十张被计算机确认的图片。这些图像在人类看来仍然是抽象的，但是，到了神经网络那里，它们却是可以辨认的物品。

[![imagnet8-660x389](https://s3.ifanr.com/wp-content/uploads/2015/01/imagnet8-660x389.jpg)](http://www.ifanr.com/481046/imagnet8-660x389)

从某种程度上，我们还可以理解计算机的失误。因为这些抽象图形存在一些可辨识的特征，但是，比较奇怪的情况是，一些毫无特征的像素图同样骗过了神经网络。

Clune 认为，神经网络在辨识物品的时候，使用了一系列的视觉线索。有时候，这些视觉线索是人类不熟悉的东西。比如，在接受训练的时候，神经网络注意到，在孔雀的图像中，通常包含有“绿色像素、绿色像素、紫色像素、绿色像素”的线条。当神经网络在无特征的像素图中发现同样线条时，或许就将其确定为“孔雀”。

[![noisyimages-660x389](https://s3.ifanr.com/wp-content/uploads/2015/01/noisyimages-660x389.jpg)](http://www.ifanr.com/481046/noisyimages-660x389)

在 Clune 看来，这项研究展示了人工智能领域的一个事实：即使神经网络起了作用，我们并不是完全了解它是如何工作的。“神经网络正变得愈加庞大，极为复杂，而且它们拥有自学能力，” Clune 说，“它们拥有数百万的神经元，并且都在做着自己的事情。当它们完成一件让人惊讶的事情，我们并不是很了解它们是如何做到的。”

随着人工智能的进展，研究人员也在发生改变。在过去，研究人员参与着系统构建，而现在的研究人员则可以直接使用现有系统，不用深入了解其背后的原理。同时，由于神经网络拥有自学能力，它们或许会变得非常复杂，达到不可理解的地步。“它不再是以人类的方式编写的计算机代码，” Clune 说，“它更像是各种相互关联的部分构成的一个体系，然后从中产生了智力。”

题图来自 [vsmagzine](http://visualstudiomagazine.com/articles/list/neural-network-lab.aspx)