亚马逊人脸识别技术再遭滑铁卢:从 120 名官员中认出了 26 名罪犯

公司

08-23 17:40

本文来自公众号果壳(ID:Guokr42),作者芸薹,爱范儿经授权发布。

「刷脸解锁手机」「刷脸购物」「刷脸验证身份办理银行卡」……我们与生俱来的「脸」除了与颜值形象挂钩,也在逐渐演变成我们身份的唯一识别标识,逐渐深入我们的日常生活,为我们提供了极大的便利。

但当人脸识别遇上现实,也不乏跪地躺枪,惨不忍睹的时候,比如今天我们的主角——来自亚马逊的 Rekognition。

Rekognition 是亚马逊研发的一款图像分析软件。亚马逊已经将这项技术销售给了美国的几个执法机构,比如说华盛顿县治安官办公室,旨在利用软件的面部识别算法实时自动识别和跟踪犯罪嫌疑人;亚马逊也在争取将能把这项技术卖给美国政府。

亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯

▲人脸识别并不是 Rekognition 的唯一功能丨 Rokognition 官网

这是什么神奇算法,「看」一眼就能知道对方是不是犯罪嫌疑人?

Rekognition 需要被辨识的脸部照片作为基础数据库,目前基础数据库的建设主要基于亚马逊的云服务 AWS。当摄像头捕捉到现实中的人脸或用户上传对比照片后,Rekognition 会自动将它们与基础数据库中的照片进行对比;如果相似度足够高,那么 Rekognition 就认为这个人属于基础数据库中的某个人。在软件中,将这个相似度称作「可信度阈值」,它的默认值为 80%。

亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯

▲人脸识别技术 | James Martin/CNET

利用先进科技,让犯罪嫌疑人无处逃遁,想象一下就觉得似乎世界变得更美好了一点。然而,这种想法也遭到了不少人的反对,比如一直和 Rekognition 唱反调的美国公民自由联盟(American Civil Liberties Union,ACLU,一个非盈利组织)。

8 月 14 日,ACLU 对它进行了一项测试,Rekognition 的表现却令人大跌眼镜:基于 25000 人的犯罪嫌疑人基础数据库,ACLU 上传了 120 张立法者的照片让 Rekognition 一试身手,结果是,Rekognition 用误判 26 名立法者为犯罪嫌疑人的结果,证明了自己身手不佳。

实际上,这并不是 Rekognition 第一次「犯错误」,早在 2018 年,它就已经错误地将 28 名国会议员识别为罪犯,万万没想到,经过 1 年的努力,它义无反顾地在将政府官员识别为罪犯的路上越走越远……

亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯

▲2018 年 Rekognition 识别错误的 28 名国会议员 | ACLU 官方 Twitter

不得不说,这软件给我们提供了一份充满了戏剧性的「答卷」,然而作为承担身份识别重要角色的软件,这样的结果无法不让人对其严谨性和严肃性产生质疑。

旧金山议员丁右立(Phil Ting)提议禁止使用这个软件系统,并且表示这样的错误识别结果将会给人们带来巨大的负面影响,当你被人认为是一个罪犯,「可能会影响你找工作的能力、影响你买房租房的能力。」这远不是一项技术犯了一个可笑的错误那么简单,而是确确实实会有活生生的人们,受到这一错误带来的实际影响。

那么,面对再一次的重大失误,作为软件开发商亚马逊对此作何解释?福布斯这样报道:「当使用面部识别来判断调查中的嫌疑人时,执法部门应该使用推荐的 99% 的可信度阈值,并且仅将这些预测作为调查的一个要素(而非唯一决定因素)」。

ACLU 表示这种解释无法让人信服。在测试中使用的 80% 的可信度阈值,实际上是软件提供的默认设置。既然 99% 的可信度阈值才是推荐使用值,为什么亚马逊不将默认可信度阈值设置为 99% 呢?然而对此,亚马逊并未给出答复。

亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯

▲ACLU 成员 Matt Cagle 做出回应丨 ACLU

实际上,这款软件在整个美国进行了推广和试用,除了在识别准确度方面存在问题,在各地的试用中还暴露出了其他一系列问题。比如,由于准确度引发的,在有色人种聚居地识别错误可能造成种族歧视问题,引发警民冲突;在佛罗里达州奥兰多试用期间,还出现网络带宽问题导致软件无法良好运行等问题,很显然,Rekognition 并没有为真正能够推广和应用做好准备。另外,人脸识别技术的滥用,是不是也在一定程度上侵犯了公民的隐私和自由?

未来,Rekognition 将会走向何方,目前我们无法做出判断。

作为 AWS 的重要应用软件,除了卖给政府部门,这款支持包括人脸识别在内的图像分析技术也会通过 AWS 出售给相关大数据公司,亚马逊 7 月 27 日发布的 2018 年财报中显示,云服务第二季度净销售额为 61.05 亿美元,比上年同期的 41.00 亿美元增长 49%;运营利润为 16.42 亿美元,上年同期为 9.16 亿美元。

面临问题重重、形势严峻的推广应用现实,以及巨大利润的诱惑,亚马逊最终将会如何处理此事呢?

科技进步、人工智能给我们的生活带来的方便和快捷不言而喻,但是科技作为工具,能否使用的好最终还是掌握在人的手里,说白了,AI 只是个孩子,要学的还很多,而关键在于我们人类「家长」怎么去教育和引导。

亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯

▲终结者 | © Paramount / Skydance

参考文献

[1]https://hackernoon.com/a-quick-introduction-to-aws-rekognition-8257d4777198

[2]https://www.orlandoweekly.com/Blogs/archives/2019/07/18/orlando-cancels-amazon-rekognition-capping-15-months-of-glitches-and-controversy

[3]https://gizmodo.com/amazons-face-recognition-tech-once-again-pegs-politicia-1837215790

[4]https://www.vice.com/en_us/article/ne8wa8/amazons-facial-recognition-misidentified-1-in-5-california-lawmakers-as-criminals

[5]https://www.forbes.com/sites/monicamelton/2019/08/13/amazon-rekognition-falsely-matches-26-lawmakers-to-mugshots-as-california-bill-to-block-moves-forward/#4c323d0c7350

[6]https://www.dailymail.co.uk/news/article-5995149/Amazons-face-ID-tool-mismatched-28-members-Congress-mugshots-ACLU.html

[7]https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/

[8]https://www.cnet.com/news/amazons-rekognition-falsely-matched-lawmakers-to-criminals-again-aclu-says/

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中