# 人脸识别对深色皮肤和女性不友好，微软急忙纠正“技术偏见”

- 作者：潘劲虹
- 发布时间：2018-06-27 17:53
- 分类：公司
- 原文：https://www.ifanr.com/1055825

在演唱会“抓逃犯”上屡建奇功的人脸识别，其实还是不成熟的技术，具体表现在对肤色和性别的歧视上。

微软[发现](https://www.engadget.com/2018/06/26/microsoft-improves-facial-recognition-skin-tones-gender/)，商用人脸识别识别肤色较浅的男性准确率最高，而失误率最严重的是肤色较深的女性。

![](https://s3.ifanr.com/wp-content/uploads/2018/06/titu1-5.jpg)

**这可算是人脸识别的“[技术偏见](https://baike.baidu.com/item/%E6%8A%80%E6%9C%AF%E5%81%8F%E8%A7%81)”了。**

这种偏见一旦在大范围应用中“显现”，声讨种族和性别“歧视”的声音，将会淹没微软。

为了解决充满偏见的技术，微软 Face API 团队对其识别系统进行了三次重大改进。[最新的人脸识别系统](https://techcrunch.com/2018/06/26/microsofts-facial-recognition-darker-skin-tones-azure-face-api/)，识别肤色较深的人错误率降低了 20 倍，识别所有女性的失误率减低了 9 倍。

尽管有了改进，但目前的人脸识别，还不是完美的系统。微软认为，问题的根本解决办法还是训练数据库，需要收集更多的数据，包括不同肤色、发型和面部饰品等。

![](https://s3.ifanr.com/wp-content/uploads/2018/06/1-66.jpg)

▲ 研究发现，微软和 IBM 的识别黑人女性出错率高. 图片来自：[Daily Mail](https://www.google.com.hk/url?sa=i&rct=j&q=&esrc=s&source=images&cd=&cad=rja&uact=8&ved=2ahUKEwj69af0w_PbAhXBpZQKHU-4D2AQjB16BAgBEAQ&url=http%3A%2F%2Fwww.dailymail.co.uk%2Fsciencetech%2Farticle-5382979%2FStudy-finds-popular-face-ID-systems-racial-bias.html&psig=AOvVaw1Tz1-aKRDxC46Z85163uX0&ust=1530177995288283)



中国人普遍的黄皮肤，刚好避开了“最浅”和“最深”的肤色。但我国也有外貌特征各异的少数民族，如果人脸识别对此产生技术偏见，就不是简单的“开地图炮”了，可能会引发严重的民族矛盾。

至于“更大范围攻击”的性别歧视话题，在我国也变得非常敏感，该庆幸人脸识别技术目前还没有惹来“性别歧视骂战”。

**偏见的锅不能完全甩给人工智能，技术也是反映真实社会的镜子。**

微软研究实验室的高级研究员、AI 系统公平性专家 [Hanna Wallach](https://www.microsoft.com/en-us/research/people/wallach/) 在[一份声明](https://blogs.microsoft.com/ai/gender-skin-tone-facial-recognition-improvement/)中回应：

> 如果我们训练机器学习系统使用有偏见的社会产生的数据，来模拟那个社会做出决定，那么这些系统必然会重现它的偏见。

例如，在一些社区中，黑人的犯罪率更高，AI 根据收集来的数据，更容易把肤色较深的人划分到“逃犯”的分类中。这是群体给个体的伤害，人脸识别只不过“遵循了”社会偏见。

![](https://s3.ifanr.com/wp-content/uploads/2018/06/3-12.png)

▲ 微软人脸识别的情绪检测功能. 图片来自：[thenextweb](https://thenextweb.com/microsoft/2015/11/11/take-that-inside-out/)



相比起导致“歧视”，研究团队更希望 AI 能检测和减轻偏见，以弥补现实社会中的不完美。

追捕逃犯用大范围攻击的“种族炮”和“性别炮”容易伤及无辜，人脸识别的方向是更精密的“狙击枪”。

**一直对人脸识别技术保持警惕的美国，其海关部门也要启用人脸识别系统，但收到强烈的反对。**

关于人脸识别，最近亚马逊的幺蛾子也很多，先是[美国公民自由联盟](https://www.engadget.com/2018/06/18/amazon-pressured-to-stop-selling-face-recognition/)向亚马逊提交请愿信，接着 100 多名内部员工也要求首席执行官 Jeff Bezos[ 停止向美国警方出售](http://www.businessinsider.com/over-100-amazon-employees-sign-letter-jeff-bezos-stop-selling-facial-recognition-software-police-2018-6)人脸识别软件。目前，美国[奥兰多市警察局](https://www.engadget.com/2018/06/26/orlando-didnt-renew-facial-recognition-amazon/)与亚马逊的人脸识别合同已过期，双方还没决定续约。

“亚马逊人”[签署的部分内容](https://zh.scribd.com/document/382334740/Dear-Jeff)：

> 我们公司不应该在监控业务中; 我们不应该参与警务工作; 我们不应该从事支持监督和压迫边缘化人群的人；

![](https://s3.ifanr.com/wp-content/uploads/2018/06/ice.jpg)

▲ ICE 将启用微软人脸识别软件. 图片来自：[Inc.](https://www.google.com.hk/url?sa=i&rct=j&q=&esrc=s&source=images&cd=&cad=rja&uact=8&ved=2ahUKEwimqafzxfPbAhUBG5QKHeDXC1oQjB16BAgBEAQ&url=https%3A%2F%2Fwww.inc.com%2Fyasmin-gagne%2Fmicrosoft-scrubs-mention-of-its-work-with-ice-after-protests-ensued-over-separating-families-at-us-border-with-mexico.html&psig=AOvVaw1dGI8FN6eVmllqF3RIrchG&ust=1530178636247868)



尽管微软员工与亚马逊员工的想法一致，坚决认为人脸识别软件侵犯人权，对[美国最近的移民政策](https://www.theverge.com/2018/6/18/17476262/microsoft-ice-criticism-contract)尤其不满，希望微软 CEO Satya Nadella 停止与 ICE (美国移民和海关执法部门)[签署协议](http://www.businessinsider.com/microsoft-staff-write-to-satya-nadella-protesting-contract-with-ice-2018-6)，但目前仍没收到成效。

人脸识别技术到底带来了安全保障，还是带来了歧视，侵犯了个人自由？美国科技公司们的“纠结”，也许值得我们思考，看演唱会被人脸识别，到底是不是妥当的？

题图来源：[Gigaom](https://www.google.com.hk/url?sa=i&rct=j&q=&esrc=s&source=images&cd=&cad=rja&uact=8&ved=2ahUKEwiXp4jLwvPbAhVCupQKHY82AQsQjB16BAgBEAQ&url=https%3A%2F%2Fgigaom.com%2F2017%2F04%2F10%2Fdiscover-your-customers-deepest-feelings-using-microsoft-facial-recognition%2F&psig=AOvVaw0_JADbSoKbW05GuXA9u3m6&ust=1530177780647178)