# Facebook 炒掉新闻编辑，顶岗的 AI 却突然“暴走”惹祸

- 作者：刘 浩南
- 发布时间：2016-09-01 18:27
- 分类：新创
- 原文：https://www.ifanr.com/711713

![2048x1536-fit&#95;illustration-facebook&#95;meitu&#95;10](https://s3.ifanr.com/wp-content/uploads/2016/09/2048x1536-fit_illustration-facebook_meitu_10.jpg)

上周五，Facebook 自豪地宣布对自己的“趋势”（Trending）新闻版块进行智能化升级，解雇原来的人类编辑团队让 AI 接管，却为自己埋了个“大坑”。

本周一 ，“上岗”没几天的 AI 就“暴走”了：它推送了一条标题为“号外！福克斯新闻炒掉‘叛徒’主持人 Megyn Kelly，只因她支持希拉里”的假新闻，内容为主持人 Megyn Kelly 私底下支持希拉里被福克斯发现后开除，尽管这完全是捏造的。

对 AI 十分放心的 Facebook 在数小时后才发现并删除这一错误，期间这一假新闻获得了数千次转发，获得 20 万个“赞”，可能有数百万用户已经阅览过。

![6.13.35](https://s3.ifanr.com/wp-content/uploads/2016/09/屏幕快照-2016-09-01-下午6.13.35.png)

[据 The Verge 报道](http://www.theverge.com/2016/8/29/12690740/megyn-kelly-fox-news-anchor-fake-facebook-trending-topics)，三位原“趋势”新闻编辑团队成员在接受媒体采访时表示，他们早前就被告知 Facebook 打算让“趋势”新闻版块自动化，但他们没想到自己会那么快被开除。其中一位编辑说：“那只是个半成品，用来取代我们的软件还没有准备好。”

值得注意的是，升级后的“趋势”新闻版块并不是完全自动化的，而是让 AI 通过算法推荐新闻，再由一个审核团队进行人工审核。这样一来，Facebook 就节省了一个专业编辑团队的人工支出。

对于 AI 推荐的假新闻为什么能逃过审核团队法眼的提问，Facebook 的一位发言人回应称：

> “趋势”新闻版块的审核团队在上周末批准了这一新闻。按照审核标准，这条新闻符合当时的要求，因为有足够多的引用文章和消息。在重新审核后，这条消息被发现不够准确，于是就从“趋势”新闻版块中移除了。我们会继续改进产品，提高识别假新闻的准确度。

不难看出，出错原因是审核团队鲁莽地因为“有足够多的引用文章和消息”这一条件就为假新闻“亮绿灯”，Facebook 借此否认了外界对 AI 算法漏洞的质疑。

![635987638911525928-107114982&#95;facebook&#95;0001-624x351](https://s3.ifanr.com/wp-content/uploads/2016/09/635987638911525928-107114982_facebook_0001-624x351.jpg)

其中一位被解雇的编辑称，此前他们工作时也接触过这个系统，他们每接受并发表一条由算法推荐的新闻，都会拒绝四到五条来源不可信的假新闻。

过于着急的 Facebook 为其失败的判断付出了代价：“趋势”版块新闻公信力急剧下降，这对高度依赖用户数量和活跃度的 Facebook 来说绝不是好消息。

题图自：[20minutes](http://www.20minutes.fr/monde/1843475-20160511-facebook-accuse-manipuler-internautes-trending-topics)

插图自：[NBC](http://www.nbcnews.com/tech/social-media/gaffes-ensue-facebook-takes-humanity-out-trending-topics-n640216)
