Facebook 炒掉新闻编辑，顶岗的 AI 却突然“暴走”惹祸

上周五，Facebook 自豪地宣布对自己的“趋势”（Trending）新闻版块进行智能化升级，解雇原来的人类编辑团队让 AI 接管，却为自己埋了个“大坑”。

本周一 ，“上岗”没几天的 AI 就“暴走”了：它推送了一条标题为“号外！福克斯新闻炒掉‘叛徒’主持人 Megyn Kelly，只因她支持希拉里”的假新闻，内容为主持人 Megyn Kelly 私底下支持希拉里被福克斯发现后开除，尽管这完全是捏造的。

对 AI 十分放心的 Facebook 在数小时后才发现并删除这一错误，期间这一假新闻获得了数千次转发，获得 20 万个“赞”，可能有数百万用户已经阅览过。

据 The Verge 报道，三位原“趋势”新闻编辑团队成员在接受媒体采访时表示，他们早前就被告知 Facebook 打算让“趋势”新闻版块自动化，但他们没想到自己会那么快被开除。其中一位编辑说：“那只是个半成品，用来取代我们的软件还没有准备好。”

值得注意的是，升级后的“趋势”新闻版块并不是完全自动化的，而是让 AI 通过算法推荐新闻，再由一个审核团队进行人工审核。这样一来，Facebook 就节省了一个专业编辑团队的人工支出。

对于 AI 推荐的假新闻为什么能逃过审核团队法眼的提问，Facebook 的一位发言人回应称：

“趋势”新闻版块的审核团队在上周末批准了这一新闻。按照审核标准，这条新闻符合当时的要求，因为有足够多的引用文章和消息。在重新审核后，这条消息被发现不够准确，于是就从“趋势”新闻版块中移除了。我们会继续改进产品，提高识别假新闻的准确度。

不难看出，出错原因是审核团队鲁莽地因为“有足够多的引用文章和消息”这一条件就为假新闻“亮绿灯”，Facebook 借此否认了外界对 AI 算法漏洞的质疑。

其中一位被解雇的编辑称，此前他们工作时也接触过这个系统，他们每接受并发表一条由算法推荐的新闻，都会拒绝四到五条来源不可信的假新闻。

过于着急的 Facebook 为其失败的判断付出了代价：“趋势”版块新闻公信力急剧下降，这对高度依赖用户数量和活跃度的 Facebook 来说绝不是好消息。

题图自：20minutes

插图自：NBC