Facebook 炒掉新闻编辑,顶岗的 AI 却突然 “暴走” 惹祸

新创

2016-09-01 18:27

上周五,Facebook 自豪地宣布对自己的 “趋势”(Trending)新闻版块进行智能化升级,解雇原来的人类编辑团队让 AI 接管,却为自己埋了个 “大坑”。

本周一 ,“上岗” 没几天的 AI 就 “暴走” 了:它推送了一条标题为 “号外!福克斯新闻炒掉 ‘叛徒’ 主持人 Megyn Kelly,只因她支持希拉里” 的假新闻,内容为主持人 Megyn Kelly 私底下支持希拉里被福克斯发现后开除,尽管这完全是捏造的。

对 AI 十分放心的 Facebook 在数小时后才发现并删除这一错误,期间这一假新闻获得了数千次转发,获得 20 万个 “赞”,可能有数百万用户已经阅览过。

6.13.35

据 The Verge 报道,三位原 “趋势” 新闻编辑团队成员在接受媒体采访时表示,他们早前就被告知 Facebook 打算让 “趋势” 新闻版块自动化,但他们没想到自己会那么快被开除。其中一位编辑说:“那只是个半成品,用来取代我们的软件还没有准备好。”

值得注意的是,升级后的 “趋势” 新闻版块并不是完全自动化的,而是让 AI 通过算法推荐新闻,再由一个审核团队进行人工审核。这样一来,Facebook 就节省了一个专业编辑团队的人工支出。

对于 AI 推荐的假新闻为什么能逃过审核团队法眼的提问,Facebook 的一位发言人回应称:

“趋势” 新闻版块的审核团队在上周末批准了这一新闻。按照审核标准,这条新闻符合当时的要求,因为有足够多的引用文章和消息。在重新审核后,这条消息被发现不够准确,于是就从 “趋势” 新闻版块中移除了。我们会继续改进产品,提高识别假新闻的准确度。

不难看出,出错原因是审核团队鲁莽地因为 “有足够多的引用文章和消息” 这一条件就为假新闻 “亮绿灯”,Facebook 借此否认了外界对 AI 算法漏洞的质疑。

635987638911525928-107114982_facebook_0001-624x351

其中一位被解雇的编辑称,此前他们工作时也接触过这个系统,他们每接受并发表一条由算法推荐的新闻,都会拒绝四到五条来源不可信的假新闻。

过于着急的 Facebook 为其失败的判断付出了代价:“趋势” 版块新闻公信力急剧下降,这对高度依赖用户数量和活跃度的 Facebook 来说绝不是好消息。

题图自:20minutes

插图自:NBC

后评论

评论在审核通过后将对所有人可见

正在加载中