网络喷子的末日,Google 这款新软件专门清理攻击性语言

新创

2016-09-21 15:46

在网络世界,人和人之间互不相识,隔着屏幕对自己所说的话没有一丝顾忌,“网络喷子”、“键盘侠” 这些人就是这么出现的。用恶毒的语言激怒对方,挑起争端,加上网络匿名给这些 “语言暴力者” 穿上了隐身衣,喷子更加无所顾忌。

因网络语言暴力导致的事件太多了,2014 年《我的世界》制作者 Notch 因玩家喷子的负面评论、无理由的投诉身心俱疲,将 Mojang 卖给了微软;同样也是 2014 年,路透社网站评论区彻底成为了喷子攻击的阵地,因此关闭了新闻评论功能;以及众多因为网络语言暴力抑郁,进而了结自己生命的人……

markus_persson_16881_87085

图片来源:hitc

因此,Google 的子公司 Jigsaw 宣布推出了一款人工智能软件 Conversation AI,用机器学习技术来自动识别标记网络上的侮辱和骚扰性文字。

Jigsaw 本是 Google 智库一员,在今年 2 月被独立出来,以专注于用技术手段解决一系列地缘政治问题。而 Conversation AI 原本是用来对付 ISIS ,它对 YouTube 视频、网络搜索词进行分析识别,找到 ISIS 相关的关键词,收集其暴力行动的各种证据,还会向搜索关键词的用户显示反 ISIS 广告。

Jigsaw 团队工程师称,Conversation AI 的识别准确率比关键词过滤技术和专人识别都要高得多。软件会自动识别和标记有问题的评论,并对网络评论的 “攻击性” 进行从 0 到 100 的打分。0 分表明该评论并不具备攻击性,而 100 分表明它是极富攻击性。

slide7

图片来源:typingvidya

Conversation AI 将会开放源代码,这样任何网站都可以利用该人工智能软件来保护用户远离网络语言暴力。目前该技术除了自动识别标记,还可以自动删除攻击性语言。Google 表示 Conversation AI 对攻击性语言的识别准确性极高,可以达到 92%,但伴有 10% 的误判率,同时还表示将会逐步改善问题。

该软件会先在纽约时报网站评论进行测试,而维基百科也对此表示出了兴趣。

 

题图来源:psychologytoday

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中