微博、豆瓣、抖音都在做的新功能,终于让网络暴力不再无解

产品

04-08 21:04

一些见不得光的恶意将一个 16 岁的少年逼上了绝路。

Carson Bride 在自杀前搜索的最后一个词条是「如何显示 Yolo 用户名」。

Yolo 是一个匿名社交应用,因为它的设置,使用者永远无法知道背后发送消息的人是谁。可以说这是一个完全不受拘束的神秘空间。而当它背后充斥着恶意的时候,铺天盖地的信息也会让你有一种不被世界所容的错觉。

▲ Yolo 是一个匿名应用

Carson 在连续数月收到来自 Yolo 的匿名负面信息后选择结束自己的生命。他的母亲并没有通过媒体向各个平台施压,要求他们公示对儿子进行长期辱骂、逼迫之人的名单,而是起诉了儿子使用的社交平台 Snap、Yolo、LMK。在她看来,这些公司没有遵守自己的服务条款和政策,违反了消费者保护法,且助长了欺凌行为。

这就是故事的结局,一个母亲因为儿子的自杀起诉了网暴者借之宣泄恶意的平台,而非平台背后的人。

这次,平台不再隐身

阳光照在海面,我也归于大海。从这里结束自己的一生,也带走了这个世界上最美的风景。

寻亲男孩刘学州最后在微博诉说了自己被生父母出卖、养父母身亡、遭受校园欺凌猥亵以及被网暴的一生;确诊新冠病毒的周女士个人信息在网络被疯传,不少人通过公众平台嘲讽她「千里送毒」;江歌的母亲在维权过程中遭到了部分网民的辱骂,她 5 年起诉了 10 名网民。

▲ 网络暴力已经不是个别问题. 图片来自:comminit

以往发生网暴事件,总有人出现呼吁真善美,让每个人规范自己的行为不要成为「压倒骆驼的最后一根稻草」。个体的行为在网暴事件中被反复的提及,平台固然会受到批评,但被指责的更多是通过平台隐藏自己的人。

只是越来越多人在拿起法律武器反击时不仅针对背后的施暴者,也开始要求平台能发挥更大的作用。Carson 的母亲并不是孤例,隐藏在平台背后的人固然可恨,但没有及时保护用户、制止暴行的平台同样不能独善其身。

一位法学从业者表示,面对网络暴力,平台和自然人都需要承担应有的责任。《刑法》就规定,网络暴力行为涉嫌诽谤罪和侮辱罪,可处以 3 年以下有期徒刑、拘役、管制或者剥夺政治权利。只是落在一个个具体的案例中,网暴行为导致的「情节严重」的情况都较难确定。

▲ 图片来自:rsearch blog

平台也有《网络信息内容生态治理规定》做出了限制,不得制作发布侮辱或诽谤他人,侵害他人名誉、隐私和其他合法权益的内容;应当采取措施防范、抵制制作展现血腥、惊悚、残忍等致人身心不适的内容。

如果只是谈到网络暴力的提前预防和保护,那从平台和用户的角度来说,针对平台去做产品的优化升级也要比限制用户来得更容易。毕竟用户千千万,而平台就只有那几个。所以不管是政策的要求还是平台自己的迭代,我们都能看到越来越多平台在主动做出改变。

各显身手,制网暴

中国互联网平台对网暴越发关注是从今年开始的。

2022 年 1 月开展的清朗行动中列出了重点整治的五个方面,其中首先被提及的就是「网络暴力、散播谣言等问题」。在这个行动后,越来越多平台上线了有着不同命名的防网暴功能或模式。

▲ 网暴来自屏幕背后看不见的手. 图片来自:Mingyongcheng

反应最快的是微博,1 月 24 日,微博在回应刘学州事件时就表示平台拟上线一键开启「防暴模式」,用户可以在隐私设置里对评论博文和私信的人加以限制;还可以开启「评论防火墙」,由系统自动屏蔽人身攻击和恶意骚扰的内容。

微博在 3 月 11 日就正式上线了这一模式,相较于其他平台,微博这一模式最大的不同在于「将综合考虑评论、私信等各个场景的不同行为特征,提前发现潜在被攻击用户,做好前置环节的预警提示,引导高风险用户主动开启一键防护功能,进一步减少和预防用户遭受言论攻击的情况。」

▲ 微博一月底曾预告「防暴模式」

平台:微博
功能名称:一键防护
上线日期:3 月 11 日
防护日期:7 天
主要功能:7 天内不接收未关注人的私信,未关注人将无法评论你的微博,未关注人转发你微博的记录将不会展示在转发列表中
打开方式:「我」-「隐私设置」-「一键防护」;引导高风险用户主动开启

▲ 一键防护开启界面

和微博为用户构建防护墙不同,抖音还会主动出击,向那些内容发布者示警。用户在评论区发布的违规/低质评论会被模型匹配校验,收到评论弹窗「该评论可能对他人造成负面影响」,引导用户重新编辑。若用户选择继续发布,则评论也会不公开可见,进入审核环节内合规才能放出。

▲ 抖音将自己称为首个上线「评论发文警示」的平台

平台:抖音
功能名称:发文警示
上线日期:2 月 23 日
防护日期:持续
主要功能:系统模型判定已发送的评论存在问题,则会推送弹窗提醒,建议发送者重新编辑,去除不当言论;若发送者坚持发送,则该条评论不会在评论区出现
打开方式:平台模型自动校验

▲ 抖音的「评论发文警示」功能

紧接着的是豆瓣,它对于用户在平台过往内容的保护更为详尽。不仅用户无法回复内容、收藏内容,你未关注的人也无法查看你的个人主页,无法查看往期内容,能够有效隔绝潜在的「挖坟」行为。

平台:豆瓣
功能名称:应急防护模式
上线日期:3 月 25 日
防护日期:3 天、7 天、14 天
主要功能:隔离窥视(仅关注者可查看个人主页内容);预防骚扰(陌生人未经同意无法私信,非友善评论自动隐藏);控制传播(仅关注人可回复内容,可禁止该内容的转发收藏)
打开方式:「设置」-「隐私设置」-「应急防护模式」

▲ 应急防护模式可选择防护持续时间

这是目前已经上线了防治网暴整合方案的平台。其中很多功能可能是原本应用就已有的功能,例如不同平台均可设置禁止关注 X 天内用户评论、限制转发等等。

知乎就有强制关闭评论、强制开启评论预审等功能,系统 + 人工双重安全评估的模式在一定程度上可以过滤一些攻击性内容;B 站也有私信智能拦截、私信垃圾箱、防骚扰模式帮用户隔绝不良信息;小红书、快手等平台也能对互动、关系进行更多的限制和选择。

但平台能够提供一个完整的解决方案依旧是不同的。

▲ B 站这样的非社交平台也有私信智能拦截的功能

让用户打开应急的方案

豆瓣对爱范儿表示,他们在设计「应急防护模式」的功能时,是对用户遭受网暴、隐私威胁一般路径的观察来进行规划的。

常见的网络暴力包括言语攻击、人身侮辱、人肉搜索、传播谣言等,那豆瓣就选择通过保护受害者的个人历史和隐私(隔绝窥视)、减少直接的言论攻击(预防骚扰)、降低二次传播的几率(控制传播)这几方面去重点防护,切断惯常网暴者对受害者信息收集和信息轰炸的链路。

▲ 豆瓣

打开这个模式,意味着他人无法查看你过去在社交网络留下的只言片语,也没办法根据你过去的互联网历史编造、再创作出侮辱性的内容。同时,那些最为恶毒的言语攻击也无法展现在你面前,私信、评论、转发的道路被堵住了,没人可以隔着屏幕给你的心扎上一刀。

人人都在说互联网的互联互通,但每一个平台的防网暴模式反而构建了一间难得的安全屋。用户在短时间内看到的内容都是经过处理审核的,恶语无法伤人,只能在屏幕后宣泄自己的恶意,而这些恶意也会受到惩罚。

已经有了越来越多的受害者通过诉讼维护了自己的合法权益,让网暴者赔偿、道歉。但诉讼的高成本和一句脱口而出的恶意似乎并不相抵,并非所有的受害者都愿意花时间精力去做这件事。平台在这个阶段也能发挥作用,不管是禁言处罚用户,还是给用户进行警告,平台干预的成本是更低的。

▲ 被造谣出轨的受害者就选择通过诉讼维护自身权益

微博在上线「一键防护」模式外,就透露了平台正在开发建设行为监测模型的消息。有了模型的加持,平台可以通过分析用户不友善评论、举报数量频次等数据,准确识别网暴苗头,从机制上、源头上来解决问题。

在清理违规信息的同时,我们也会依据不同行为性质,采取阶梯式处置:针对参与网络暴力的账号,采取批量禁言、限制功能等处置,对首发、多发、煽动发布网暴信息的账号,采取永久禁言等措施,对涉嫌违法犯罪的,移交有关部门依法追究法律责任。

▲ 微博

只是功能跟上了,宣传也得跟上。一位曾经因为一条内容问题而收到网友私信辱骂的人表示,她认为这个功能管用,但也质疑用户会不会主动打开它。

「其实专门私信骂我的就三个,但我都受不了,忍不住去看有没有支持的言论,看到其他人也在说我有问题就很 emo,那几天都很不爽。」提及自身经历,这位曾经接受过负面信息冲击的用户也提出了自己的质疑:「所以我觉得还有一个很重要的问题是,他们(用户)能不能知道这个功能,愿不愿意不看其他人的评论,打开这个功能?」

在防网暴模式上线没多久的今天,功能普及率和用户主动打开的意愿都属于未知。在这种时候,像微博、抖音这样可以主动出击的平台也能发挥自己的作用,前者引导用户打开这一功能,后者主动为用户在评论区构建一堵安全墙,让恶语无法攻破。微博就对爱范儿表示:

我们也正在开发完善系统自动提醒机制,对高风险用户做出主动提醒,引导用户开启,进一步减少和预防用户遭受言论攻击的情况。

▲ 图片来自:Omidyar Network

从为用户提供隐私设置的选择,到为防治网暴建立一套系统的升级方案,再通过宣传引导用户使用这一功能、了解这一功能,平台的变化经过了很多年。但这依旧可能是开始,而非结束,每一个平台在运营过程中也在收集用户的反馈,等待下一次的升级和迭代。

豆瓣也对爱范儿表示:

这几个方向其实是对目前防护模式策略的一个概括,但并不是对于网络暴力治理措施的穷尽。

题图来自 wikimedia

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中