# 微博、豆瓣、抖音都在做的新功能，终于让网络暴力不再无解 - 作者：冷思真 - 发布时间：2022-04-08 21:04 - 分类：产品 - 原文：https://www.ifanr.com/1481175 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/Cyber_violence.jpeg) 一些见不得光的恶意将一个 16 岁的少年逼上了绝路。 [Carson Bride](https://www.latimes.com/business/story/2021-05-10/lawsuit-snap-teen-suicide-yolo-lmk) 在自杀前搜索的最后一个词条是「**如何显示 Yolo 用户名**」。 Yolo 是一个匿名社交应用，因为它的设置，使用者永远无法知道背后发送消息的人是谁。可以说这是一个完全不受拘束的神秘空间。而当它背后充斥着恶意的时候，铺天盖地的信息也会让你有一种不被世界所容的错觉。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/Yolo-App.jpg) ▲ Yolo 是一个匿名应用 Carson 在连续数月收到来自 Yolo 的匿名负面信息后选择结束自己的生命。他的母亲并没有通过媒体向各个平台施压，要求他们公示对儿子进行长期辱骂、逼迫之人的名单，而是[起诉了儿子使用的社交平台 Snap、Yolo、LMK](https://www.latimes.com/business/story/2021-05-10/lawsuit-snap-teen-suicide-yolo-lmk)。在她看来，这些公司没有遵守自己的服务条款和政策，违反了消费者保护法，且助长了欺凌行为。 这就是故事的结局，一个母亲因为儿子的自杀起诉了网暴者借之宣泄恶意的平台，而非平台背后的人。 ### 这次，平台不再隐身 > 阳光照在海面，我也归于大海。从这里结束自己的一生，也带走了这个世界上最美的风景。 寻亲男孩刘学州最后在微博诉说了自己被生父母出卖、养父母身亡、遭受校园欺凌猥亵以及被网暴的一生；确诊新冠病毒的周女士个人信息在网络被疯传，不少人通过公众平台嘲讽她「千里送毒」；江歌的母亲在维权过程中遭到了部分网民的辱骂，她 5 年起诉了 10 名网民。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/vaw5.jpg) ▲ 网络暴力已经不是个别问题. 图片来自：[comminit](https://www.comminit.com/content/guidelines-responsible-representation-and-reporting-violence-against-women-and-violence-) 以往发生网暴事件，总有人出现呼吁真善美，让每个人规范自己的行为不要成为「压倒骆驼的最后一根稻草」。个体的行为在网暴事件中被反复的提及，平台固然会受到批评，但被指责的更多是通过平台隐藏自己的人。 只是越来越多人在拿起法律武器反击时不仅针对背后的施暴者，也开始要求平台能发挥更大的作用。Carson 的母亲并不是孤例，隐藏在平台背后的人固然可恨，但没有及时保护用户、制止暴行的平台同样不能独善其身。 一位法学从业者表示，面对网络暴力，平台和自然人都需要承担应有的责任。《刑法》就规定，网络暴力行为涉嫌诽谤罪和侮辱罪，可处以 3 年以下有期徒刑、拘役、管制或者剥夺政治权利。只是落在一个个具体的案例中，网暴行为导致的「情节严重」的情况都较难确定。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/24-Cyber-Violence-Against-Women-in-India-Credit-Jack-Forbes-1024x640.jpeg) ▲ 图片来自：[rsearch blog](https://research.jgu.edu.in/materiality-and-discursivity-of-cyber-violence-against-women-in-india/) 平台也有《网络信息内容生态治理规定》做出了限制，不得制作发布侮辱或诽谤他人，侵害他人名誉、隐私和其他合法权益的内容；应当采取措施防范、抵制制作展现血腥、惊悚、残忍等致人身心不适的内容。 如果只是谈到网络暴力的提前预防和保护，那从平台和用户的角度来说，针对平台去做产品的优化升级也要比限制用户来得更容易。毕竟用户千千万，而平台就只有那几个。所以不管是政策的要求还是平台自己的迭代，我们都能看到越来越多平台在主动做出改变。 ### 各显身手，制网暴 **中国互联网平台对网暴越发关注是从今年开始的。** 2022 年 1 月开展的清朗行动中列出了重点整治的五个方面，其中首先被提及的就是「网络暴力、散播谣言等问题」。在这个行动后，越来越多平台上线了有着不同命名的防网暴功能或模式。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/5fabb2fec36574a822c6beef_CATCH.jpeg) ▲ 网暴来自屏幕背后看不见的手. 图片来自：[Mingyongcheng](https://www.mingyongcheng.com/projects/cyber-violence) 反应最快的是微博，1 月 24 日，微博在回应刘学州事件时就表示平台拟上线一键开启「防暴模式」，用户可以在隐私设置里对评论博文和私信的人加以限制；还可以开启「评论防火墙」，由系统自动屏蔽人身攻击和恶意骚扰的内容。 微博在 3 月 11 日就正式上线了这一模式，相较于其他平台，微博这一模式最大的不同在于「将综合考虑评论、私信等各个场景的不同行为特征，提前发现潜在被攻击用户，做好前置环节的预警提示，引导高风险用户主动开启一键防护功能，进一步减少和预防用户遭受言论攻击的情况。」 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/fangbao.png) ▲ 微博一月底曾预告「防暴模式」 平台：微博 功能名称：一键防护 上线日期：3 月 11 日 防护日期：7 天 主要功能：7 天内不接收未关注人的私信，未关注人将无法评论你的微博，未关注人转发你微博的记录将不会展示在转发列表中 打开方式：「我」-「隐私设置」-「一键防护」；引导高风险用户主动开启 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/yinsishezhi.jpg) ▲ 一键防护开启界面 和微博为用户构建防护墙不同，抖音还会主动出击，向那些内容发布者示警。用户在评论区发布的违规/低质评论会被模型匹配校验，收到评论弹窗「该评论可能对他人造成负面影响」，引导用户重新编辑。若用户选择继续发布，则评论也会不公开可见，进入审核环节内合规才能放出。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/fawenjingshi.png) ▲ 抖音将自己称为首个上线「评论发文警示」的平台 平台：抖音 功能名称：发文警示 上线日期：2 月 23 日 防护日期：持续 主要功能：系统模型判定已发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论；若发送者坚持发送，则该条评论不会在评论区出现 打开方式：平台模型自动校验 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/621491b924d55.jpg) ▲ 抖音的「评论发文警示」功能 紧接着的是豆瓣，它对于用户在平台过往内容的保护更为详尽。不仅用户无法回复内容、收藏内容，你未关注的人也无法查看你的个人主页，无法查看往期内容，能够有效隔绝潜在的「挖坟」行为。 平台：豆瓣 功能名称：应急防护模式 上线日期：3 月 25 日 防护日期：3 天、7 天、14 天 主要功能：隔离窥视（仅关注者可查看个人主页内容）；预防骚扰（陌生人未经同意无法私信，非友善评论自动隐藏）；控制传播（仅关注人可回复内容，可禁止该内容的转发收藏） 打开方式：「设置」-「隐私设置」-「应急防护模式」 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/yingjifanghu.jpg) ▲ 应急防护模式可选择防护持续时间 这是目前已经上线了防治网暴整合方案的平台。其中很多功能可能是原本应用就已有的功能，例如不同平台均可设置禁止关注 X 天内用户评论、限制转发等等。 知乎就有强制关闭评论、强制开启评论预审等功能，系统 + 人工双重安全评估的模式在一定程度上可以过滤一些攻击性内容；B 站也有私信智能拦截、私信垃圾箱、防骚扰模式帮用户隔绝不良信息；小红书、快手等平台也能对互动、关系进行更多的限制和选择。 但平台能够提供一个完整的解决方案依旧是不同的。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/Bilibili.jpg) ▲ B 站这样的非社交平台也有私信智能拦截的功能 ### 让用户打开应急的方案 豆瓣对爱范儿表示，他们在设计「应急防护模式」的功能时，是对用户遭受网暴、隐私威胁一般路径的观察来进行规划的。 > 常见的网络暴力包括言语攻击、人身侮辱、人肉搜索、传播谣言等，那豆瓣就选择通过保护受害者的个人历史和隐私（隔绝窥视）、减少直接的言论攻击（预防骚扰）、降低二次传播的几率（控制传播）这几方面去重点防护，切断惯常网暴者对受害者信息收集和信息轰炸的链路。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/39a3ac2218b0400ca2a3adb4095e7380.jpeg) ▲ 豆瓣 打开这个模式，意味着他人无法查看你过去在社交网络留下的只言片语，也没办法根据你过去的互联网历史编造、再创作出侮辱性的内容。同时，那些最为恶毒的言语攻击也无法展现在你面前，私信、评论、转发的道路被堵住了，没人可以隔着屏幕给你的心扎上一刀。 人人都在说互联网的互联互通，但每一个平台的防网暴模式反而构建了一间难得的安全屋。用户在短时间内看到的内容都是经过处理审核的，恶语无法伤人，只能在屏幕后宣泄自己的恶意，而这些恶意也会受到惩罚。 已经有了越来越多的受害者通过诉讼维护了自己的合法权益，让网暴者赔偿、道歉。但诉讼的高成本和一句脱口而出的恶意似乎并不相抵，并非所有的受害者都愿意花时间精力去做这件事。平台在这个阶段也能发挥作用，不管是禁言处罚用户，还是给用户进行警告，平台干预的成本是更低的。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/1607822450208_5fd56c72159bb803c03a7740.jpeg) ▲ 被造谣出轨的受害者就选择通过诉讼维护自身权益 微博在上线「一键防护」模式外，就透露了平台正在开发建设行为监测模型的消息。有了模型的加持，平台可以通过分析用户不友善评论、举报数量频次等数据，准确识别网暴苗头，从机制上、源头上来解决问题。 > 在清理违规信息的同时，我们也会依据不同行为性质，采取阶梯式处置：针对参与网络暴力的账号，采取批量禁言、限制功能等处置，对首发、多发、煽动发布网暴信息的账号，采取永久禁言等措施，对涉嫌违法犯罪的，移交有关部门依法追究法律责任。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/124.jpeg) ▲ 微博 只是功能跟上了，宣传也得跟上。一位曾经因为一条内容问题而收到网友私信辱骂的人表示，她认为这个功能管用，但也质疑用户会不会主动打开它。 「其实专门私信骂我的就三个，但我都受不了，忍不住去看有没有支持的言论，看到其他人也在说我有问题就很 emo，那几天都很不爽。」提及自身经历，这位曾经接受过负面信息冲击的用户也提出了自己的质疑：「所以我觉得还有一个很重要的问题是，他们（用户）能不能知道这个功能，愿不愿意不看其他人的评论，打开这个功能？」 在防网暴模式上线没多久的今天，功能普及率和用户主动打开的意愿都属于未知。在这种时候，像微博、抖音这样可以主动出击的平台也能发挥自己的作用，前者引导用户打开这一功能，后者主动为用户在评论区构建一堵安全墙，让恶语无法攻破。微博就对爱范儿表示： > 我们也正在开发完善系统自动提醒机制，对高风险用户做出主动提醒，引导用户开启，进一步减少和预防用户遭受言论攻击的情况。 ![](https://s3.ifanr.com/wp-content/uploads/2022/04/original.jpeg) ▲ 图片来自：[Omidyar Network](https://www.omidyarnetwork.in/blog/can-a-browser-plug-in-reduce-gender-based-violence-online-centre-for-internet-and-society) 从为用户提供隐私设置的选择，到为防治网暴建立一套系统的升级方案，再通过宣传引导用户使用这一功能、了解这一功能，平台的变化经过了很多年。但这依旧可能是开始，而非结束，每一个平台在运营过程中也在收集用户的反馈，等待下一次的升级和迭代。 豆瓣也对爱范儿表示： > 这几个方向其实是对目前防护模式策略的一个概括，但并不是对于网络暴力治理措施的穷尽。 题图来自 [wikimedia](https://commons.wikimedia.org/wiki/File:Cyber_violence.jpg) ![](https://s3.ifanr.com/wp-content/uploads/2022/03/end-1024x132.png)