互联网公司怎么做,才能照亮社交平台里「相约自杀」这道阴影?

生活

01-30 16:08

2018 年 6 月,3 个 20 岁左右的年轻人曾通过社交平台相约在武汉一间出租屋里自杀。其中一个年轻人名为胡某,他的父亲胡建明(化名)在事后曾痛心疾首地问:聊这么久,网站不知道?

儿子去世后,46 岁的胡建明摸索着申请 QQ 账号,潜入「约死群」,在一个月的时间内加了 50 多个有自杀倾向的网友,劝说约 20 人放弃轻生的念头,并协助警方救回 4 个正在轻生的人。

从 2010 年的全国首例「QQ 相约自杀案」到 2018 年 QQ 群相约自杀,年轻用户通过网络平台上相约轻生,依然是社交网络里的一道阴影。

腾讯在 2018 年 7 月联合政府部门、专业心理咨询机构等,发起预防网络相约自杀的微光行动。这个计划在 2019 年 1 月中旬有了新的进展,就是腾讯与深圳公安局发布了全国首个救助自杀人群的绿色通道。

微光行动里的产品逻辑

据悉,腾讯从 2018 年 7 月开始尝试警企合作构建绿色生命通道,至今已经救助 35 人,封停了 2000 多个 QQ 群组账号,受理超过 2 万单举报。

在腾讯看来,网络平台上自杀自残问题的起因和人群主要分为两种。一种是对自杀自残类活动进行宣扬的用户,他们模仿国外自杀游戏,试图吸引其他猎奇用户的关注和参与。对于这类人群,平台主要根据举报进行严格打击。

另一种则是有自杀自残倾向的用户,他们多是在生活中面临困难或者压力,从而产生轻生的想法和行为。对于这类人群,平台根据用户举报,核实情况、收集信息后,进行报警救援。

与此同时,QQ 也上线了相关的救援资源和疏导渠道。当用户在 QQ 上搜索「自杀」「自残」等词语时,页面会出现北京心理危机研究与干预中心的心理咨询热线,以及如何帮助有自杀自残倾向的亲友、如何疏远压力等帮助信息。

在技术上,腾讯建立了一个 AI 模型对用户举报的证据和描述进行判定,标记出高危的举报记录。

为了防止用户自杀,互联网公司都做过什么

从世界卫生组织的数据看来,每 40 秒世界上就会发生一起自杀事件,自杀是 15-29 岁的年轻人中第二大死亡原因。全球最常见的自杀手段是喝农药、上吊和使用枪支。

参与微光行动救助的警方表示,容易产生轻生自残行为的群体,主要是有心理障碍如抑郁症等群体、社会弱势群体,以及处于应激情况中的人。

从搜索引擎到社交平台,互联网公司为了防止用户自杀也费过不少的劲。在一些搜索网站检索「如何自杀」这些词语时,我们可以在搜索结果中看到心理咨询电话以及一些援助机构的网址。

全球最大的社交平台 Facebook 在上线直播功能后,曾因没有及时排查到直播自杀的事件,一时陷入舆论漩涡。为了防止类似事件,Facebook 从 2016 年开始全面开放防自杀工具,后续还增加人工审核和 AI 防自杀系统

然而这个 AI 防自杀系统会对用户发布的视频、图片、文字信息进行扫描识别,因此也有人担心这样的做法会泄露隐私。

互联网里的「维特效应」

网络平台让人们的社交和写作能够跨越时空、空间,那些能够聚集人群、发布消息的网络空间,在某种程度上也具有公共属性。

上个世纪八十年代,社会学家大卫 · 飞利浦斯(David Phillips)的研究发现,当媒体在报刊上报道自杀新闻后,会引起社会中的自杀模仿现象(copycat suicide),又称为「维特效应」。

专业的媒体机构会把控自杀新闻的报道,然而如今网络的开放性、社群的私密性让「维特效应」以一种新的方式存在。甚至还会有人在网络空间里蛊惑他人轻生。

2017 年 2 月开始,俄罗斯社交网络上开始蔓延一种死亡游戏,引起大量青少年在网络上发布自残照片,并打上了 #BlueWhale(蓝鲸)的标签。

▲ 图片来自:Mirror

发起这种危险游戏的 Philip Budeikin 当时只有 21 岁,是一个心理学专业的学生。他从 2013 年开始在网络鼓动青少年自杀,在 2016 年底被俄罗斯警方逮捕。有调查显示,他承认至少与十多起在校学生的自杀案有关。

2018 年,一个名为「MOMO」的自杀游戏作为翻版的「蓝鲸游戏」又卷土重来。宣扬自杀自残的网站和页面依然存在,它们是互联网世界里一道几乎无法完全消除的阴影。

▲ 图片来自:Onedio

从 2009 年开始就陆续有研究显示,社交网络的使用与青少年的抑郁问题有关,重度沉迷社交网络的用户更容易患上抑郁症。2016 年世界经济论坛上公布的一项研究数据表明,在 19-32 岁的社交网络用户中:

比起那些不怎么在社交网络上耗费时间的同龄人,那些将自己大部分时间花在社交网络上的人,患上抑郁症的可能性是前者的 1.7 倍。这个数据已经控制了其他可能导致抑郁症的变量,包括家庭收入、教育层次、生活状况等。

继电视之后,互联网这项基础设施让 6 岁儿童、16 岁青年、60 岁老年人拥有同等的资格来感受网络所提供的一切信息,在享受信息去中心化和平等的同时,新一代成长起来的青少年也在更深刻地体会「童年的消逝」。

我们没法完全抛弃社交网络,对于「网络相约自杀」这类事件,提供社交平台的互联网公司也许在一些国家和地区的法律上并不需要承担责任,但在道德和公共舆论上依然难辞其咎。

然而我们需要明确的是,目前没有任何社会机构或者某项技术足够强大,能够完全地抵制互联网所带来的消极影响,我们享受互联网的便利,也必将需要面对互联网世界的风险。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中