# Facebook 要开发芯片，由 AI 版主来管暴力直播 - 作者：潘劲虹 - 发布时间：2018-05-31 17:38 - 分类：公司 - 原文：https://www.ifanr.com/1041327 直播很受欢迎，直播也很受争议，除了脱衣服、造谣、造假炒作外，直播平台涌入了更可怕的暴力、谋杀、自杀内容。 2017 年，Facebook度过了一个[血腥的复活节](https://www.thesun.co.uk/news/3359298/cleveland-facebook-shooting-killer-steve-stephens-video-online/)，一个男子在上面直播开枪杀人。 ![](https://s3.ifanr.com/wp-content/uploads/2018/05/live.jpeg) 发生了恶劣的直播杀人事件后，各大在线媒体平台都在开发“暴力标记算法”，Facebook 近日[宣布](https://www.bloomberg.com/news/articles/2018-05-25/facebook-is-designing-its-own-chips-to-help-filter-live-videos)要研发 AI 芯片来发现、标记、过滤此类直播视频。 ### 社交媒体公司自己造芯片 升级软件已经不能满足 Facebook 的需求，更强大的算法需要定制化 AI 芯片来支撑。虽然有大量的公司（英特尔，三星，Nvidia 等）在开发节能芯片，但 Facebook [决定自己来](https://www.bloomberg.com/news/articles/2018-04-18/facebook-is-forming-a-team-to-design-its-own-chips)。Facebook 的首席人工智能科学家 Yann LeCun 表示： > 越来越多的智能手机配备了功能强大的芯片，可让用户直接在其设备上利用语音识别，增强和虚拟现实以及图像和视频处理功能。这种趋势将会增长，促使更多以软件为根本的公司考虑硬件。 Facebook 最近[宣布](http://www.ifanr.com/1037344)可以通过主动上传裸照，生成数字指纹（digital footprint），AI 通过识别数字指纹禁止其他人上传，以这个系统打击“[色情报复](http://www.bbc.com/news/uk-england-36054273)”。 与裸露照片相比，暴力视频的识别则困难许多。AI 难以辨别内容是在传播暴力、有自杀倾向，还是仅仅在开玩笑。除了搜索信息，AI 需要具备结合语境分析内容的能力。 ![](https://s3.ifanr.com/wp-content/uploads/2018/05/ai.jpg) （图片来源：[Fortune](http://fortune.com/facebook-machine-learning/)） ### 目前的监控不及时，而且很耗能 Facebook 目前的监控系统由 AI 系统和人类版主组成，在运用传统的算法下，这种监控方式需要耗费大量的能源和人力成本。 视频网站的审核力度和审核时间难以取得平衡。在目前的条件下，加大审核力度必然会减慢审核的速度，审核时间过长会导致用户流失。假设一个博主上传视频审核需要三天，会惹来粉丝的强烈控诉，严重影响博主的收入。 要打击暴力犯罪，内容审核速度更至关重要。在“复活节屠杀”事件中，凶手在直播杀人前曾经发布“预告视频”，但该视频并没有引起重视，他的暴行没能被及时发现并制止。 “杀人视频”在 Facebook 上逗留超过两小时，足够被下载并上传到其他平台，扩大犯罪的传播范围。 ![](https://s3.ifanr.com/wp-content/uploads/2018/05/yishu.png) （黄子华给想自杀者的忠告，图片来源：[哔哩哔哩](https://www.bilibili.com/video/av20841230?from=search&seid=17042813764979102299)） 2018 年 5 月 20 日，一个女生在微博[预告全家自杀](https://www.zhihu.com/question/278008212/answer/397753597)，引起网友关注，最终被抢救回来。这不是微博出现的第一封遗书，网络时代生长起来的这一代人，遗书也喜欢“留”在网络上。 虽然这种对待生命的方式不可取，其中也不乏[“自杀恶作剧”](https://cn.lifeyet.com/article/2x6az09s/%E5%B0%8F%E5%A5%B3%E7%94%9F%E6%95%85%E6%84%8F%E5%9C%A8%E7%A4%BE%E7%BE%A4%E7%B6%B2%E7%AB%99po%E6%96%87-%E6%88%91%E8%A6%81%E8%87%AA%E6%AE%BA-%E6%83%A1%E4%BD%9C%E5%8A%87)和儿戏的遗书，但这种“自杀预告”也给自杀者带来被抢救的机会，重要的是及时被发现。 拥有更强“暴力标记算法”的 AI 版主是未来的趋势，不仅能及时报告问题，阻止暴力和自杀行为，还能降低能源和人力成本。 ![](https://s3.ifanr.com/wp-content/uploads/2018/05/Fblive.jpg) （图片来源：[Innovation Village](https://innovation-village.com/facebook-live-video-streaming-horrifying-side/)） 2016 年底我国的[《互联网直播服务管理规定》](https://baike.baidu.com/item/%E4%BA%92%E8%81%94%E7%BD%91%E7%9B%B4%E6%92%AD%E6%9C%8D%E5%8A%A1%E7%AE%A1%E7%90%86%E8%A7%84%E5%AE%9A)出台，平台配合相关部门进行直播[内容整治](http://www.xinhuanet.com/zgjx/2018-03/02/c_137010546.htm)，但从目前的情况，色情、暴力、谣言、诈骗等内容还没彻底从直播平台消失。 2017 年 10 月 26 日，电竞选手“死亡宣告”在游戏直播中“疑似”殴打女友，被警方以涉嫌暴力伤害带回调查，后英雄联盟官方决定对他禁赛 20 个月处分，且多个直播平台封禁他的账号。 网络上看到暴力行为不会比现实生活多，但暴力通过直播传播，会带来更广的社会影响。在直播中施暴，死亡宣告”宣告”了自己职业生涯的死亡。 ![](https://s3.ifanr.com/wp-content/uploads/2018/05/beat.jpg) （死亡宣告直播画面，图片来源：[TechWeb](http://www.techweb.com.cn/shoujiyouxi/2017-10-27/2598532.shtml)） 最近又发生了直播筹款被网友质疑的[“眼癌女童小凤雅事件”](https://weibo.com/a/hot/7556288795416577_1.html?type=new)，直播平台打赏牵扯进了“筹款真实性”的社会舆论中。 土味直播有点可爱，但暴力直播很可憎，“儿戏的”自杀直播消耗网友的善心，直播内容监管还有很多功课要做，无论是制度还是监管技术。 题图来源：[网易](https://3g.163.com/tech/article/CIUNCOMV00097U7R.html)