人工智能打不过人工

编者按：本文转载自公众号 keso 怎么看（微信 ID：kesoview），转载已获得作者授权。

2017 年 12 月 29 日，北京市网信办约谈今日头条和凤凰新闻负责人，责令两家部分频道暂停内容更新，原因是“持续传播色情低俗信息、违规提供互联网新闻信息服务”。

这两家采用的是完全不同的模式，凤凰新闻手机客户端基本上是编辑主导的“传统”新闻资讯服务，今日头条则是算法主导的个性化内容推荐服务。凤凰新闻“头条”、“推荐”两个频道被责令暂停更新 12 小时，今日头条“推荐”、“热点”、“社会”、“图片”、“问答”、“财经”等 6 个频道被责令暂停更新 24 小时，显然今日头条受到的处罚更重。被处罚后，这两家引起的公众关注度也不在一个量级，同样遭受处罚的凤凰新闻几乎被大家忽略了。

12 月 31 日，今日头条宣布关闭“社会”频道，并将“新时代”频道设置为默认频道，同时封禁、禁言涉嫌违规的自媒体账号 1101 个。新年上班后，有人发现今日头条开始大规模招聘内容审核编辑，要求本科及以上学历，党员优先。

（今日头条的招聘信息）

每个内容审核编辑每天需要审核 1000 条左右内容，月薪只有 4000-6000 元。传统的内容编辑决定你能看到什么，今日头条的内容审核编辑则决定你看不到什么，传统内容编辑干的是沙里淘金的活儿，比较容易让人产生成就感，今日头条的内容审核编辑干的是沙里淘垃圾的活儿，能让自己不恶心就已经很难得了。

我感到好奇的是，一名本科毕业生，怎样才能爱上一份做内容审查的工作呢？怎样才能做到每天被负能量包围却不会产生心理问题呢？也许只有共产党员才经得起这样的考验。

几年前，一位离职的新浪微博审核编辑，也就是俗称的“微博小秘书”曾对记者说：“这是一份高压的，无望的工作。”大部分小秘书都会在一年之内离职。

当然，跟技术背景的头条不同，媒体背景的新浪微博原本就不是一家以技术见长的公司，内容审核基本上是依赖简单粗暴的敏感词过滤，加微博小秘书人工审核。微博从第一天就明白，人工审核是唯一靠谱的、安全的手段，今日头条却是在固执地摔完所有的跟头之后，才搞懂安全比技术重要的道理。

今日头条创始人张一鸣曾经不厌其烦地强调，“今日头条不是一家媒体公司，而是一家具有媒体属性的技术公司”。在被问到今日头条是否需要总编辑时，他曾如此回答：“如果头条有主编，他不可避免会按照自己的喜好去选择内容，而我们做的就是不选择。”他特别自豪于公司人员构成中产品和技术人员的超高占比，他也特别自信于公司在机器学习和人工智能领域的强大实力。

张一鸣曾谈到，内容编辑、议程设置这些曾经掌握在传统媒体手中的权力，已经到了让渡给新主人的时候了：

我认为主流的方式有两种，一种是把权力让渡给社交关系，让每个人推荐自己喜欢的内容给朋友，大家一起来干编辑的工作，同时也消费朋友推荐的内容；第二种是把权力让渡给算法，让算法来识别你的喜好，推荐你可能感兴趣的内容。

备受张一鸣推崇的算法，让他一边收获着高速增长的用户数、用户使用时长、广告收入和公司估值，一边给他捅了个色情低俗的大娄子。人工智能让今日头条越来越大，却无法保佑它的安全，张一鸣也不得不回过头来求助于人工。

一旦你开始习惯依赖人工解决问题，你就会发现这么干越来越顺手，而且成本并不特别高，关键是安全。没有什么问题是通过增加人手解决不了的，如果解决不了，那就增加更多人手。今日头条副总编辑李彤在接受媒体采访时称，今日头条内容审核编辑团队人数已经超过 4000 人（含海外产品），团队人员的平均年龄为 26 岁，党员占比达 15%。将来这一数字还会突破 10000 人，审核团队占比将超过员工总数的一半。

不是媒体的今日头条，正在组建全国最大的编辑队伍，这并不是一个笑话。

其实也不光是中国，YouTube 的推荐系统向小孩子推荐儿童不宜的内容，让 Google 饱受非议；2016 年美国大选期间，俄罗斯利用 Facebook 的广告系统散布假新闻影响大选结果，让 Facebook 成为众矢之的。

崇尚技术，相信人工智能的互联网巨头，面对来自各界的质疑，不得不把问题交给人工来解决。据国外媒体报道，内容审查岗位已经成为科技界增长最快的工作岗位，Facebook、YouTube 都添加了数量庞大的内容审核人员，部分是正式雇员，部分是外包劳务。去年底，Facebook 的内容审核人员数量已达 7500 人，预计今年底将达到两万人。Google 也打算将 YouTube 内容审核团队的人数扩充到1万人。

于是，一个奇特的景观出现了，像富士康那样的劳动力密集型的制造业巨头，正在走向智能化、无人化；而像 Google、Facebook 和今日头条这样的智力密集的互联网巨头，却在日益变成劳动力密集型企业。

（新闻客户端的“新时代”）

不过，我并不认为今日头条的人工和 Google 跟 Facebook 的人工是一回事，如果说后者面临的是来自社会公众的压力，是对自身技术缺陷的弥补，前者面临的更像是来自大家长的压力，是对自身生死的忌惮。就像人民网的评论一针见血指出的，“如果新的媒体平台，只是为了让低俗化、媚俗化、娱乐化的信息更加便捷传播，如果新的技术，只会降低人的思考能力和审美水平，这样的媒介形态和产品创新必将在社会发展中被淘汰。”

我不禁想起 2016 年在接受《财经》杂志专访时，张一鸣说过的那段特别具有张一鸣色彩的话：