要打击「换脸」假视频，Facebook 先自己造了一堆假视频

虽然 Deepfake 技术存在已经有好些日子了，但对于中国的普通网民来说，最近的「换脸」软件 ZAO 才真正让普罗大众首次体验到这个技术的能耐和潜在危害。

好消息是，国外针对 Deepfake 视频的鉴别技术研究已在进行中。此前，我们曾报道过「修图鼻祖」 Adobe 在相关领域的研究成果，也有科学家尝试通过老鼠等小动物来辨别伪造视频和音频。

今天，Facebook 正式宣布，他们将联手微软、Partnership on AI 组织（由 Google、Facebook、亚马逊、IBM 和微软组成），以及来自康奈尔科技园、MIT、牛津大学、加州大学伯克利分校等高校的学者，举办名为「Deepfake 侦查挑战（Deepfake Detection Challenge）」，简称为 「DFDC」。

简单来说，该竞赛的目标是「制造人人都能使用，用于更好地鉴别经过 AI 处理过，用于误导观众的视频的工具」，将今年 10 月正式开启，接受来自世界各地参赛者的报名。

有个问题是，开发者能用什么数据训练算法？

网络上大部分存在的 Deepfake 视频都是网民在未经他人同意的情况下用于生成假视频的，采用这些数据某些程度上也在二次侵犯个人信息隐私。

此外，Facebook CTO Mike Schroepfer 对《连线》表示，一般情况下，如果算法曾「看过」原始视频，它们甄别假视频的能力会大大提高—— 就像我们因原本就看过 ZAO 中使用的影视剧片段，也能更容易看出视频是伪造的。

万一造假者使用的原始视频，并不是来自于网络或影视剧，而是由他们自己拍摄的原创视频，这样一来，「看过」原始视频训练出来的算法就不一定能判断其真伪。因此，Facebook 一开始就将鉴别门槛设在了「基于原创原始视频制的假视频」。

为解决以上两个问题，Facebook 决定自主制造一大批 Deepfake 假视频，提供给参赛者训练算法。

这些由 Facebook 制造的假视频，统统将采用 Facebook 雇用的演员拍摄的原创视频作为二次处理（造假）的原材料，而且这些演员对这些原创视频的用途也是知情并同意的。

该数据组将首先于今年 10 月的「国际计算机视觉大会（ICCV）」上进行测试，以确保其质量，然后再于 12 月的「神经信息处理系统大会（NeurIPS）」上正式完整地提供给参赛者。

滥用用户数据前科多多的 Facebook，在官方说明中表示「没有任何 Facebook 用户的数据将用于该数据组」。除了提供训练数据，Facebook 也投入超过一千万美元支持该活动。

值得指出的是，官方声明在最后点出，这个是「持续进化的问题」，而这个竞赛的目标也不是创造一个可永久制止 Deepfake 假视频的解决方案，而是让创造可以骗过人的造假视频的成本更高。

通过支持这个竞赛活动，Facebook 可以说也是在补救公司此前在假视频处理立场上引来的质疑。

今年，Facebook 上出现了美国议员 Nancy Pelosi 的 Deepfake 假视频，当时，Facebook 官方表态是，他们不会删除这些假视频，但会降低它们传播的优先级。

题图来自 MediaMatters