要打击「换脸」假视频,Facebook 先自己造了一堆假视频

公司

09-06 11:10

虽然 Deepfake 技术存在已经有好些日子了,但对于中国的普通网民来说,最近的「换脸」软件 ZAO 才真正让普罗大众首次体验到这个技术的能耐和潜在危害。

▲ ZAO 的「换脸」效果,图片来自 Twitter

好消息是,国外针对 Deepfake 视频的鉴别技术研究已在进行中。此前,我们曾报道过「修图鼻祖」Adobe 在相关领域的研究成果,也有科学家尝试通过老鼠等小动物来辨别伪造视频和音频。

今天,Facebook 正式宣布,他们将联手微软、Partnership on AI 组织(由 Google、Facebook、亚马逊、IBM 和微软组成),以及来自康奈尔科技园、MIT、牛津大学、加州大学伯克利分校等高校的学者,举办名为「Deepfake 侦查挑战(Deepfake Detection Challenge)」,简称为「DFDC」。

简单来说,该竞赛的目标是「制造人人都能使用,用于更好地鉴别经过 AI 处理过,用于误导观众的视频的工具」,将今年 10 月正式开启,接受来自世界各地参赛者的报名。

有个问题是,开发者能用什么数据训练算法?

网络上大部分存在的 Deepfake 视频都是网民在未经他人同意的情况下用于生成假视频的,采用这些数据某些程度上也在二次侵犯个人信息隐私。

此外,Facebook CTO Mike Schroepfer 对《连线》表示,一般情况下,如果算法曾「看过」原始视频,它们甄别假视频的能力会大大提高—— 就像我们因原本就看过 ZAO 中使用的影视剧片段,也能更容易看出视频是伪造的。

万一造假者使用的原始视频,并不是来自于网络或影视剧,而是由他们自己拍摄的原创视频,这样一来,「看过」原始视频训练出来的算法就不一定能判断其真伪。因此,Facebook 一开始就将鉴别门槛设在了「基于原创原始视频制的假视频」。

为解决以上两个问题,Facebook 决定自主制造一大批 Deepfake 假视频,提供给参赛者训练算法。

这些由 Facebook 制造的假视频,统统将采用 Facebook 雇用的演员拍摄的原创视频作为二次处理(造假)的原材料,而且这些演员对这些原创视频的用途也是知情并同意的。

▲ Facebook 放出的示例视频,图片来自 Facebook

该数据组将首先于今年 10 月的「国际计算机视觉大会(ICCV)」上进行测试,以确保其质量,然后再于 12 月的「神经信息处理系统大会(NeurIPS)」上正式完整地提供给参赛者。

滥用用户数据前科多多的 Facebook,在官方说明中表示「没有任何 Facebook 用户的数据将用于该数据组」。除了提供训练数据,Facebook 也投入超过一千万美元支持该活动。

值得指出的是,官方声明在最后点出,这个是「持续进化的问题」,而这个竞赛的目标也不是创造一个可永久制止 Deepfake 假视频的解决方案,而是让创造可以骗过人的造假视频的成本更高。

通过支持这个竞赛活动,Facebook 可以说也是在补救公司此前在假视频处理立场上引来的质疑。

今年,Facebook 上出现了美国议员 Nancy Pelosi 的 Deepfake 假视频,当时,Facebook 官方表态是,他们不会删除这些假视频,但会降低它们传播的优先级。

题图来自 MediaMatters

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

用 iPhone 8 的我还是不时拿不稳手机。工作邮箱:fangjiawen@ifanr.com

本篇来自栏目

解锁订阅模式,获得更多专属优质内容