• 媒体品牌
    爱范儿
    关注明日产品的数字潮牌
    APPSO
    先进工具,先知先行,AIGC 的灵感指南
    董车会
    造车新时代,明日出行家
    玩物志
    探索城市新生活方式,做你的明日生活指南
  • 知晓云
  • 制糖工厂
    扫描小程序码,了解更多

一夜爆火,这款换脸 App 可能会把你的脸「卖掉」

产品

2019-08-31 18:30

一夜之间,一款叫做 「ZAO」的换脸 app 火了。

朋友圈的张三李四,突然都拥有了一张「明星脸」,还跟爱豆们在屏幕里谈情说爱。

相信很多人对类似的换脸技术并不陌生,从将女明星变成小电影主角的 Deepfake ,到 B 站上朱茵变杨幂的换脸视频,类似的技术已经多次登上过热搜。

朱茵变杨幂,流量一个亿丨AI变脸指南

过去被换脸的对象多是公众人物,一个换脸视频的生成至少要几个小时。而现在只需要几秒钟,每个人都可以变成想要变成的人。

在 Deepfake 换脸刚刚兴起的时候,爱范儿曾设想当这种技术的门槛被降低后会走向何方。而现在随着 「ZAO」这样的换脸 app 面世,一个全民换脸的时代可能真的来了。

问题在于,这种超低门槛的换脸 app 会不会像之前的换脸工具一样走向不可控?

ZAO 换脸初体验:易上手、花样多,但还不够逼真

跟前段时间爆红的变脸软件 FaceApp 类似,ZAO 的操作也十分简单,用户只需要选定模板上传自拍,就能自动生成属于自己的换脸视频。

可比起 FaceApp 免费版数量有限的变脸滤镜,ZAO 可以选择的素材则要丰富得多,有合演、名场面、换装、爱豆同台等多种场景可以选择,甚至还细分到扮演的角色、剧情、演员和影视剧等。

我把自己的脸换到白展堂、谢尔顿等影视角色上,大概 10 秒左右就能生成一个视频,可能是因为缩短了时间,效果只能算一般。脸部与颈部的接痕隐约可见,尤其在头部运动时比较明显。

此外虽然能从换脸视频上看出自己的五官特征,但整体而言就不太像我自己了,远远不如此前朱茵变杨幂的视频逼真。

但 ZAO 能火起来,最关键的原因还是将换脸变成一键就能完成傻瓜式操作,大大降低了门槛,

除了视频,还能将你的脸换到各种表情包上,不过表情包的素材相对视频就没有那么丰富了。

除了花样更多,ZAO 跟此前的换脸 app 不一样的是,更加严格地限制了用户的图片上传。

如果用户使用的是未经本人肖像验证的图片,就只有 10 次的使用机会,生成的视频也会打上浮动的水印:「未经肖像权验证,此视频也无法保存」,就连截图和录屏也不行。

另外公众人物的照片也能被识别出来,爱范儿尝试使用一张黄晓明的照片来进行人脸识别,系统随即提示「疑似侵犯公众人物肖像权」。

ZAO 采取更加严格的认证机制,显然是为了防止这种换脸工具被恶意利用,不久前可以「一键脱衣」的 app「DeepNude」,就是在巨大争议和骂声中不得不全面下线。

然而,这样的上传认证和限制分享设计,就能让 ZAO 这款换脸 app 潜在的问题都扼杀在摇篮吗?

看似严格的认证机制背后,却藏着更大的猫腻

尽管 ZAO 采用了相对严格的认证机制,但有用户发现这款 app 的用户条款存在不少猫腻,在用户玩得不亦乐乎的时候,可能已经将自己的肖像权送给了别人。

在 ZAO 用户协议里,有这样一条:

在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予 zao 及其关联公司以及zao用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑..……以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。

法律工作者@法山叔 指出,这意味着 ZAO 不仅可以免费使用你的肖像,无论是动态的还是静态的,而且还有权将你的肖像权有偿或无偿授予第三方。

简单来说,想要使用 ZAO 换脸,先得把你的脸无条件交出来。

▲ 目前 ZAO 因为访问量过大已无法正常使用

不止如此,为了规避侵犯肖像权和影视版权风险, ZAO 还试图在用户协议里将这个锅甩给了用户。

再来看看 ZAO 用户协议,其中第6条第 2 款明确规定:

如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。

翻译成人话就是,你用别人的脸之前,要先保证别人也同意将自己的脸免费交给我们哦。

那如果真的侵犯了别人权益怎么办,第七条第 7 款就说了:

若您侵害他人名誉权、肖像权、知识产权等合法权利的…ZAO 可以诉诸行政执法机构或司法机关,追究相应法律责任。若因您违反本协议或 ZAO 平台的其他规则导致任何第三方损害的,您应当独立承担法律责任并承担损害赔偿责任;ZAO 及其关联公司遭受损失的,您也应当一并赔偿。

也就是说,如果我在 app 里把葛优的脸换成我的,葛优来告 ZAO,ZAO 也可以对你说:「亲,你怎么没有事先征求葛优的同意啊?现在要赔人家 100 万,这笔钱得你来付。」

通过这一纸协议,ZAO 可谓是占尽了便宜又撇清了风险。正如@法山叔所说,「从来没见过如此明目张胆攫取用户权利的用户协议。」

更可怕的是,目前 ZAO 已经登上了 App Store 免费榜的第二位和娱乐免费榜的榜首,大量用户也许在毫不知情的情况下就将自己的肖像权拱手让人。

无论 ZAO 能走多远,鉴别换脸视频的技术越来越重要了

除了公众人物外,一般人对于肖像权可能并不太敏感,毕竟我们平时就在各种开放网络平台发布自己的照片。

但换脸 app 不太一样,它采集的是动态的、更多细节的人脸信息,如今人脸识别在智能手机上十分普遍,有人开始担心不法分子会利用这些人脸信息进行犯罪,比如破解刷脸支付进行盗刷。

▲图片来自:蛋蛋赞

那么 AI 换脸视频有可能破解刷脸支付吗?支付宝的工作人员告诉爱范儿,不管网上各类换脸软件换的有多逼真,都是无法突破刷脸支付的。

「刷脸支付」采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。

不过这种担忧未必是杞人忧天,曾有研究人员尝试用 Deepfakes 视频来测试的人脸识别系统,用的还是比较领先的基于 VGG 和 Facenet 神经网络人脸识别系统,结果显示误识率分别达到 85.62% 和 95.00%。

当然能骗过人脸识别系统的 Deepfakes 视频质量要比一般的换脸 app 更高,但至少说明这个可能性是存在的,或许 ZAO 会是又一款月抛型的爆款应用,但提升鉴别换脸视频的技术越来越有必要了。

其实目前已经有研究团队采用生成式对抗网络(GAN)来鉴别换脸视频 ,以 AI 对抗 AI。前不久加州大学伯克利分校和南加州大学的研究团队就开发了一套 AI 鉴别系统,先通过生成式对抗网络,提取特朗普、希拉里和奥巴马等人的面部、头部运动特征,合成假视频。

随后再用机器学习分析真假视频的差异,从而得到每个人的「软性生物特征」(soft biometric signature),识别出细微的动作特征,这种检测工具识别 Deepfake 视频的准确率达到 95%,研究人员希望能在未来半年内提升至 99%。

不过这种利用 AI 对抗 AI 的鉴别方式也存在问题,因为生成式对抗网络的原理就是让两套神经网络在相互博弈中学习,随着鉴别技术的提升,假视频的质量也会进一步提高,两者永远处在不断的对抗当中,谁也无法彻底打败谁。

▲ 图片来自:allure

另一个不太令人乐观的事实是,相比起 AI 换脸技术的研发,鉴别技术的科研力量显得有点势单力薄。加州大学伯克利分校的计算机科学家 Hany Farid 也指出,目前研究合成视频和鉴别的人数是 100:1,

据称 ZAO 一夜爆红后,已经吸引了大批风投机构的关注,一大批「复制品」已经在排队上线。天下熙熙,皆为利来,换脸可能带来的商机让资金蜂拥而至,进一步推动换脸技术的进步。

因此,仅仅依靠现有的技术可能难以避免  AI 换脸走向失控, Hany Farid 的建议也许值得参考:

解决方法不能只靠技术,还需要媒体专业的报道,以及更好的数字公民、公司和政策。

如何彻底清除 ZAO 上的人脸信息?

对于已经在 ZAO 上体验过换脸的用户也不必过于担心,爱范君告诉你一个快捷注销账号,清除人脸信息的方法:

  • 点击右上角头像
  • 进入隐私协议,拉至页面底部
  • 点击「申请注销账号」
  • 点击「开始注销页面」,通过手机号认证后完成注销

注销账号后,所有上传的面孔信息都会被删除,不过同一手机号未来 30 天内无法再次注册。

题图来自:YouTube

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中