担心 Deepfake?还是先担心断章取义的短视频吧

商业

01-03 15:19

当 Deepfake 这种技术开始被普通人所运用时,它的威力也开始显现。约 96% 为色情内容,这对那些莫名成为色情内容主角的人造成了困扰,而当它被用在选举等政治领域时,它的威力也丝毫没有减弱。

但对于大多数人来说,Deepfake 中涉及到的人工智能还是太遥不可及了。要打击「假」视频,还是先关注一下视频剪辑软件做出的「假」视频吧。

前美国副总统拜登最近的悲惨遭遇就喝视频剪辑造假有关。在那个「假」视频中,剪辑者断章取义地让这位总统候选人看起来像一个种族主义者:「我们的文化不是从非洲国家或亚洲国家引入的,我们的法律文化源于英国。」

这段剪辑的配文是「拜登宣称美国的欧洲身份:我们的文化不是从某个非洲国家引入的。」

群众的愤怒被这条 Twitter 点燃了,20 秒的短视频迅速获得了百万的点击量,且该视频还在迅速传播。民众在这条 Twitter 下面把拜登称为白人至上的种族歧视者,说他是右翼,疯狂地辱骂他、抨击他。

但在评论区仍有不少用户表示,这段视频删掉了拜登的部分内容,漏掉了重要的上下文,这使得拜登的意思被完全曲解了。CNN 的记者 Daniel Dale 就表示这是一个「假」视频:

一段断章取义的拜登视频在推特上流传。

拜登进行了十多分钟的演讲,讲述了他反对家暴和性侵的历史,他反复将其描述为一个「文化问题」,认为这可以追溯到宽松的英国法律历史。

他讲了一个过去英国法官容忍丈夫殴打妻子的故事。几分钟后,他回到了他的论点,即美国人对虐待妇女的纵容是从几个世纪前的英国人的纵容中衍生出来的。

▲ 图片来自:Wired

从这个角度来说,拜登的真实意图和视频剪辑者想要表达出的意思完全相反,但大家不会花时间去看更长的视频,去对信源进行一一验证,他们更愿意直接将对方定义为种族主义者。

我们现在更应该担心这类任何人都能「做」出的视频,通过断开前后文,忽略语境,断章取义,它可以让每个人的视频都成为被痛批的政治不正确视频。

而当每个平台都在用新的技术手段和运营手段来减少 Deepfake 视频的时候,平台对这类断章取义的视频却「束手无策」。

Twitter 的发言人就表示,拜登视频的热门推文并未违反公司的规定,他们正在制定一项新的政策来处理被操纵的视频。虽然缺少具体的限定原则,但 Twitter 仍会将其界定为被操纵的媒体内容

只是我们不清楚,Twitter 的信政策是否也能限制这类断章取义的视频。

Deepfake 的神奇之处在于无中生有,将你没有做过的事情用影像「证明」。它甚至能在真实的视频之上改变你的嘴形和表情,完全改变你想表达的状态和原意。

而断章取义的视频则不同,因为那些话都是你真真实实说出来的,你没办法拍桌子告诉其他人你没说过,你很难让别人知道你的原意被曲解。而围观群众哪有那么多的时间呢?他们把你定义为种族歧视者就走了。

不管是哪种「假视频」,对我们来说都很可怕。

政治学家 Emily Thorson 就表示人总是容易受到错误信息的影响。

我认为,现在真正的挑战在于社交媒体等新技术的即时性、范围和易传播性。

在什么情况下,人们更容易接受错误信息?弄清这个,会引出一些有趣的领域。

我们知道语境很重要,但认知、语言、社会和其他因素也会起作用。

题图来自 Seth Doyle on Unsplash

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中