雷军 AI 配音骂人在抖音疯传,本人怒了,警惕 Deepfake 泛滥的新时代
请问,长假 7 天,被 AI 用雷军的声音骂了 6 天,是什么体验?
雷军本人无辜躺枪,博主们在违法边缘试探或者已经违法,网友短暂地看了热闹然后回归工位,小米法务部两眼一黑,收不回手里的 40 米大刀。
声音克隆,这事其实已经不新鲜了,但泛滥成灾的后果,才刚刚显露端倪。
不只是玩梗,这次 AI 有点突破底线
最近,抖音、B 站有不少「雷军骂人」的视频,其实都是网友用 AI 克隆了雷军的声音整活,并且文案的套路也很类似,大概都有三个特点。
▲ 这是恶搞
开头直抒胸臆,言明身份,「大家好,我是雷军」。
▲这是恶搞
话题百无禁忌,打篮球、打麻将、打游戏不爽了,假期不知怎么就过完了,都借 AI 雷军之口吐槽和锐评。除了骂人,还口出狂言,说要投资几十个亿给某某大学。更过分者,用虚假信息抹黑品牌形象,比如用小米手机看黄片。
▲这是恶搞,相关搜索很有意思
语气温和但脏话不断,和雷军本人形成反差,一口一个老子、畜生,问候他人母亲,甚至造谣式威胁,声称远程控制小米手机自爆、用小米 su7 撞人。
▲ 这是恶搞
还有脑洞清奇的网友,用 AI 伪造雷军回应,前面画风正常,澄清事实,夸网友有才,让大家谨慎辨别,像雷军会说的话,后半段转折,图穷匕见,继续口吐芬芳,让人猝不及防。
雷军本人已经知道了被 AI 恶搞的事情,在小米 su7 锁单的微博评论区被网友提问时,回了三个感情色彩鲜明的 emoji。
小米集团公关部总经理王化同样在评论区答复网友,已将此事告知小米法务部。
雷军的形象一直比较平易近人,不介意玩自己的梗,入驻 B 站时配上了「成名曲」《Are you OK》,小米甚至推出了 Are you OK 手型的周边,但这次的性质显然不太一样。
玩梗归玩梗,过于低俗,甚至怀揣恶意,就不可取了。
这些视频不仅不强调是 AI,还言之凿凿说自己是雷军,配图用了真人照片,确实是在侵犯名誉权、肖像权、声音权的边缘试探,比起 AI 孙燕姿是否侵权更加明确。
目前在抖音搜索「雷军 AI 配音」,堂而皇之的脏话、造谣、骂街少了,但还是存活了一些「雷军就坐在我身边」的恶搞内容。
更正能量的也有,不得不卷的文旅账号,以「雷军」之口,邀请大家开着小米 su7 自驾,拿小米手机拍照,这难道不应该给雷总转点广告费?
AI 侵权尚且属于新事物,但也有前车之鉴可循。
今年 4 月,全国首例「AI 声音侵权案」一审宣判,明确认定,在具备可识别性的前提下,自然人声音权益的保护范围。可及于 AI 生成声音。
这里有个关键的概念,什么叫可识别性?除了声音的使用情况,本起侵权案还提到了一个接地气的评判标准:相关领域普通听众能否识别。
推广到雷军 AI 配音,这个标准应当也适用,很多视频虽然内容一听就不像雷军的风格,但声音确实和雷军本人相近。
总之,互联网不是法外之地,AI 也逃不过天网恢恢。别说什么技术中立,该承担责任的,还是使用工具的人类自己。
造假简单,但考虑过怎么亡羊补牢吗
AI 雷军声音的大规模传播,也说明了一个事实:克隆声音越来越简单。尽管维权团队出手了,但社交媒体上已经热闹好一阵了。
不像当初让 AI 孙燕姿唱歌要用 SoVITS 训练模型,有点专业门槛,比较考验设备性能,现在让某人说什么话,直接在网站上就能几乎实时生成。
▲声音克隆网站,有很多用户自行上传的 AI 角色
前段时间,直播头部公司三只羊还没走出「月饼门」,又陷入「录音门」,盖棺论定之后,也是 AI 的锅。
一段疑似三只羊高管的录音内容被曝光,内容拉低下限,涉及到多位高管和主播,但据警方调查,音频内容不实,是用 AI 伪造的。一时间人们无法相信,AI 这么强大了,都能制造酒后言论,把自己送到法制栏目了。
不可信其无,我简单尝试了一个声音克隆网站,注册邮箱即可使用,雷军 AI 声音是其中一个热门选项。
虽然生成的效果有些瑕疵,出现杂音、吞音,音质像电话那头传来的,但几乎实时生成,500 字内免费,语气、语调也比较自然,还要什么自行车?
▲又一个声音克隆网站
瑞莱智慧算法科学家陈鹏博士告诉 APPSO,之前捕捉我们的声纹信息,需要几分钟、几十分钟的语音,但现在可能半分钟、几十秒,就能捕捉个大概。多接几个骚扰电话,我们的声音或许就泄漏了。
不过,想要更精准地克隆,复制音调等说话风格,比如让郭德纲说英文相声、让霉霉讲中文,仍然需要更多的语料。
但论语料,名人可不缺。海外也发生过 AI 声音造假事件,甚至把主意打到了总统头上。
今年初,美国新罕布什尔州的居民,接到了拜登的自动语音电话,被告知不要在州初选时投票,实际上这段音频是用 AI 工具 ElevenLabs 伪造的,目的就是要干扰选举。
事发几天后,ElevenLabs 拉黑了始作俑者的账户,这位用户承认,克隆拜登的声音,他只花了不到 20 分钟,以及 1 美元。
ElevenLabs 也为此做了些防范措施,包括「No-Go Voices」,禁止用户上传或克隆某些名人和政客的声音。
然而,并不是铁板一块,今年 3 月,404 media 的一位记者发现,只需在上传文件的开头添加一分钟的沉默,就能绕过规则,克隆特朗普和拜登的声音。
也可以用魔法打败魔法,但 AI 检测软件经常拿 AI 生成的音频没办法。
NPR 的记者测试了三个检测软件,结果并不乐观,提交了 84 个样本,表现最好的软件错了 3 题,剩下的一个错了 20 题,一个正确率只有 50% 左右。
AI 雷军声音的事件中,还有一个很有意思的现象:除了在线呼叫法务部,也有网友表示,怎么平台不管一管,反让这种内容流行起来?
网信办 9 月发布的《人工智能生成合成内容标识办法(征求意见稿)》提出,AI 生成合成内容,应当添加显式标识和隐式标识,前者可被明显感知,后者添加在元数据中。
▲用户添加自主声明
其中,传播内容的平台,应当承担什么责任呢?
一是核验元数据有无隐式标识,如有,应添加显眼的提醒;二是没有核验到隐式标识,但用户声明是 AI 内容,也应该添加提醒;三是,既没有隐式标识,用户也没有声明,平台检测到了 AI 痕迹,同样需要添加提醒。
这次的闹剧就是一个例子,用户没有自主声明,平台的检测也不到位,有的视频标题下方提醒了「疑似使用了 AI 生成技术,请谨慎甄别」,有的却没检测出来。
▲上面没标注,下面标注了
今年初,泰勒·斯威夫特被 AI 伪造色情图片,也是名人被 AI 祸害的典型事件,同样反映了补救措施的滞后性。
其中一张图片在被删除前,在 X 存活了 17 个小时,被查看了 4700 万次。
X、Instagram 等社交媒体,除了删除照片,一度不允许搜索霉霉,或者在搜索时发出警告。粉丝们恨铁不成钢,自发「屠广场」,用真实照片保护偶像。
▲Instagram 对泰勒·斯威夫特的搜索警告
最近几个月,被称为韩国 N 号房 2.0 的大型 Deepfake 事件,闹得人尽皆知。
好消息是,韩国在 10 月 10 日通过了《关于处罚性暴力犯罪的特例法》修正案。
持有、购入、保存或收看 Deepfake 淫秽影像的人员,可被处三年以下有期徒刑或 3000 万韩元(约合人民币 15.75 万元)的罚金。
编辑、散布 Deepfake 淫秽影像的处罚力度,也从之前的五年以下有期徒刑,上调至七年以下有期徒刑。
哪怕只是参与了最终的消费环节,也会被法律惩罚,法律的与时俱进自然叫人拍手称快,但一个无奈的事实是,AI 技术越被广泛地使用,就越难防止被滥用。
当初用 Midjourney 生成的、穿上羽绒服的「时尚教皇」,让有图有真相成了过去时,此情此景,声音、视频也是类似的道理。
最细思极恐的是,技术持续进步,AI 可以「复刻」出越来越接近真实的、具备某种生物特征的个人。
我们的面部、个人信息,说泄露也就泄露了。同时,画风、音色,这些曾经有门槛、貌似独一无二的事物和技艺,也被 AI 学个八九不离十,哄骗普通人足够了。
今时今日,除了动用技术、法律的手段,我们或许不得不考虑,是不是该有一些道德的共识。君子有所为,有所不为。己所不欲,勿施于人。
当我们上网时,最好不要默认一切是真实的,更不要成为过界的始作俑者。我们不是在岸边凝视海水,我们也是上面的一叶扁舟。