# 雷军 AI 配音骂人在抖音疯传，本人怒了，警惕 Deepfake 泛滥的新时代 - 作者：张成晨 - 发布时间：2024-10-09 12:31 - 分类：商业 - 原文：https://www.ifanr.com/1601626 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/lei77.jpeg) 请问，长假 7 天，被 AI 用雷军的声音骂了 6 天，是什么体验？ 雷军本人无辜躺枪，博主们在违法边缘试探或者已经违法，网友短暂地看了热闹然后回归工位，小米法务部两眼一黑，收不回手里的 40 米大刀。 声音克隆，这事其实已经不新鲜了，但泛滥成灾的后果，才刚刚显露端倪。 ### 不只是玩梗，这次 AI 有点突破底线 最近，抖音、B 站有不少「雷军骂人」的视频，其实都是网友用 AI 克隆了雷军的声音整活，并且文案的套路也很类似，大概都有三个特点。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/lei3.jpg) ▲ 这是恶搞 开头直抒胸臆，言明身份，「大家好，我是雷军」。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/lei11.jpeg) ▲这是恶搞 话题百无禁忌，打篮球、打麻将、打游戏不爽了，假期不知怎么就过完了，都借 AI 雷军之口吐槽和锐评。除了骂人，还口出狂言，说要投资几十个亿给某某大学。更过分者，用虚假信息抹黑品牌形象，比如用小米手机看黄片。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/lei9.jpg) ▲这是恶搞，相关搜索很有意思 语气温和但脏话不断，和雷军本人形成反差，一口一个老子、畜生，问候他人母亲，甚至造谣式威胁，声称远程控制小米手机自爆、用小米 su7 撞人。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/lei6.jpg) ▲ 这是恶搞 还有脑洞清奇的网友，用 AI 伪造雷军回应，前面画风正常，澄清事实，夸网友有才，让大家谨慎辨别，像雷军会说的话，后半段转折，图穷匕见，继续口吐芬芳，让人猝不及防。 雷军本人已经知道了被 AI 恶搞的事情，在小米 su7 锁单的微博评论区被网友提问时，回了三个感情色彩鲜明的 emoji。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/wei1.jpg) 小米集团公关部总经理王化同样在评论区答复网友，已将此事告知小米法务部。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/wahua1.jpg) 雷军的形象一直比较平易近人，不介意玩自己的梗，入驻 B 站时配上了「成名曲」《Are you OK》，小米甚至推出了 Are you OK 手型的周边，但这次的性质显然不太一样。 玩梗归玩梗，过于低俗，甚至怀揣恶意，就不可取了。 这些视频不仅不强调是 AI，还言之凿凿说自己是雷军，配图用了真人照片，确实是在侵犯名誉权、肖像权、声音权的边缘试探，比起 AI 孙燕姿是否侵权更加明确。 目前在抖音搜索「雷军 AI 配音」，堂而皇之的脏话、造谣、骂街少了，但还是存活了一些「雷军就坐在我身边」的恶搞内容。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/wenlv1.jpg) 更正能量的也有，不得不卷的文旅账号，以「雷军」之口，邀请大家开着小米 su7 自驾，拿小米手机拍照，这难道不应该给雷总转点广告费？ AI 侵权尚且属于新事物，但也有前车之鉴可循。 今年 4 月，全国首例「AI 声音侵权案」一审宣判，明确认定，在具备可识别性的前提下，自然人声音权益的保护范围。可及于 AI 生成声音。 这里有个关键的概念，什么叫可识别性？除了声音的使用情况，本起侵权案还提到了一个接地气的评判标准：相关领域普通听众能否识别。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/vanityfair.jpg) 推广到雷军 AI 配音，这个标准应当也适用，很多视频虽然内容一听就不像雷军的风格，但声音确实和雷军本人相近。 总之，互联网不是法外之地，AI 也逃不过天网恢恢。别说什么技术中立，该承担责任的，还是使用工具的人类自己。 ### 造假简单，但考虑过怎么亡羊补牢吗 AI 雷军声音的大规模传播，也说明了一个事实：克隆声音越来越简单。尽管维权团队出手了，但社交媒体上已经热闹好一阵了。 不像当初让 AI 孙燕姿唱歌要用 SoVITS 训练模型，有点专业门槛，比较考验设备性能，现在让某人说什么话，直接在网站上就能几乎实时生成。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/rui1.jpg) ▲声音克隆网站，有很多用户自行上传的 AI 角色 前段时间，直播头部公司三只羊还没走出「月饼门」，又陷入「录音门」，盖棺论定之后，也是 AI 的锅。 一段疑似三只羊高管的录音内容被曝光，内容拉低下限，涉及到多位高管和主播，但据警方调查，音频内容不实，是用 AI 伪造的。一时间人们无法相信，AI 这么强大了，都能制造酒后言论，把自己送到法制栏目了。 不可信其无，我简单尝试了一个声音克隆网站，注册邮箱即可使用，雷军 AI 声音是其中一个热门选项。 虽然生成的效果有些瑕疵，出现杂音、吞音，音质像电话那头传来的，但几乎实时生成，500 字内免费，语气、语调也比较自然，还要什么自行车？ ![](https://s3.ifanr.com/wp-content/uploads/2024/10/lei55.jpg) ▲又一个声音克隆网站 瑞莱智慧算法科学家陈鹏博士告诉 APPSO，之前捕捉我们的声纹信息，需要几分钟、几十分钟的语音，但现在可能半分钟、几十秒，就能捕捉个大概。多接几个骚扰电话，我们的声音或许就泄漏了。 不过，想要更精准地克隆，复制音调等说话风格，比如让郭德纲说英文相声、让霉霉讲中文，仍然需要更多的语料。 但论语料，名人可不缺。海外也发生过 AI 声音造假事件，甚至把主意打到了总统头上。 今年初，美国新罕布什尔州的居民，接到了拜登的自动语音电话，被告知不要在州初选时投票，实际上这段音频是用 AI 工具 ElevenLabs 伪造的，目的就是要干扰选举。 事发几天后，ElevenLabs 拉黑了始作俑者的账户，这位用户承认，克隆拜登的声音，他只花了不到 20 分钟，以及 1 美元。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/fortune1.jpg) ElevenLabs 也为此做了些防范措施，包括「No-Go Voices」，禁止用户上传或克隆某些名人和政客的声音。 然而，并不是铁板一块，今年 3 月，404 media 的一位记者发现，只需在上传文件的开头添加一分钟的沉默，就能绕过规则，克隆特朗普和拜登的声音。 也可以用魔法打败魔法，但 AI 检测软件经常拿 AI 生成的音频没办法。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/wang1.jpg) NPR 的记者测试了三个检测软件，结果并不乐观，提交了 84 个样本，表现最好的软件错了 3 题，剩下的一个错了 20 题，一个正确率只有 50% 左右。 AI 雷军声音的事件中，还有一个很有意思的现象：除了在线呼叫法务部，也有网友表示，怎么平台不管一管，反让这种内容流行起来？ 网信办 9 月发布的《人工智能生成合成内容标识办法（征求意见稿）》提出，AI 生成合成内容，应当添加显式标识和隐式标识，前者可被明显感知，后者添加在元数据中。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/sheng2.jpg) ▲用户添加自主声明 其中，传播内容的平台，应当承担什么责任呢？ 一是核验元数据有无隐式标识，如有，应添加显眼的提醒；二是没有核验到隐式标识，但用户声明是 AI 内容，也应该添加提醒；三是，既没有隐式标识，用户也没有声明，平台检测到了 AI 痕迹，同样需要添加提醒。 这次的闹剧就是一个例子，用户没有自主声明，平台的检测也不到位，有的视频标题下方提醒了「疑似使用了AI生成技术，请谨慎甄别」，有的却没检测出来。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/lei10.jpg) ▲上面没标注，下面标注了 今年初，泰勒·斯威夫特被 AI 伪造色情图片，也是名人被 AI 祸害的典型事件，同样反映了补救措施的滞后性。 其中一张图片在被删除前，在 X 存活了 17 个小时，被查看了 4700 万次。 X、Instagram 等社交媒体，除了删除照片，一度不允许搜索霉霉，或者在搜索时发出警告。粉丝们恨铁不成钢，自发「屠广场」，用真实照片保护偶像。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/mei1.jpg) ▲Instagram 对泰勒·斯威夫特的搜索警告 最近几个月，被称为韩国 N 号房 2.0 的大型 Deepfake 事件，闹得人尽皆知。 好消息是，韩国在 10 月 10 日通过了《关于处罚性暴力犯罪的特例法》修正案。 持有、购入、保存或收看 Deepfake 淫秽影像的人员，可被处三年以下有期徒刑或 3000 万韩元（约合人民币 15.75 万元）的罚金。 编辑、散布 Deepfake 淫秽影像的处罚力度，也从之前的五年以下有期徒刑，上调至七年以下有期徒刑。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/korea1.jpg) 哪怕只是参与了最终的消费环节，也会被法律惩罚，法律的与时俱进自然叫人拍手称快，但一个无奈的事实是，AI 技术越被广泛地使用，就越难防止被滥用。 当初用 Midjourney 生成的、穿上羽绒服的「时尚教皇」，让有图有真相成了过去时，此情此景，声音、视频也是类似的道理。 ![](https://s3.ifanr.com/wp-content/uploads/2024/10/tou1.jpg) 最细思极恐的是，技术持续进步，AI 可以「复刻」出越来越接近真实的、具备某种生物特征的个人。 我们的面部、个人信息，说泄露也就泄露了。同时，画风、音色，这些曾经有门槛、貌似独一无二的事物和技艺，也被 AI 学个八九不离十，哄骗普通人足够了。 今时今日，除了动用技术、法律的手段，我们或许不得不考虑，是不是该有一些道德的共识。君子有所为，有所不为。己所不欲，勿施于人。 当我们上网时，最好不要默认一切是真实的，更不要成为过界的始作俑者。我们不是在岸边凝视海水，我们也是上面的一叶扁舟。