AI 语音模仿老板声音要求转账,成功骗走了 173 万

公司

09-04 16:45

换脸 app ZAO 爆红后,不少人担心自己脸部信息泄露后,刷脸支付会被破解进行盗刷,虽然后来支付宝表示 AI 换脸无法破解刷脸支付,但已经有人开始利用 AI 语音合成软件进行诈骗了。

据《华尔街日报》报道,有骗子通过 AI 合成的语音,冒充了一家英国能源公司德国母公司的 CEO ,成功欺骗该公司员工进行了大额转账,成功骗走了 22 万欧元(约合 173 万人民币)。

AI 语音真有这么逼真吗?据称这家英国能源公司的 CEO 接到了自称是德国母公司 CEO 的电话,要求他将一笔 22 万欧元资金转账给一个匈牙利供应商,十万火急,必须在一个小时之内完成。

▲图片来自:Atlantech Online

这位英国 CEO 开始并没有意识到有什么问题,他表示对方操着德国口音,语调也跟德国母公司的 CEO 几乎一样,因此他也没有觉得可疑,就把款项打了过去。

有意思的是,在收到这笔转账之后,骗子还没有收手,而是再次打来电话,要求英国公司向德国母公司进行一笔汇款来偿还一些费用,不过这次的电话号码却显示来自奥地利,英国公司这才开始怀疑,没有再次转账。

这起案件发生在今年 3 月,事后调查发现,这 22 万欧元并没有转到所谓匈牙利供应商,而是被转移到了墨西哥等多个国家。

幸运的是,这笔损失并不需要这家英国能源公司承担,而是全部由投保的保险公司 Euler Hermes 负责。警方对这起事件进行调查后发现,骗子用了一种 AI 语音合成软件来模仿德国母公司 CEO 的声音,但至今仍无法找到幕后的诈骗者。

该保险公司的反欺诈专家 Rüdiger Kirsch 表示,他们此前从未处理过使用人工智能进行犯罪而造成的索赔案件,这种通过 AI 技术进行诈骗的模式也被称为 vishing(语音网络钓鱼)。

▲ 图片来自:security portal.

更令人担忧的是,这起案例很可能不会是孤例,随着这样的 AI 技术不断进步,且门槛逐渐降低,类似的 AI 语音诈骗很可能会一发不可收拾。

根据一家开发语音欺诈软件的网络安全公司的调查报告,从 2013 年到 2017 年,语音诈骗的数量增长了 350%,其中每 638 个诈骗电话中就有一个是机器合成的。

实际上我们很多人可能已经接到过 AI 打来的电话,今年的 315 晚会就曝光了 AI 骚扰电话的灰色产业,这些 AI 电话的对话、语调都和真人十分几乎以假乱真,每个机器一天能打 1000 个电话,效率远高于人类。

而 DeepFake 技术现在已经发展到可以任意篡改视频和语音,此前斯坦福等几所高校发布了一项新研究,只要输入任意文本,就能让视频中的演讲者说出对应的话,还能修改原视频的语句,比如将电视台主持人报道的「苹果股价收盘于 191.45 美元」的数字改为「182.25 美元」。

尽管这两个词的发音和口型完全不同,但几乎看不出修改痕迹。研究者经过调查发现,59.6% 的受试者认为被修改过的视频是真的,这项技术成功骗过了大部分人的眼睛。

这些 AI 技术不断发展,逐渐就出现了像 ZAO 这样便捷低门槛的工具,让每个人可以使用类似的技术合成换脸视频,或者模仿别的声音,同时也难以避免被不法分子利用,用于实施犯罪。

前两年被 DeepFake 打开的潘多拉魔盒,正在将种种祸患陆续带给我们。

题图来自:南华早报

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中