# AI 语音模仿老板声音要求转账，成功骗走了 173 万 - 作者：李超凡 - 发布时间：2019-09-04 16:45 - 分类：公司 - 原文：https://www.ifanr.com/1255950 ![](https://s3.ifanr.com/wp-content/uploads/2019/09/35a8a034-d3db-11e7-93d7-6d6fc14be448_1280x720_001011.jpeg) 换脸 app [ZAO](https://www.ifanr.com/1254613) 爆红后，不少人担心自己脸部信息泄露后，刷脸支付会被破解进行盗刷，虽然后来支付宝表示 AI 换脸无法破解刷脸支付，但已经有人开始利用 AI 语音合成软件进行诈骗了。 ![](https://s3.ifanr.com/wp-content/uploads/2019/08/Aug-31-2019-16-06-21.gif) 据《华尔街日报》[报道](https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402)，有骗子通过 AI 合成的语音，冒充了一家英国能源公司德国母公司的 CEO ，成功欺骗该公司员工进行了大额转账，成功骗走了 22 万欧元（约合 173 万人民币）。 AI 语音真有这么逼真吗？据称这家英国能源公司的 CEO 接到了自称是德国母公司 CEO 的电话，要求他将一笔 22 万欧元资金转账给一个匈牙利供应商，十万火急，必须在一个小时之内完成。 ![](https://s3.ifanr.com/wp-content/uploads/2019/09/Atlantech_record-business-phone-calls.png) ▲图片来自：[Atlantech Online](https://www.atlantech.net/blog/how-to-ethically-record-business-phone-calls-without-breaking-the-law) 这位英国 CEO 开始并没有意识到有什么问题，他表示对方操着德国口音，语调也跟德国母公司的 CEO 几乎一样，因此他也没有觉得可疑，就把款项打了过去。 有意思的是，在收到这笔转账之后，骗子还没有收手，而是再次打来电话，要求英国公司向德国母公司进行一笔汇款来偿还一些费用，不过这次的电话号码却显示来自奥地利，英国公司这才开始怀疑，没有再次转账。 ![](https://s3.ifanr.com/wp-content/uploads/2019/09/1511264930_2dfd0433_0_600.jpg) 这起案件发生在今年 3 月，事后调查发现，这 22 万欧元并没有转到所谓匈牙利供应商，而是被转移到了墨西哥等多个国家。 幸运的是，这笔损失并不需要这家英国能源公司承担，而是全部由投保的保险公司 Euler Hermes 负责。警方对这起事件进行调查后发现，骗子用了一种 AI 语音合成软件来模仿德国母公司 CEO 的声音，但至今仍无法找到幕后的诈骗者。 该保险公司的反欺诈专家 Rüdiger Kirsch 表示，他们此前从未处理过使用人工智能进行犯罪而造成的索赔案件，这种通过 AI 技术进行诈骗的模式也被称为 vishing （语音网络钓鱼）。 ![](https://s3.ifanr.com/wp-content/uploads/2019/09/Vishing.jpg) ▲ 图片来自：[security portal.](https://news.securityportal.ro/stiri/securitate-it/utilizatorii-romani-sunt-vizati-de-noi-campanii-de-vishing-escrocii-pretind-ca-sunt-de-la-microsoft/) 更令人担忧的是，这起案例很可能不会是孤例，随着这样的 AI 技术不断进步，且门槛逐渐降低，类似的 AI 语音诈骗很可能会一发不可收拾。 根据一家开发语音欺诈软件的网络安全公司的[调查报告](https://www.securitymagazine.com/articles/89432-voice-fraud-climbs-350)，从 2013 年到 2017 年，语音诈骗的数量增长了 350%，其中每 638 个诈骗电话中就有一个是机器合成的。 ![](https://s3.ifanr.com/wp-content/uploads/2019/03/315_011.png) 实际上我们很多人可能已经接到过 AI 打来的电话，今年的 [315 晚会](https://www.ifanr.com/1185943)就曝光了 AI 骚扰电话的灰色产业，这些 AI 电话的对话、语调都和真人十分几乎以假乱真，每个机器一天能打 1000 个电话，效率远高于人类。 而 DeepFake 技术现在已经发展到可以任意篡改视频和语音，此前斯坦福等几所高校发布了一项[新研究](https://news.stanford.edu/2019/06/05/edit-video-editing-text/)，只要输入任意文本，就能让视频中的演讲者说出对应的话，还能修改原视频的语句，比如将电视台主持人报道的「苹果股价收盘于 191.45 美元」的数字改为「182.25 美元」。 ![](https://s3.ifanr.com/wp-content/uploads/2019/06/f3b1-hyeztyt0482403.gif) 尽管这两个词的发音和口型完全不同，但几乎看不出修改痕迹。研究者经过调查发现，59.6% 的受试者认为被修改过的视频是真的，这项技术成功骗过了大部分人的眼睛。 这些 AI 技术不断发展，逐渐就出现了像 ZAO 这样便捷低门槛的工具，让每个人可以使用类似的技术合成换脸视频，或者模仿别的声音，同时也难以避免被不法分子利用，用于实施犯罪。 前两年被 [DeepFake](https://www.ifanr.com/977830) 打开的潘多拉魔盒，正在将种种祸患陆续带给我们。 题图来自：[南华早报](https://www.scmp.com/news/hong-kong/law-crime/article/2121855/hong-kong-university-student-18-loses-hk200000-phone-scam)