超高难度诈骗,Deepfake 换脸“英国跨国企业 CFO”,直接骗走公司 2 亿港币

2024年02月06日
首页博客

       香港一家跨国公司的员工遭遇了一场深度伪造的诈骗,被骗子邀请进了一场用Deepfake技术做的「高管视频会议」,并在会议中被要求转账 2 亿港币到不知名的账户。这位员工直到5天后才意识到自己被骗。

       近日,「AI换脸」技术多次成为热搜话题,先是大量泰勒斯威夫特的「AI艳照」充斥网络,迫使X(原推特)只能屏蔽与「Taylor Swift」相关的搜索。如今,香港警方披露了一起更为荒谬的诈骗案例:一家英国跨国企业的香港分公司被骗子利用伪造的「AI换脸」和AI音频合成制作的视频,冒充总公司CFO,成功骗走了2 亿港币!
       报道指出,这位员工收到了一封英国总部CFO的邮件,声称总部正在进行一项「秘密交易」,需要将公司资金转至香港本地的账户。虽然员工        最初对这封邮件并不信任,认为是钓鱼邮件,但骗子通过不断的邮件沟通和一场视频电话最终说服了他。在视频电话中,员工看到了公司CFO和其他认识的同事,大家一同开会。骗子通过视频会议要求员工进行自我介绍,然后突然中断了视频,留下转账的指令。员工相信这是真实的,分15次将2 亿港币汇款到5个香港本地的账户。

       香港警方在通报中表示,以往的「AI换脸」诈骗通常是一对一的,而这次骗子采用了视频电话会议形式,伪造了一个「高管团队」,大幅提高了可信度。通过Deepfake技术,骗子成功伪造了英国公司高管的形象和声音,参与视频会议的都是真人,然后通过「AI」换脸将骗子的脸和声音替换成高管的,最终下达了转账指令。

       除了被骗的员工之外,骗子还联系了其他香港分公司的员工。警方表示案件仍在进一步调查中,尚未逮捕任何嫌疑人,但希望通过向公众发布信息防止类似手法的再次成功。

       警方提供了一些识别「AI换脸」诈骗的方式,建议在视频中谈论涉及钱财时要提高警惕,观察画面是否有奇怪的变形,可以要求对方进行头部和面部的快速移动,并提出只有双方知道的问题来验证对方的真实身份。此外,银行也在部署预警系统,对于与可疑账户的交易发出提醒。
国外网友对此纷纷感叹Deepfake技术的强大,有人调侃是否可以用Deepfake技术替代自己参加会议,以便多睡一会。也有网友质疑整个故事是否是被骗员工编造的,认为他可能自己也参与了这个骗局。
深度伪造技术的由来可以追溯到Reddit用户「deepfakes」,该用户于2017年在Reddit社交网站上发布了将女演员的脸部替换到其他视频中的作品,从而使「Deepfake」一词广为人知。Deepfake的本质是一种深度学习技术,使用生成对抗网络和卷积神经网络等算法将目标对象的面部「嫁接」到被模仿对象上,实现自动化的面部替换。随着技术的发展,越来越多的研究关注如何识别和检测Deepfake技术的应用,以控制其负面影响。
      最近,加州大学河滨分校的计算机科学家团队开发了一种新方法,可以以高达99%的准确率检测深度伪造视频中被操纵的面部表情。这种方法利用深度神经网络分为两个部分,第一个部分辨别面部表情,提供关于包含表情的区域的信息,第二个部分是一个编码器-解码器架构,用于检测和定位。这个方法被命名为「表达操纵检测」(EMD),在实验中表现出99%的准确率,对于深度伪造视频的识别具有重要意义。
       在技术和政策层面上的努力可能是未来控制Deepfake技术负面影响的关键。