深度伪造视频带来的威胁日益加剧
作者:星期二, 九月 3, 20190

深度伪造 (Deepfake) 视频带来的威胁日益严重。它们主要是一种社会工程工具。这意味着它们将被人们利用,越来越多地用于网络钓鱼攻击、BEC 攻击、声誉攻击和公众舆论攻击(如干预选举)中。所有这些领域现有的方法已经取得了成功;但深度伪造视频的出现将把它们升级到一个不同的水平。

深度伪造是通过人工智能技术将一个人(比如目标公司的CFO)视频中的头像几乎完美嫁接到另一个视频中的人(比如假的演员)身上。目标的视频图像可以由静止的照片构成,然后叠加到假的运动图像上。深度伪造音频也类似,是通过人工智能技术利用目标对象现有的录音制作而成。因此,制作任何人说任何话的视频都是有可能的。通过基于文本的 BEC 攻击,有人在 2018 年成功窃取了 13 亿美元的资金,而该公司 CEO 要求迅速将资金转移到新 “供应商” 那里的视频将更加引人注目。

有证据表明,这种形式的欺诈已经开始了。今年 7 月,赛门铁克 (Symantec) 表示,他们已经发现了三起只播放音频的深度欺诈案件。Axios 报道:每一起案件中,一家公司的 “首席执行官” 都会给一位高级财务官打电话,要求进行紧急转账……每家公司都有数百万美元被盗,但涉及的公司名称还没有被透露。

ZeroFOX 首席研究工程师 Matt Price 在博客中写道:

深度造假代表着真正的风险。虚假并购公告、道德越界、种族主义言论等行为造成的后果,可能会在还没辨别出这些信息是否虚假之前就迅速爆发。一个事件可以瞬间损害一个公司的价值、品牌和商誉,或者破坏一个政治候选人的好名声。

例如,2019年6月,Facebook 首席执行官 Mark Zuckerberg 在 Instagram 上发布了一段假视频,视频中他发表了一篇关于 Facebook 力量的演讲,还说了一些他从未真正说过的话。

影响成本的不对称加剧了这一问题。O’Reilly Media 首席数据科学家 Ben Lorica 表示:你不需要是一个民族国家,也不需要拥有深厚的资源来利用技术和工具生成虚假媒体,此外,很多平台都有可以实现病毒式营销的工具。因此,创建虚假内容不仅容易,而且传播起来也容易得多。

Price补充道:使用云服务制作深度伪造视频已经很便宜了,大概在 100 到 500 美元。你需要的绝大多数代码都是开源的,打包工作做得相当好。

使这种情况变得更加严重的是,Lorica 补充道,数字取证之父 Hany Farid 指出:“做视频合成工作的人数与检测工作的人数比例是100比1”。

Price 和 ZeroFOX 是致力于深度伪造检测的公司之一。该公司于 2019 年 8 月宣布在其安全平台上增加了深度伪造检测的业务。Price 解释了目前在制作以假乱真的深度伪造视频方面存在的技术难题,以及其检测功能是如何寻找真伪线索的。

在进攻方面,创建一个高质量的深度伪造视频,你必须做的一件关键事情就是为你的 AI 训练获取正确的数据集。所以,无论你想深度伪造谁,这都意味着你要确保能捕捉到正确的图像。

人们说话时会眨眼,但是人们在网上发布的照片不会眨眼。为了解决这一问题,攻击者需要目标眨眼的其他数据源。根据目标的公开程度,这可能很容易,也可能很困难。一般来说,要找到目标闭着眼睛的图像,必须至少找到一个那个人的视频,然后提取他们真正眨眼的帧。如果目标只有静态的照片,他们就不太可能眨眼或闭上眼睛。因此,目标的资料越公开,就越容易制造深度伪造视频。目标越注重隐私,难度就越大。

第二个难点是你需要确保照明条件和背景至少在某种程度上类似于目标视频。如果照明条件不佳,或者背景场景没有对齐,很容易让人觉得最终的视频是假的,因为视频看起来就不对劲。

第三,他说道,当你将目标面部的特定区域叠加到假视频时,需要进行缩放和旋转。这一点加上叠加后的眨眼,是检测的关键区域之一。拿张嘴来说,攻击者需要旋转和缩放嘴巴来适应视频图像。当伪造者执行缩放和旋转等操作时,在图像的像素中会留下一些证据,表明进行了旋转。这就是防御者试图检测的东西。

但深度伪造是一种新的攻击技术,就像网络安全领域的其他所有技术一样,它带来了一种新的竞赛。攻击者落后一步。像 ZeroFOX 这样的防御者,正在发展检测能力对其做出响应。攻击者将试图击败这种检测。我们也不知道未来深度伪造的发展方向。社会工程相关的各种应用的出现是显而易见的。但其他衍生产品呢?Deepfake 技术是否最终能击败人脸识别验证?

Price 表示,它正在朝那个方向发展。目前 Deepfake 技术不会通过任何生物识别标准,但随着我们不断前进,技术不断改进,这可能会成为一个问题。

Lorica 表示,虽然还没有看到任何工具或研究论文显示 Deepfake 能够做到绕过生物身份认证,但有很多组织机构正在研究和投资 Deepfake 技术。因此,我们会很自然地认为一些团队已经开始研究这个问题了。情报和安全部门需要对这种可能性保持警惕,并有权要求提供资源。我们正处于一场军备竞赛中,而在深度伪造上投入的资源和人力数量远远超过了其同行在检测上的投入。

可以肯定的是深度伪造带来的威胁在可预见的未来依然存在,而在短期内还会愈演愈烈。

相关阅读

 

毒数据:深度虚假Deepfake威胁网络安全

Deepfake:一款与核武器同样危险的软件工具

 

 


相关文章

写一条评论

 

 

0条评论