“深度伪造”的第一个大规模应用:色情机器人
作者:星期四, 十月 22, 20200

“深度伪造”(DeepFake)被认为是最危险的人工智能技术之一,可广泛应用于业务欺诈、舆论操纵、社会工程等多个犯罪领域。但是直到最近,深度伪造技术才有了第一个大规模应用:深度伪造色情机器人(DeepNude)。

根据英国Wired杂志报道,自今年7月份以来,至少有10.4万名妇女受到即时通讯应用Telegram上运行的深度伪造机器人DeepNude的攻击,受害人数之多令人震惊。每个月都有成千上万的人使用DeepNude来创建朋友和家人的裸照,其中一些人不到18岁。

据报道,DeepNude能用AI技术“去除”衣服,虽然有些合成照片看上去有瑕疵,但是有些照片可以以假乱真。该机器人每天都会向相关的Telegram频道发送包含大量“裸体”女性照片的图库。而推广该机器人程序的Telegram频道也已经拥有50,000多名订阅者,

DeepFake检测公司Sensity的首席执行官兼科学家Giorgio Patrini说:“这是我们第一次看到深度伪造的大规模应用。”该公司正计划公布其调查结果,以迫使平台删除相关深度伪造内容和频道。

深度伪造机器人侵害的女性实际人数可能远远超过10.4万,因为Sensity给出的这一数据仅涵盖了公开共享的图像,而该机器人还向私人提供照片制作功能。

DeepNude的很多Telegram频道都是俄文,但也提供英语翻译,Sensity补充说,很多伪造图片的目标都是18岁以下的女孩。

据称DeepNude的使用非常简单,无需任何技术知识,任何人都可以把女性照片上传到相关频道,伪造过程是完全自动化的。Sensity的分析师指出,目前这项技术仅适用于女性。该机器人的使用是免费的,但限制每天每人仅能处理10张照片,而且需要付款才能删除水印,一个高级版本的112张图像售价约为8美元。

迈阿密大学法学教授玛丽·安妮·弗兰克斯(Mary Anne Franks)说:“这令人沮丧,我们对深度伪造技术的恐惧已经变成现实。”

一个更加可怕的现实是:即使您从未摆拍裸照,也从未与某人共享任何私密数据,也会成为受害者,不肖之徒所需要的只是一张您的脸部照片。

Vice在2019年6月首次报道了DeepNude,其最初的开发者出于滥用的担忧而终止了该软件项目,但短短数天内该程序的下载量就达到了95,000。DeepNude的代码被快速备份并复制。DeepNude软件使用深度学习和生成对抗网络来生成受害者的裸体图片。其AI算法在一组女性裸体图像数据上受过训练,能够在最终图像中合成身体部位。

Telegram方面并没有回答有关色情机器人及其产生的恶意图像的问题。Sensity的报告还称,该公司几个月前向Telegram报告该机器人及其传播渠道时平台方面并没有做出回应。但是根据Telegram的服务条款,人们不应“在可公开查看的Telegram频道中发布非法色情内容”。

除了Telegram,DeepNude还在俄罗斯社交媒体网络VK上快速传播。Sensity的报告指出,已经在VK上发现了大量的Deepfake内容,并且DeepNude还在该网站上有专门的页面。VK的一位发言人说:“不容忍平台上的这种行为”,并且“永久性地封锁了这个社区”。

自从2017年底深度伪造软件诞生以来,其主要用途就是虐待妇女。在过去的一年中,由于成本和技术门槛不断降低,其应用呈指数级增长。Sensity之前的一项研究发现,2019年7月网上有14,678个深度伪造视频。而到今年6月,这一数字激增至49,081。几乎所有这些视频都是针对女性的色情内容。

今年八月,《连线》杂志报道了深度伪造色情影片如何成为主流。每个月有1000多个虐待视频被上传到全球最大的色情网站。一部由女演员艾玛·沃特森(Emma Watson)的脸“拼装”的30秒视频被发布到XVideos和Xnxx上,浏览量超过3000万次。事情曝光后,xHamster从其网站上清理了数十个深度伪造视频。

由机器人生成图像的技术突破将假冒滥用行为推向了危险的新领域。Telegram机器人并不是在野外使用DeepNude系统的唯一案例。Google Play应用商店的某些应用程序也可以对照片进行像素化处理,将日常照片变成裸照。此外,还有一些不法网站提供付费的深度伪造技术服务,甚至还提供每月20美元的订阅服务。

更加让人担心的是,虽然DeepNude最初的开发者已经终止项目并删除了项目代码,但是DeepNude代码的多个版本仍可在微软旗下GitHub上公开获得。在撰写本文时,两个DeepNude代码集上周刚刚更新,提供的指导文档可以让任何懂点技术的人在不带水印的情况下使用该代码。

参考资料

A Deepfake Porn Bot Is Being Used to Abuse Thousands of Women:

https://www.wired.com/story/a-deepfake-porn-bot-is-being-used-to-abuse-thousands-of-women/

相关阅读

色情网站对于黑客来说就是座金矿

深度伪造和合成身份:关注身份盗窃的原因

申明:本文系厂商投稿收录,所涉观点不代表安全牛立场!


相关文章