Deepfake视频中涉及色情高达96%,且只针对女性

新智元 · 2019-10-14
96%的Deepfake视频少儿不宜,而几乎都以女性为主题

编者按:本文来自微信公众号“新智元”(ID:AI_era),作者 鹏飞,36氪经授权发布。

尽管媒体、政客和技术人员对Deepfake造假影响选举的风险感到恐慌,但一项新研究在研究了近1.5万Deepfake视频后,发现96%的视频是色情片。令所有人惊讶的是,该研究中分析的所有色情假冒产品仅针对女性。

Deepfake视频中涉及色情高达96%,且只针对女性

Deepfake威胁论正在越演越烈。

可能我们在国内没有特别大的体会,也就是把朱茵的脸换成杨幂的,把新垣结衣的脸换成郭德纲的,大家看了顶多开心一笑,并没有体会到任何的不安和恶意。

Deepfake视频中涉及色情高达96%,且只针对女性

然而国外就丰富多了。最初Deepfake被用在色情视频换脸上,由此也衍生出一些灰色产业。而且这个产业一直存在,在看不见的阴暗角落,不断积累着让人不易觉察隐患。

统计数据显示。自Deepfake技术问世至今,网上发现的换脸视频几乎增长了一倍。

Deepfake视频中涉及色情高达96%,且只针对女性

这些视频中,我们熟悉的国外领导人、各路明星换脸视频,只占了其中一小部分。而绝大多数,都是未经任何人授权、以女性为主的色情视频。这类视频一般都以非法途径秘密传播,很多受害者甚至根本不知情。

阿姆斯特丹的网络安全公司Deeptrace Labs公布了一份最新报告。

报告称,研究人员从YouTube、以及一些比较流行的色情网站上,分析了共计14698部被认定为Deepfake制作的虚假视频,得出来的结论,让人一言难尽。

首先从数量上,去年去年11月找到的Deepfake视频有7964,不到一年时间这个数字增长了将近一倍,说明制作Deepfake视频的成本和门槛正在逐步降低,也就意味着未来这个数字会继续增长。

虽然DeepNude被迫下架了,但它的影子却没有因此而消失,仍然继续在网上流传着。甚至有专门的产业链,可以为客户量身定制Deepfake视频,价格并不高,出片也很快。

你能想象这个门槛有多低吗?仅需要250张图像,花费2天的处理时间,就能出一个定制视频。而一个定制的视频,价格最低不到20元人民币,比看一部电影都便宜!

有的网站直接上线了会员计划,只需要每个月花费20美元,不到一张黑胶唱片的价格,所有视频一览无余!

其次从内容上,这些换脸视频中大部分都是少儿不宜的。而这些少儿不宜的视频中,几乎都是以女性为题材,而且有96%被确定为“未获任何授权”的内容。视频中涉及到的女性,最常见的有美国、英国的女明星,以及K-Pop(韩国流行乐团)的女明星。

显然,亚洲美女的脸有着特殊的吸引力,研究人员发现这些视频中有韩国女团成员脸的,占了25%。

而这些视频中,还有很多用的是素人的脸。一个虚假视频的供需平台上,有人发帖“付费定制一位女性朋友的视频”;而有人想要定制“初恋情人”、“学校女女神”的视频。此类需求刺激了这个灰色产业链的发展。

而反观那剩下的4%非限制级的视频中,有61%是以男性为主题的。这样巨大的内容和性别差异,也大致能勾画出一个受众群体的模糊的画像了吧。

通过人工智能强大的图像还原功能,很可能一个Deepfake的视频,不一定就是完全“fake”的。那么试想一下,如果我们的亲人、朋友的脸,被别有用心的人换到色情视频当中,将会造成多么恶劣而可怕的影响!

色情,才是Deepfake最大的威胁。而此前很多学者担忧的一个假新闻时代,似乎目前没有什么苗头。

实际上无论是假新闻、还是恶搞视频,都会暴露在公众的视野之下。在如此高的曝光下,假新闻的生存空间显然要狭窄的多。而深藏于地下的色情视频,则更容易躲过审查,从而得以流传的更加久远。

目前为止,还不曾出现有效的遏制手段以及惩戒措施。这方面的研究,将来或许会成为一个非常重要的领域。

+1

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

下一篇

苏州工业园区智能网联测试区正式启动,“苏州工业园区智能网联汽车公共测试道路”现场授牌。

2019-10-14

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

为你推送和解读最前沿、最有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚集全球最优秀的创业者,项目融资率接近97%,领跑行业