API检测失灵,Deepfake与面部识别谁更胜一筹?

将门创投2021-03-30
面部识别 VS Deepfake技术

编者按:本文来自微信公众号“将门创投”(ID:thejiangmen),作者:让创新获得认可,36氪经授权发布。

Deepfake很容易骗过面部识别?

跟随成均馆大学的一篇论文,走进对面部识别的测试。研究人员选择了微软和亚马逊的面部识别API作为基准,使用了在五个不同数据集上训练的人工智能模型,结果发现微软和亚马逊的错误率都达到了60%以上,其他的错误更是多种多样。

这就是说Deepfake基本能骗过现有面部识别服务。

Deepfake正在迅速增长。人工智能生成的视频,也就是换脸视频,如“雨后春笋”般冒了出来。根据初创公司Deeptrace的数据,从2019年10月至2020年6月,网络上的Deepfake数量增长了330%,峰值时超过5万个。

关于欧美的反响,大多数人认为这令人不安,不仅是因为这些冒牌可能会在选举期间左右舆论或涉及犯罪,还因为它们已经被滥用,比如用作演员和明星的色情材料。

据悉一家欧美的主要能源生产商就曾被Deepfake敲诈过。今年3月,犯罪分子利用人工智能的软件模仿一位首席执行官的声音,索要一笔22万欧元(合24.3万美元)的欺诈性转账。

Deepfake检验百试不爽,面部识别软件有待提高

代码的开源让任何拥有技术和目标图片的人都可以轻松制作出令人信服的Deepfake,一项新的研究表明Deepfake技术已经达到了可以欺骗商用面部识别软件的程度。

韩国成均馆大学在Arxiv.org上发表的一篇论文证明了最常用的Deepfake方法就能骗到微软和亚马逊的API。

其中一个例子是微软的Azure认知服务(Microsoft’s Azure Cognitive Services)被高达78%的Deepfake内容欺骗了。

论文链接:

https://arxiv.org/pdf/2103.00847.pdf

研究人员写道:“从实验中我们发现,一是一些Deepfake生成方法对识别系统的威胁比其他方法更大,二是每个系统对Deepfake的反应不同。”

“我们相信我们的研究成果能帮助更好地设计基于网络的应用程序接口以及适当的防御机制,这些都源于打击恶意使用Deepfake技术的迫切需要。”

因为微软和亚马逊的面部识别提供识别明星的服务,研究人员选择了这两家的API作为基准。测量方式是根据这些API返回的人脸相似性评分指标比较他们的性能。

明星相比普通人的可用图像数量多,因此研究人员能够相对容易地从中生成Deepfake。谷歌通过其云视觉API提供名人识别功能,但研究人员表示谷歌拒绝了他们使用该功能的正式请求。

为了了解商业面部识别API会在多大程度上被Deepfake欺骗,研究人员使用的人工智能模型分别在五个不同数据集上经过了训练,其中三个数据集是公开的,另外两个是他们自己创建的——包含了好莱坞电影明星、歌手、运动员和政客的面孔。

研究人员总共从数据集中创建了8119张Deepfake。然后他们从Deepfake的视频中提取一帧人脸图片,让服务器尝试预测哪个名人拍了照片。

最后的结果发现所有的API都很容易被Deepfake技术瞒天过海。Azure Cognitive Services有78%的几率将Deepfake的人脸误认为了目标名人,而亚马逊的Rekognition将伪造图片误认为目标名人的几率达到了68.7%。

这还不算让人大跌眼镜的,在40%的情况下Rekognition还会把深度伪造的明星误认为另一个名人,并且在用作实验的3200个明星中,它给902个Deepfake的评分比真图更高。

同样地,在Azure Cognitive Services的实验中研究人员成功模仿了100位名人中的94位。

两位论文的合著者将他们的攻击成功率归因于Deepfake往往会保留目标视频的原身份。因此,当微软和亚马逊服务犯错时他们往往会给出置信度评分,而亚马逊则表现出“相当高”的易受Deepfake欺骗的程度。

研究人员警告称,假设潜在的人脸识别API无法区分Deepfake的冒名者和真正的用户,它会导致许多隐私、安全和风险,以及大量的欺诈案件。

“语音和视频Deepfake技术可以结合起来制造出多模式的Deepfake,用于实施更强大更真实的网络钓鱼攻击……而且如果商业API未能过滤掉社交媒体上的Deepfake,就会导致虚假信息传播伤害无辜的个人。”

微软和亚马逊对此则拒绝置评。

Deepfake检测工具也大型打脸现场了

研究结果表明,深究Deepfake仍然具有挑战性,尤其是随着媒体生成技术的不断改进。就在本月,未经验证的TikTok账户上发布的汤姆·克鲁斯的Deepfake视频在该应用程序上获得了1100万点击量,在其他平台上的点击量也达到了数百万。

回顾阿汤哥Deepfake视频热,戳阿汤哥看了都惊叹的Tiktok爆款视频,Deepfake又火了??

而且据Vice称,阿汤哥的Deepfake视频还成功瞒过了几个最好的公开Deepfake检测工具,让人惊讶。

来看看:

第一次尝试,Sensity AI打脸现场,检测失败…

别慌,测试者说这可能是因为头发被吹起来了才没有发现这是换脸。

Emm??乍一听好像很有道理的样子。

再一想,这是什么逻辑…

这一次头发飞了起来,但检测还是失败了

嗯,最后一次尝试…

失败…能感受到检测工具的无奈,“这真的不是阿汤哥吗?”

Deepfake检测与监管何去何从

两位论文的合著者将他们的攻击成功率归因于Deepfake往往会保留目标视频的原身份。因此,当微软和亚马逊服务犯错时他们往往会给出置信度评分。

研究人员提出,假设潜在的人脸识别API无法区分Deepfake的冒名者和真正的用户,可能会导致许多隐私、安全和风险,以及大量的欺诈案件。

“语音和视频Deepfake技术可以结合起来制造出多模式的Deepfake,用于实施更强大更真实的网络钓鱼攻击……而且如果商业API未能过滤掉社交媒体上的Deepfake,就会导致虚假信息传播伤害无辜的个人。”

From: VentureBeat; 编译:Shelly

Illustrastion by Natasha Remarchuk from Icons8

- The End -

+1
5

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

文章提及的项目

下一篇

作为一家高科技公司,特斯拉线上支付出现成百上千起重复扣款,令人匪夷所思。

2021-03-30

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

为你推送和解读最前沿、最有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚集全球最优秀的创业者,项目融资率接近97%,领跑行业