搜索

这个AI给照片穿上“隐身衣”,让面部识别系统认不出你

大数据文摘 · 2020-08-11
“面具下是思想,你无法杀死它,因为它刀枪不入”。

编者按:本文来自微信公众号“大数据文摘”(ID:BigDataDigest),作者:刘俊寰、Min,36氪经授权发布。

先来玩一个“大家来找茬”。

应该没有人不认识英国女王伊丽莎白二世吧?但如果文摘菌说,其实这不是“一个人”,你能看出左右两张照片有什么不同吗?

在肉眼看来,这大概率就是“英国女王在逃姐妹”了,但是对于人脸识别系统来说,这两张照片可是天差地别的不同。

这是芝加哥大学沙地实验室(Sand Lab)的科学家们创建的一个叫做Fawkes的工具,该工具主要使用AI技术,神不知鬼不觉地修改你的照片,以欺骗面部识别系统。

那么,为啥要让机器认不出你呢?

很有必要!

如今,无处不在的人脸识别系统对于我们的隐私造成了巨大的威胁,一些技术公司在网上大规模地搜集我们在社交媒体上分享的照片,将其用于训练用于商业销售的算法,任何人都可以购买这些工具系统,在几秒钟内辨别出谁是谁。

这已经够可怕了,但更可怕的是,有人会私自用你的照片来打广告。

这样的事情就真实地发生在了一位名叫Shelby Church的博主身上,她表示,自己没有签订相关的合同,也没有允许任何商业机构使用自己的照片。但正是由于如今照片的可获得性,以及缺少版权审批流程,相关的事情才得以发生。

也正是在这个背景下,芝加哥大学沙地实验室的科学家们创建了这个叫做Fawkes的工具,让机器无法认出你。

研究人员介绍道,Fawkes是以《V字仇杀队》漫画和电影中革命者戴上的Guy Fawkes面具而命名的。

这个工具,能让你的脸不是你的

Fawkes的工作方式说简单也简单,说复杂吧,也稍微有点复杂。

根据研究人员介绍,Fawkes处理后的照片不是直接让你“隐身”了,而是对照片进行一些微妙的修改,虽然肉眼看上去没什么差别,但是任何算法在扫描这些图片时,会把你看成一个完全不同的人。

也就是说,从本质上讲,Fawkes处理后的照片就像给照片添加了一个隐形的面具。

研究人员把这一过程称为“伪装”,它的目的是破坏面部识别系统运作所需的资源,也就是他们从社交媒体上搜罗的人脸数据库。

例如,面部识别公司Clearview AI声称已经从Facebook、YouTube和Venmo等网站收集了大约30亿张人脸图像,用来识别陌生人,但研究人员表示,如果你在网上分享的照片经过了Fawkes处理,那么算法识别的结果就是你的脸其实不是你的。

研究人员利用微软、亚马逊、旷视的人脸识别系统进行实验后,Fawkes的对抗识别取得了100%的成功。

比较未使用Fawkes处理和处理后的脸部图片。图源:芝加哥大学SAND Lab

“我们正在做的就是本质上像特洛伊木马一样,使用伪装的照片来破坏未经授权的模型,让模型了解让你看起来像你而非他人的错误信息。”帮助创建Fawkes软件的芝加哥大学计算机科学教授Ben Zhao表示。

“一旦破坏完成,无论你走到哪里,或者被人看到,你都会被持续保护。”

Fawkes对于科技公司而言意味着什么?

今年早些时候,研究人员就发表了一篇关于该算法的论文。

上个月底,他们发布了Fawkes的Windows版本和Mac版本的免费软件,任何人都可以下载和使用,到目前为止,Fawkes的下载量已经超过了10万次。

不少人使用Fawkes的反馈是,Fawkes的设计很粗糙,应用起来非常简单,处理图片的速度也很快,每张照片只需要几分钟,而且几乎察觉不到处理前后的差异。

此前,《纽约时报》的一篇报道指出,Fawkes的隐身效果相当明显,系统会对图片进行性别化的改变,比如女性修出一些胡子。Fawkes团队表示,更新后的算法会微妙很多。

但是,Fawkes是保护隐私的灵丹妙药吗?这是存疑的。

首先还是使用的问题。如果你决定以后上传到社交媒体上的照片都先用Fawkes处理一下,那你肯定是少数。面部识别之所以令人担忧,是因为这是一个社会趋势,解决方案也自然需要全社会共同参与,如果只有精通技术的人采用相关的屏蔽技术,那只会造成不平等和歧视。

其次,很多人脸识别算法公司很早以前就建立了人脸数据库,你无法追溯这些信息。Clearview AI的CEO Hoan Ton-That也曾这样告诉《时代周刊》,“互联网上有数十亿张未经修改的照片都放在不同的域名上,实际上,要完善像Fawkes这样的技术并大规模部署,几乎可以肯定为时已晚”。

不过,Fawkes团队对这种评价持反对态度,他们指出,虽然像Clearview AI这样的公司声称拥有数十亿张照片,但当你考虑到他们的识别对象是数亿用户时,这就不算什么了。“对于很多人来说,Clearview AI有可能只拥有非常少的公开照片,如果未来人们发布更多的隐身照片,迟早有一天,隐身照片的数量会超过未隐身的照片”。

在应用方面,Fawkes团队承认,他们的软件要想真正发挥作用,就必须更大规模的发布。出于安全考虑,他们没有计划制作网页或移动应用,但是他们也希望,像Facebook这样的公司未来可以将类似的技术整合到自己的平台上。

这项技术其实是符合大科技公司利益的,Zhao说。毕竟,像Facebook这样的公司不希望人们停止分享照片,同时他们仍然也可以从图片中收集他们需要的数据用于照片标签等,然后再将它们隐匿在公共网络上。整合这项技术可能只会对目前的用户产生很小的影响,但它可以帮助说服未来注重隐私的一代人注册这些平台。

“被如Facebook或其他大平台采用的话,对Clearview AI这类公司会产生巨大的影响,因为基本上会使他们的技术无效,以至于它作为一项服务将不再有用或在财务上变得不可行,”Zhao说,“Clearview AI这样的公司如果因不再提供相关或准确的结果而倒闭,那会是对我们工作的极大褒奖”。

相关报道:

https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes

https://onezero.medium.com/a-scammer-turned-my-face-into-a-google-ad-5d4e7c65718e

+1
7

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

下一篇

自燃的不只是造车新势力产品。

2020-08-11

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

为你推送和解读最前沿、最有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚集全球最优秀的创业者,项目融资率接近97%,领跑行业