科技公司为你的脸操碎了心

极客公园 · 2021-03-03
再好玩,人脸也是敏感的隐私数据,用之需谨慎。

编者按:本文来自微信公众号“极客公园”(ID:geekpark),作者:​赵晨希,36氪经授权发布。

再好玩,人脸也是敏感的隐私数据,用之需谨慎。

春节过后,中美两地同时掀起了一种特效小视频风。

恶搞「蚂蚁呀嘿,蚂蚁呀呼,蚂蚁呀哈」(《Dragostea din tei》歌词音译)BGM 的短视频在各大视频、社交网络平台上刷屏。通过 AI 技术,将静态照片动态化处理,将人的口型、眼神等神态与歌曲内容完好匹配,制造出喜感、魔性的「变脸」恶搞视频,再搭配上名人如比尔 · 盖茨、巴菲特、马云的共同「演绎」和有趣的文案,广受网民们欢迎。

「蚂蚁呀嘿」总统合集|YouTube

除「蚂蚁呀嘿」特效视频背后的应用软件 Avatarify,抖音、快手等也迅速上线「蚂蚁呀嘿」视频制作模块,支持用户上传照片,「变脸」欢唱。

而大洋彼岸则涌现一股「怀旧主题」。

在线家谱公司 MyHeritage 开发了一项名为 Deep Nostalgia(深度怀旧)的 AI 服务,可以将静态老照片处理成几秒的小视频。上线 Deep Nostalgia 功能的最初目的是,让用户上传已故亲人的照片,通过观看亲人栩栩如生的动画,以治愈无尽的思念。目前,MyHeritage 公司的 AI 模块已经嵌入 Twitter,引发 Twitter 用户跟风怀旧。

Deep Nostalgia 展示动图|The Verge

无论是 Avatarify 开发的「蚂蚁呀嘿」,还是 MyHeritage 上线的 Deep Nostalgia,都属于 Deepfake(深伪技术)。Deepfake 顾名思义,是通过 AI 深度学习技术伪造影像、声音。伪造视频影像技术最早出现于 2016 年,Deepfake 一词却出现在 2017 年,此后,每隔一段时间都有 Deepfake 相关的应用或视频在网络上风靡,热度下降后又以其他方式改头换面、卷土重来。

那些年出现过的深度「假货」

开篇提到的 Avatarify 就连续两年占据 Deepfake 界头版。

2020 年年初,疫情期间,Avatarify 的程序员 Ali Aliev 在 YouTube 平台上传了几个伪造视频。Ali Aliev 在与同事 Zoom 视频会议时,将自己的脸换成了特斯拉 CEO 埃隆 · 马斯克,马斯克的面部微表情、说话自然,看不出任何破绽,让同事们大感意外,误以为跟科技大佬讨论了一个价值两亿美元的大项目。

与其他 Deepfake 项目不同,Avatarify 不需要预先录制视频,可根据视频流实时工作。随后,Avatarify 在 Github 上开源,迅速升至每日趋势列表顶部。

今年,Avatarify 凭借「蚂蚁呀嘿」特效视频走红后,Avatarify 超越微信、抖音、拼多多,迅速登至苹果应用商店免费下载榜榜首,还带动了剪映 APP 的大量下载。

国外有 Avatarify,国内有 ZAO。

2019 年 8 月底,ZAO 在国内上线,短短两天时间,就成为苹果应用商店最受欢迎 APP 之一。ZAO 的宣传语简洁明了,「仅需一张照片」,「出演天下好戏」,「添加好友多人合演」。ZAO 的出现满足了人们猎奇、参演大片的心愿。

除了说得出名字的科技公司的产品应用和功能,网络上还充斥着大量来自业余爱好者、IT 程序员等制作的各类深伪视频。

比如,将政客、名人的脸偷梁换柱,嫁接到其他视频上,美国前总统奥巴马、美国众议院议长南希·佩洛西、Facebook 创始人马克•扎克伯格、知名女星盖尔·加朵都中过招。社交、视频网站还出现深伪帐号,2019 年,LinkedIn 领英出现疑似女间谍的假帐号 Katie Jones,2021 年初,TikTok 上出现好莱坞男星汤姆·克鲁斯的深伪视频帐号。

深伪视频、图片通常利用生成对抗网络(GAN)制作,生成对抗网络涉及两种相互竞争的神经网络,一个机器学习(ML)模型负责训练数据集,并创建深伪视频、图片,另外一个模型负责检测伪造品,直至无法识别出伪造品。两个模型互相推进工作。

尤其是,Github 等社区平台上开放大量开源的 Deepfake 技术代码,使得制作假视频的门槛大大降低,即便不是专业人士也可轻松制作出伪造影片。

不过,尽管生成对抗网络在不断进步,伪造品真假难辨,但一些视频、图片也总能发现破绽。

比如,出现面部晃动、非自然扭曲、平移;周围固定物体异动;光线、阴影异常;面部特征细节如斑、痣缺失。2019 年,国外出现每刷新一次生成一张假脸的网站,该生成对抗网络技术来自英伟达。虽然生成的人脸细节完美,但仔细辨别会发现,人物背景边缘模糊,经常会出现面部器官、背景缺陷。

技术难点之外,科技公司鲜有成功的 Deepfake 商业模式,此外,因涉及人脸重要信息,科技公司还面临诸多风险。

人脸是一门好生意?

Avatarify 这类正规渠道的 APP 一般通过免费增值服务模式收费,Avatarify 下载、首周使用免费,额外服务如去除视频、GIF 水印需要付费,一周的使用价格 18 元人民币,包年价格 253 元。

MyHeritage 则通过免费的怀旧主题病毒式营销,推动用户注册其他付费业务,MyHeritage 主营业务为 DNA 测试。当然,获益的可持续性与应用能否持续火爆相关,不幸的是大部分 Deepfake 应用往往只能火一阵时间。

其实,Deepfake 产业更多存在于黑灰色地带。

过去几年,网络犯罪分子采用勒索软件敛财,现在他们盯上了 Deepfake 技术。通过伪造视频、企业高层语音,要求企业财务人员资金转移,或者伪造企业团队核心负责人照片,进行犯罪活动。

信息安全公司趋势科技调查发现,暗网中存在很多深伪视频和图片示例,网络犯罪分子在暗网上以超低价格出售 Deepfake 技术,深伪视频 50 美元起步,伪造静态图片每张 2.5 美元,Deepfake 软件 25 美元起步。

加拿大媒体 VICE 记者 Evan Jacoby(埃文·雅各比)曾在网络上定制 Deepfake 成人影像,仅花费 30 美元。埃文还发现,Deepfake 软件通常需要数百张照片训练模型,但单个视频可以绕开这种局限性,一个长达 15 秒的 Instagram 视频可以将视频主角的脸部渲染到另一个视频上。

理论上讲,只要用户在社交媒体上发布了脸部视频,有人保存了视频,那么,这个用户的脸就有可能出现在各种各样的视频中。

Deepfake 技术带来的用户隐私数据安全问题成为不能忽视的命题。

ZAO 因用户隐私协议中声称可拥有 APP 上所有生成图片所有权,可在未经用户允许情况下,将图片分享给第三方企业,引起极大争议,上线三天匆匆下架。

尽管,Avatarify、MyHeritage 声明用户数据不会上传至云端,也不会提供给任何第三方组织。但拥有大量用户生物数据的科技公司极容易被黑客、黑产盯上。2018 年,MyHeritage 遭遇大面积用户数据泄露,不久后,有人发现暗网中正出售泄露的用户隐私数据。

不仅仅是 Deepfake 技术,只要涉及人脸数据使用问题,科技公司需要慎之又慎。

2015 年,Facebook 因未征得用户同意擅自收集和存储用户人脸数据,被三名美国伊利诺伊州公民以违反《生物识别信息隐私法》告上法庭,随后百万用户对 Facebook 提起集体诉讼。经过长达六年的马拉松式诉讼,最终裁决 Facebook 赔偿用户 6.5 亿美元,每个用户可获得约 340 美元赔偿。

AI 技术终究是中立的,Deepfake 技术可以复活影星、名画、逝去的亲人,Deepfake 也可出现在不见光的暗网中,从事各类违法犯罪活动。而对于科技公司而言,游走在商业利益和用户隐私安全、法律法规之间,绝非易事。人脸数据归属权应该是用户,不论这些数据能否变现,使用数据时,用户需拥有充分的知情权。

+1
5

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

下一篇

“电影质量决定能飞多高,电影营销决定能飞多远。”

2021-03-03

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

为你推送和解读最前沿、最有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚集全球最优秀的创业者,项目融资率接近97%,领跑行业