Google、Instagram、Twitter 前员工揭秘,互联网如何利用你的心理来对付你

爱范儿 · 2021-02-18
人工智能可以解决问题,也能制造问题。

编者按:本文来自微信公众号“APPSO”(ID:appsolution),作者:吴淇,36氪经授权发布。

「时间就是金钱」这句谚语,在 2011 年被拍成了科幻片《时间规划局》。电影构筑的未来世界中,「时间」完全等同于金钱,辛苦工作赚「时间」,再用「时间」买买买。

▲ 电影《时间规划局》(2011)

好像只会出现在科幻片的奇思妙想,却在当下以另一种形式成为现实——我们的注意力和时间,暗地里被兜售给广告商赚取金钱。 但这仅仅是冰山一角,屏幕那端藏着太多见不得人的谜团。

有多少次看到广告、收到推送,会觉得手机在窃听自己的生活?

明明是悄悄关注某人,还是会毫不遗漏收到他/她的动态。亲朋好友的生日总有即时的提醒,说不定还会有礼物推荐。甚至还有一个说法,对着男友的手机多念叨自己想要的礼物,男友就会收到相关推荐。

这一切背后的秘密,都在去年 9 月 9 日上映的《监视资本主义:智能陷阱》(以下简称《智能陷阱》),这部 Netflix 高分纪录片中得到揭晓。

▲ 《监视资本主义:智能陷阱》海报. 图片来自:Netflix

虽然被定义为纪录片,看完这片子却不禁惊叹,纪录片还可以这样拍!

既有科幻片十足的虚构画面,又有贴合讲述的改编故事,还有借鉴剧情片的精彩剪辑。看了 app 标记后戳进去的这一段,不正是《梦之安魂曲》对毒瘾的描绘吗?

▲ 纪录片《监视资本主义:智能陷阱》

▲电影《梦之安魂曲》(2000)

而且还会不时来个打脸环节——那边 Facebook 创始人马克·扎克伯格刚声称「人工智能可以解决问题」,《数学杀伤性武器》( Weapons of Math Destruction )的作者 Cathy O’Neil 博士立马现身,有理有据地解释「这是骗人的」。

▲ 纪录片《监视资本主义:智能陷阱》中马克·扎克伯格和 Cathy O’Neil

看完片子疯狂安利的观众不在少数,在推特上搜索片名,就会看到一堆「你一定要看」、「你一定要看」、「你一定要看」……分享热情丝毫不亚于传教的狂热信徒。 还有人将这部纪录片跟「开眼看世界」这个词语挂钩。

这部片子解释了远远超出为什么一分钟从 Google 搜索最佳沙发,下一分钟就会在 Facebook 信息推送中看到沙发广告这个问题。

——烂番茄上美联社马克·肯尼迪的热门评论

国人请自动将 Google 替代为百度,Facebook 替代为微博小红书、抖音等等,是不是有那味儿了?读完接下来的揭秘,你也有望成为另一位 Cathy O’Neil 博士,振振有词地戳穿科技大佬们的谎言。

Netflix 的高招:用科技公司如何竞争注意力的揭秘,来赢取注意力

《智能陷阱》请来很多业界核心人物,曾服务过 Facebook、Instagram、Google、YouTube、苹果、推特、火狐、Pinterest……如果主演一栏只能写上一位,那必定是前 Google 设计道德伦理学家、人道技术中心的创始人特里斯坦·哈里斯(Tristan Harris)。

▲ 特里斯坦·哈里斯(Tristan Harris)

聊到特里斯坦与 Netflix 的「过节」,那得回到 2017 年特里斯坦在 TED 上发表的演讲《科技公司如何控制你的注意力》,将 Netflix 作为抨击对象,还引用 Netflix CEO Reed Hastings 那段时间说过的一句话:「我们最大的对手是 Facebook, YouTube 和睡眠」。

不少人误以为 Netflix 的竞争对手是网络媒体,但他的竞争对手名单上有所有会瓜分人类注意力的事物。

这些科技公司之间的竞争,特里斯坦也给出了简单的例子——YouTube 增加自动播放下一个视频的功能,来提升用户停留的时间,Netflix 看到后也开始自动播放下一集,Facebook 发现后自动播放推送中的所有视频,连用户按下播放键的片刻也要全数扼杀。

看似简单的功能设计,背后有门不简单的学问,名叫劝服性技术。特里斯坦恰好就是这方面的天才,在谷歌工作期间他就负责这一块——名正言顺地用技术结合心理学,去左右人们的想法。

我们今天不停刷微博、淘宝的「刷」这个动作,因为「对方正在输入……」便在对话框内等待的行为,收到照片被圈、群里被 @ 之后会进入互动环节等等,都是被这群工程师精心设计过的,用来竞争用户花在自家产品上的时间。

Netflix 明明知道自己也是被抨击对象,却在揭秘上不懈努力。先在 2019 年拍了《隐私大盗》,就 Facebook 干扰川普大选、脱欧投票等政治活动进行揭秘,再在 2020 年上了这部《智能陷阱》,赚了无数观众的 94 分钟。

由科技公司主导、科技专家坐镇(阵)的《智能陷阱》,也在说服力和可信度上,给了观众一颗定心丸。

▲ 《智能陷阱》中的部分受访工程师

世界上最值钱的是数据,石油被挤到第二位了

特里斯坦在 TED 演讲的第一段描述非常硬核——他将屏幕那端比作控制室,里面有一群人在工作,如何去决定用户的思想和情感。《智能陷阱》则将这个如同存在于科幻片的房间,在影片里面做了出来。

在科技大咖持续讲解的同时,片子还虚构了一个受困于「智能陷阱」的家庭。其中名叫本的男孩还是一个学生,却已经是 Facebook 的重度上瘾者。他在屏幕那端,被工程师造出了一个仿若巫毒娃娃的模型。

看什么东西,看了多久,看的速度,都会被记录下来作为数据,打造越来越精准的模型。模型越精准,预判能力也会更优秀。预判能力用更通俗的话来解释,就是越来越像肚子里的蛔虫那般懂你

我们在生活中或多或少会埋汰,身边亲近的人不懂自己。反过来思考,为什么这些平台可以这么懂我们?答案很简单,懂我们可以让它们赚钱,甚至于单靠懂我们就可以赚钱。

最有钱的公司就是技术公司,Google Docs、Facebook、亚马逊、Tesla。

这些公司成为世界上最有势力的公司,是因为去年数据在价值上超越石油。

数据是地球上最宝贵的资产。这些公司很值钱,因为他们在剥削人们的资产。

——前剑桥分析的商业发展总监布瑞特妮·凯瑟(Brittany Kaiser)在纪录片《隐私大盗》中的讲述

《让世界天翻地覆的数据》. 图片来自:纪录片《隐私大盗》(2019)

布瑞特妮曾经为参议员写了一个用来质询马克·扎克伯格的问题:「Facebook 的收益有多少直接来自将用户的个人数据货币化?」一旁的朋友惊呼:「全都是」。

每到年末年初的时候,朋友圈分享的那些来自网易云、豆瓣支付宝等平台的年度报告,不正是明晃晃的证据吗?

很多这种技术公司有三个主要目标。

有一个参与度目标,增加你的使用,让你一直滑动屏幕。

有一个增长目标,让你不断回来,尽可能多地邀请朋友,让他们再邀请更多的朋友。

还有一个广告目标,确保一切按照预期发展。我们尽量多地从广告上挣钱。

每一个目标都由一个算法驱动。算法的作用是找出,给你展示什么,让数据上涨。

——特里斯坦·哈里斯

影片在个性化定制世界的摧毁中结束

有了很多很多的数据,将用户的性格剖析完毕,能够预测用户的行为,如何换取商业价值?我们终于聊到最关键的一步:个性化定制。

个性化定制表面看上去是个褒义词,像测量体型定制衣服一样,量身定做了一个专属于我们每个人的内容页,根据我们的性格、喜好以及当下的需求,推送不同的信息。

维基百科就是一个反向的例子,百度百科也是一样的道理。

当你打开一个维基百科网页,你和别人看到的东西是一样的。所以,这是网络上少有的,我们统一共享的东西。

现在想象一下,维基百科说:「我们要给每一个人不同的个性化定义,有人给我们钱,让我们这样做。」维基百科就会监视你,会计算「我要做什么,才能代表一些商业利益让这个人产生一点改变?」对吧。

然后就会改变整个词条。你能想象吗?你应该能够想象得到,因为在 Facebook 页面上,就是这样的。你的 YouTube 推送,就是这样的。

——《立刻删除你社交媒体的十个观点》作者贾伦·拉尼尔(Jaron Lanier)

即便是两个非常亲近的朋友,他们两个有着完全相同的朋友圈子,他们会认为「我们在脸书上的新推送上,会看到完全相同的信息」。但事实远非如此,他们会看到完全不同的世界,因为这是基于计算机的计算,对每一个人来说,最完美的呈现。

——特里斯坦·哈里斯

反复迭代升级后,会个性化呈现给每个人最完美的世界。这个世界里,每一个人都认同你,在收到的推送消息中,每个人都跟你极其相似。让你认同的完美世界,会在你放松警惕的时候,反过来影响你,以实现它的商业目标与价值。

因为这跟量体裁衣不一样的是,我们没有花钱,只是用户,而广告商或者政客掏钱了,他们才是客户。客户才是社交媒体的「上 帝」。

在片子里面虚构的小家庭里,妈妈想让孩子们摆脱手机上瘾的状态,但都失败了。

女孩艾拉砸碎锁住手机的玻璃罐,拿到房间里面自拍、修图、等点赞。点赞太少便删掉再拍、再修图、再发布。渐渐地,她开始无法接受自己真实的模样。

我们制作「点赞」按钮的时候,我们全部的动机是「我们可以在世界中传播积极和爱吗?」

时间快进到当下,青少年会因为没有得到足够多的点赞而抑郁。

这个想法或者或导致政治两极分化,当时是完全无法想象的。

——前 Facebook、Google 工程师、Asana 联合创始人 Justin Rosenstein

男孩本在放下手机的空虚三天后,重新沉迷到了社交网络中。之后,他还被推送的阴谋论信息所影响,因为人工智能会为了吸引人注意不惜推送虚假消息,直至在抗议集会中被捕。

这个故事结束的方式也颇有深意。屏幕那端的控制室被销毁了,「巫毒娃娃」被放了下来回到真实的状态。

不禁联想起电影《楚门的世界》,从出生便活在「直播」中的楚门,终于走出了「片场」这个虚构的世界。

▲ 电影《楚门的世界》(1998)

也许,我们与其对假想的未来中的人工智能感到担心, 不如解决当下就存在的人工智能问题, 就是那些争夺注意力的新闻推送。

解决这个问题 是解决其他问题的关键所在。归根到底,在一生中, 我们共同拥有的就是注意力和时间。时间会被我们自己充分利用吗?

——特里斯坦·哈里斯

在片子中,这些科技大咖对提出完全解决问题的方法也会摇头、叹气,但他们对个人也给出了一些很有用的小建议:

关闭通知或尽可能减少不必要的通知,卸载不必要且浪费时间的 app

使用浏览器扩展程序阻止推荐,不在 YouTube 等平台接受推荐的视频

获取具有不同观点的信息来源,关注跟自己不同观点的人

分享、点赞或评论前,先核查信息的真实性

为自己以及孩子规划使用智能设备的时间

多亏了这群走出来发声的勇敢工程师,他们亲手搭建了让大家上瘾的数据世界,也担起自己的责任,离开那个世界,走到我们面前,让大家都成为知情者。只有知悉问题,才能在不久的未来走出困境。

+1
28

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

聚焦创新及消费科技领域
爱范儿特邀作者

聚焦创新及消费科技领域

文章提及的项目

下一篇

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

为你推送和解读最前沿、最有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚集全球最优秀的创业者,项目融资率接近97%,领跑行业