“Web 2.0之父”蒂姆·奥莱利:旧硅谷已经到头,未来技术需要新的路线图(二)

神译局2021-03-23
算法是快AI,企业、政府、市场是慢AI。

神译局是36氪旗下编译团队,关注科技、商业、职场、生活等领域,重点介绍国外的新技术、新观点、新风向。

编者按:硅谷无疑是最近几十年的创新中心,是很多影响世界的发明创新的发源地。但最近10年,情况却发生了变化,硅谷越来越做不出真正有用的创新。就像知名风投家彼得·泰尔(Peter Thiel)在《从0到1》所说那样:“我们想要飞行的汽车,结果却得到了140个字符。”Web 2.0概念的提出者,互联网思想家蒂姆·奥莱利(Tim O’Reilly)更是提出,也许我们所熟知的硅谷已经走到尽头了,并给出可能会塑造硅谷未来的四种趋势以及通往未来的路线图。原文发表在oreilly网站上,标题是:The End of Silicon Valley as We Know It。篇幅关系,我们分四部分刊出,此为第二部分。

“Web 2.0之父”蒂姆·奥莱利:旧硅谷已经到头,未来技术需要新的路线图(一)

“Web 2.0之父”蒂姆·奥莱利:旧硅谷已经到头,未来技术需要新的路线图(三)

“Web 2.0之父”蒂姆·奥莱利:旧硅谷已经到头,未来技术需要新的路线图(四)

划重点:

任何足够先进的技术都与魔术都无异

如果对我们的机器助手缺乏了解,我们可能会被它们推向悬崖

由于平台企业没法自我监管,所以它们在行善和作恶的可能性方面会受到限制

人工智能的机会是帮助人们对复杂的交互系统进行建模和管理

反垄断正在准备解决的问题有太多是因为这个:利润最大化

硅谷是我们的经济以及公司治理存在问题的映射,而不是根源

算法(快AI)对于塑造服务的作用,与法律、税收与货币政策(所谓的慢AI)对社会的塑造作用相似

控制“我们自己制造的魔鬼”

机器学习在科学研发中的机会巨大。但是,机器学习也挑战我们当前依靠人类理论化和实验的科学方法。机器学习模型也许能成功做出预测,但却无法解释结果。亚瑟·克拉克(Arthur C. Clarke)在写出“任何足够先进的技术都与魔术都无异”这样的话时,他是否设想了这样一个未来,一个我们自己的科学会让我们的理解跟跟不上的未来?就像朱迪亚·珀尔(Judea Pearl)所指出的那样,对相关性的过度识别(比方说“曲线拟合”)会让真正因果关系的定义变得更具挑战性。而“真正的科学”需要因果关系。

我怀疑我们会跟机器学习开启的科学达成妥协,就像我们跟让我们看到远远超出肉眼所及的的工具达成的妥协那样。但是,如果对我们的机器助手没有更好的了解的话,我们可能会让它们走上一条把我们推向悬崖边缘的道路,就像我们对社交媒体和支离破碎的信息环境所做的那样。

那种支离破碎的局面之前我们可没预料到——互联网的先驱预期的是自由和集体智慧,而不是让我们所有人都受到大公司的支配,让后者靠虚假信息牟利。我们发明的不是我们所希望的。互联网成为了我们的噩梦而不是美梦。我们仍然还有机会恢复,但是至少到目前为止,硅谷似乎是问题的一部分,而不是解决方案的一部分。

技术平台可以控制我们自己制造的魔鬼吗(编者注:此话出自理查德·布克斯塔伯《我们制造的魔鬼》)?这也将是会塑造未来几十年的挑战之一

美的政府监管机构已将目光投向了Facebook、谷歌、亚马逊以及苹果,但如果监管机构依据的是平台早已逾越的旧理论和传统理解的话,则监管做出的回应是不够的。美国的反托拉斯理论主要是看是否对消费者造成伤害,在以零成本向消费者提供服务,而对这些消费者进行试验的边际成本也接近于零的市场上是很难证明这一点的。欧洲新兴的监管工作正确地把重点放在了占主导地位的科技公司作为“守门人”的角色上。这种做法旨在系统地限制他们塑造市场偏向自身优势的能力。但是,他们的补救措施很迟钝,评估损害的过程很可能跟不上损害本身的发展速度。

市场是生态体系,而且就像其他的生态体系一样,到处都有隐藏的依赖关系。谷歌滥用自身垄断地位的危害不会首先表现在对消费者的危害上,而是会导致利润下降,研发投资减少以及压低谷歌曾经引流的web公司的工资上面。至于亚马逊,这会体现在提高产品搜索结果展示的费用和广告成本上。

这些损害了交易平台的供应方,因为硅谷鼓励“赢家通吃”的模式,大部分的收益都让赢家拿走了,后果最终会层层反馈到消费者这里的。但是,由于这种痛苦是广泛分布的,而且由于平台不需要报告会让这一点暴露的信息,所以在多数损害已经不可逆转之前,问题不会表现得很明显。

当“超级明星公司”不遗余力对提出新想法的小公司发动打击,不仅让后者无人可用,而且经常引入模仿的产品和服务时,整个市场的创新就会减少。城市被新一类的大公司高薪员工占据,住房成本上涨,低薪工人被迫离开。为了推动巨头的增长,利润较低行业的工人工资受到挤压,工作条件变差。他们的工作变得不稳定,用完即被弃,他们的工作从一开始就是不平等的。掌握避税技巧的巨头让政府拿不到财源。这份清单还可以一直列举下去。

在社交媒体平台的情况下,为了牟利而操纵用户已经让对事实的尊重收到了损害。曾经善用用户集体智慧的硅谷,现在开始利用自己对用户的深刻了解来“跟他们交易”。(早在2007年那是,在跟风险投资家和经济学家Bill Janeway讨论了关于互联网的未来我们可能会从华尔街那里学到什么之后,我就预测了大概会有这样的转变。)

作恶的远远不止是技术。技术不过是我们作为社会的价值观最明显的一面镜子。自1970年米尔顿·弗里德曼(Milton Friedman)给企业设定了目标函数(“企业的社会责任就是增加利润。”)之后,科技巨头表现出来的剥削行为就一直是现代资本主义的常态。 但这一点很遗憾,因为科技行业本来就是要对某个东西更好地建模的。开源软件和万维网的慷慨,通过算法放大集体智慧的天才还在,这为通往未来经济(Next Economy)指明了道路,但这应该是我们主动选择的经济,而不是顺着会把我们带到错误方向的系统的轨迹走下去。

预测:由于平台企业没法自我监管,所以它们在行善和作恶的可能性方面会受到限制。

对于硅谷来说,这是一个悲伤的时刻,因为我们看到的不仅是它那充满朝气的理想主义的消亡,而且还看到它错失了一个的机会。几年前,美国国防部高级研究计划局(DARPA)前项目经理保罗·科恩(Paul Cohen)在美国国家科学院的一次会议上发表了一项有力的声明:“人工智能的机会是帮助人们对复杂的交互系统进行建模和管理。

这项声明概括了当谷歌、亚马逊和Facebook等公司沦为弗里德曼理论的牺牲品,而不是为自身的算法设定更雄心勃勃的目标时,所挥霍掉的巨大潜力

我说的不是AI的未来突破,而是指这些互联网看门人所展现出的在市场协调方面的根本进步。本来这些能力可以为了所有人利益,用于更好地对复杂交互系统进行建模和管理。但是,它们经常屈服于旧的剥削范式。

什么意思?解释起来需要花一点时间。

自由市场经济学家认为,生产者和消费者愿意就交换商品或服务的价格达成共识(在理想化的市场里,它的特点是完全竞争的,没有力量或信息的不对称性),这会带来社会资源的最佳分配。自我利益供应链的复杂方程式的解就是这些市场价格。实际上,金钱就是亚当·斯密那个“看不见的手”背后的协调力量。

就像这句话一样:“理论与实践之间的差别在实践上总是大于理论上”,经济学家认识到,完全竞争只存在于理论上,当成本由买卖双方以外的人承担时,就会存在“外部性”,所以没有几个市场是完全有效的从很多方面来说,国家的作用就是解决市场的不足。黛安娜·科伊尔(Diane Coyle)的《市场,国家与人民》(Markets, State, and People)就对经济政策制定者在介入时如何进行权衡做出了很好的说明。但是,哪怕在最好的情况下,干预措施(税收,货币政策和法规)也是零敲碎打的,需要数年或数十年才能达成共识并付诸实施。(碳排放费就是一个很好的例子。)

谷歌的搜索引擎为我们提供了一个令人信服的展示,让我们看到管理经济体系的一种一种根本不同的方法。动态的,不断完善且融合了AI的Google算法系统表明,可以用20世纪经济学家无法想象的方式来管理经济。谷歌受控的中心化搜索引擎每秒要进行进行40000次的搜索,每天就是35亿次,在定价市场上进行交易的去中心化的,自利的参与者之中,这种魔法长期以来一直被认为是一个独特存在。

灵光闪现的谷歌建立了这样一套算法系统,通过利用数百种不同的信息信号来让数千万的信息提供者与数十亿的信息消费者之间达到了最佳匹配,但价格却不是信号之一。这并不是说Google并不参与货币经济。远非如此。但是在Google成立的前十五年当中,按点击付费广告的定价市场一直是副业,搜索匹配市场才是它的主业。Google当初的天才在于让两个市场同时跑,一个是靠集体智慧(有机搜索)协调的市场,另一个是靠金钱(每次点击广告付费)协调的市场。当有经济动机的生产者为了牟利而操纵有机搜索结果时,谷歌用户的利益就受到了损害,他们产生的页面满足了算法的要求,但却不能满足消费者的要求,此时谷歌就会坚决地升级算法,去关注消费者的利益。

可以肯定的是,万维网和社交媒体上的大量内容的产生和消费都是带有商业目的的,但是也有显著的内容完全是没有利润动机的。谷歌经济学家曾经告诉我,只有6%的Google搜索结果页是带有广告的。其余94%的网页都是令人愉悦的人类富足的产物,是人们为了快乐而创作和分享出来的。如果说一个可能的富足经济曾经有过先兆的话,我们可以在互联网共享经济的最好之处看到它。

不过,近年来,谷歌开始逐渐模糊它所管理的这两个信息市场(免费搜索的市场以及广告的定价市场)之间的界限。这使得具有商业价值的搜索结果的有效性低于没有纯粹经济价值的搜索结果。也就是说,在没有被金钱扭曲的情况下,谷歌对信息生产者和消费者的批评似乎更加有效。

亚马逊也是这样。跟谷歌不一样的是,亚马逊一直把价格作为对搜索排名的重要信号,但他们很明智地将价格与其他消费者(关于什么才是最好的产品)的集体意见进行了结合,从而创造出一个比以前的任何消费品产品更有效的市场。不过近年来,随着搜索广告已经成为一个新的主要的收入来源,亚马逊也不再利用集体智慧的工具来为自己的客户寻找最好的产品。现在,它的搜索已经主要由“精选”产品所主导,也就是说,生产者已经开始通过付费把自己的产品展示在消费者面前。现如今,广告已经成为亚马逊利润的最大驱动力之一,很难像该公司还能继续像贝索斯曾经骄傲地自诩那样,仍将是这个地球上最以消费者为中心的平台。去年,我曾在《反托拉斯监管机构正在用错误的工具来监管科技巨头》一问中详尽地谈到了这一问题。

反托拉斯行动和其他法规正在准备解决的问题,有太多主要是约束企业的经济和法律所强制要求的结果了:也就是“利润最大化”。

利润最大化的观念在社会已经太过的根深蒂固,以至于2014年,当Facebook的研究人员发表了一篇名为《通过社交网络进行大规模情感感染的实验证据》的论文时,大家迅速做出了狂暴的反应。通过Facebook动态消息的不同文章组合对读者有没有变得更快乐或更悲伤来进行测试,这种行为被认为严重违反了研究道德。大家的这种反应尤其令人震惊,因为似乎没人注意到硅谷其实是很明确地颂扬并教育创业者如何去操纵用户的情感状态的,并称称之为“增长黑客”,“A / B测试”或“创造习惯养成产品”。 没有人对这些实验抱怨过。只要它追求的是增长和利润,拿客户做试验就会被认为是最佳实践

由于这些实验的成本实在是太低了(这是企业的沉没成本),想都能想得到会出现实验错误和不可预知的后果。这些变成了一种新的外部性,一种经济学家和监管机构很少会考虑到的外部性。

事后看来,对情绪感染和对它的影响进行反思的部分正式的实验本来是个好主意。可惜相反的是,我们仍在继续对社交媒体的力量在全球范围内进行着无监督的实验,靠传播负面的情绪感染来获取利润,而平台仍在朝着积极的方向影响用户的任何努力却仍然被认为是不恰当的干预措施,或者会因为可能会减少用户活动,影响增长而被放弃。

比方说,据报道,在2020年美国总统大选期间,Facebook工程师曾对一种机器学习算法进行过训练,用来识别会被用户认为是对这个世界有害的帖子,但该公司发现,减少这种帖子的显示数量会减少用户的会话数,进而大概会减少收入和利润。于是,他们对算法进行了重新训练,从而既要减少“对世界不利”的帖子的呈现数量,但减少的程度又不至于会影响到用户会话。在选举之前的数周内,为了优化“新闻生态体系质量”,他们还曾经做过其他的变更,但在选举结束之后又撤消了变更。

 “股东价值”在公司治理当中已经根深蒂固,以至于专门定义了一种特殊类型的公司,“公益公司”,来保护那些除利润以外也考虑其他因素的公司。所有的“正常”公司都应该把员工、环境以及社会看作是成本,是要最小化,避免或消除掉的。

硅谷是我们的经济以及公司治理存在问题的映射,而不是根源,或者甚至都不是最糟糕的榜样。(这方面的头把交椅要由烟草、石油以及制药公司去争。)

在很多方面,监管机构仍然可以向硅谷学习。我们的经济也受到看不见的算法和嵌入其中的目标的影响。如果监管机构可以看出其中的相似之处——谷歌、亚马逊与Facebook的算法对于塑造服务的作用,与法律、税收与货币政策对于影响谁得到了什么的相似之处,为什么我们的社会有这样的行为,与为什么企业领袖会有这样的行为的相似之处的话,我们不仅可以利用当前这一刻来改进硅谷,还可以改善我们整个经济的公平性与目标。

就像我去年在《我们已经让妖怪从瓶子里面逃出来了》一文(给洛克菲勒基金会关于AI监管的一场研讨会准备的论文)中写的那样,我们的企业、政府还有市场就是科幻小说家查理·斯特罗斯(Charlie Stross)所谓的“慢AI”(slow AI,斯特罗斯说其实企业就是一个运行速度很慢的人工智能,我们建设这台“机器”的时候其实是给它设定了一个目标的,也就是利润最大化,为此企业会为了这个目标最大化而不管伦理道德等其他关切,这个跟AI的那个回形针最大化器的隐喻没什么区别)。 我提出,如果不重塑它们赖以运行的规则的话,我们就无法对其进行监管:

 “治理的尝试……是徒劳的,除非我们能够认识到我们已经制造出了一台机器并将其投入使用。相反,我们假装认为市场是个自然现象,最好放任不管,而我们也没法让市场机制的设计者对此负责。我们得把这台机器拆卸掉重新安装,重新编程,让人类繁荣而不是企业利润成为这台机器的目标。我们需要理解这一点,也就是我们的价值观不能只是说说而已,还必须用我们的机器可以理解和执行的方式去实现。”

硅谷仍然可以领导这一努力。但大型平台必须理解,自己的社会责任是创造的价值比自己索取的更多,是要让自己的算法系统专注于改善人类福祉,找到衡量和沟通自己所创造创造的价值的方法,并帮助我们的整个社会更好地“对复杂的交互系统进行建模和管理”

加利福尼亚州第22号提案(豁免基于应用程序的运输公司和快递公司向特定驾驶员提供员工福利,2020年此项提案获通过)之争说明了监管对策的危险在何处——在于他们只是想让时光倒流,却没有考虑如果技术处理的当的话有可能会指明前进的方向。这项提案的通过推翻了原先要求零工经济公司把工人当作雇员而不是独立承包商的州法令。

传统的劳动保护和福利假定的是一个人只为一名雇主工作的世界。试图把这些假设强加给依赖零工的公司,会被这些公司视为自己的生存的威胁,于是它们发起了大规模的运动来反对这项新规则。而他们的客户对此也表示同意,法规是根据公众意愿撤回的。

为了提供福利的灵活化,零工经济公司已经采取了若干小步骤,但是如果这些公司及其零工工人和客户(更不用说监管机构)共同努力,去建立起可以让福利像雇员一样动态管理的系统的话,这种成果跟后者可能取得的成果相比只会相形见拙。像德国的那种模式(stakeholder capitalism,利益相关者资本主义)下,工人是在管理这一侧,而不是跟所服务的公司抗衡的。是不是可以设计出21世纪版的利益相关者资本主义,一个不是零和,而是“对复杂交互系统建模和和管理”,从而为所有人找到更好解决方案的模式呢

正如我五年前在《在连续兼职就业的世界里的工人》那篇文章中指出的那样,我们需要一个更加健壮的福利制度,这项制度应该以员工为中心,而不是以公司为中心。零工经济公司不是异类。连续的兼职就业已成为大多数经济领域的常态。弗里德曼主义的兴起,再加上工会的消亡,这些已经重置了公司及其员工之间的权力平衡。立法和监管对策需要系统地解决整个劳动力经济当中的这种权力失衡问题,利用技术的能力在公司及其员工之间建立其新的合作模式,并建立一个安全保障体系来吸引所有的人,而不仅仅只有少数的幸运者。

译者:boxi

+1
3

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

文章提及的项目

下一篇

把AI送到县城去上幼儿班。

2021-03-23

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业