我们无意间建造了一个世界规模的机器人

boxi · 2017-02-07
我们正在建设一个能感觉、会思考、可行动的互联网。

编者按:对物联网的讨论有很多,但考虑到目前有那么种类型的电子产品被连上网时不仅令人感到心生恐惧。灯泡、DVR、摄像头、麦克风等都接入了互联网,但有谁真正思考过其隐含的意义吗?时至今日,一切都是计算机——我们正在建设一个可感知、思考和行动的互联网。我们在建造一个世界规模的机器人,但我们甚至还没有意识到这一点。密码学家、《应用密码学》的作者Bruce Schneier从技术和政治的层面审视了物联网给我们带来的巨大挑战,里面提出的东西值得所有人认真思考:在准备好之前,我们真的需要一个万物互联的世界吗?

去年的10月21日,你的数字视频录像机,或者至少是一个跟你的类似的DVR,把Twitter从互联网上踢下线了。有人用你的DVR,再加上数百万不安全的网络摄像头、路由器等连接设备,来发动了一场攻击,这场攻击引起了连锁反应,导致了Twitter、Reddit、NetFlix等众多网站从互联网下线。你可能并没有意识到你的DVR还有这么一种能力。但它的确是有。

所有的计算机都是可以被黑掉的。这既与技术有关,也与计算机市场脱不开干系。我们都希望我们的软件什么功能都有,而且价格还要很便宜,其代价就是安全和可靠性。也就是说,你的计算机会影响到Twitter的安全是一个市场失灵。这个行业到处都是市场失灵,但直到现在,基本上还为人所忽视。随着计算机继续渗透到我们的家庭、汽车,企业,这些市场失灵将不再可容忍。我们唯一的解决方案是管制,而这种管制会被一个在灾难面前不顾一切想要“做点什么”的政府强加给我们。

在本文中我希望能概括一下这些问题,无论是从技术上还是政治上,并指出一些管制的解决方案。管制这个词在当今的正值气候下也许有点脏,但安全是对我们的小政府偏见的例外。随着计算机的威胁越来越大且愈发的灾难性,管制是不可避免的。所以现在是时候开始考虑这个问题了。

Wimbledon还需要扭转把一切都连上互联网的趋势。如果我们会有危害甚至死亡的风险时,我们需要再三考虑我们连接的是什么,我们故意放着避免计算化的是什么。

如果这件事情弄错的话,计算机业看起来就会像制药业或者航空业一样。但如果我们把这件事情做对的话,我们就能维持给了我们那么多东西的互联网的创新环境。

现在不再是计算机嵌入东西里面了,而反过来,是将东西附加到计算机上面。

你现在的冰箱是一台让东西保持冷冻的计算机。类似地,你的烤箱是一台能让东西发热的计算机。而ATM是一台里面装有钱的计算机。你的汽车不再是里面装有一些计算机的机械设备,而是有4个轮子和一个引擎的计算机。实际上,这是一个拥有超过100台计算机,另外带有4个轮子和一套引擎的分布式系统。当然,你的手机在2007年,也就是iPhone诞生那年,已经变成了一台火力全开的通用计算机。

我们还穿戴计算机:比如我们会佩戴健身跟踪器和计算机使能的医疗设备,还有当然,我们都随身携带着智能手机。我们的家庭有智能恒温器、智能家电、智能门锁,甚至连智能灯泡都有。工作时,许多这些智能设备,以及可侦测客户行动的传感器CCTV摄像头等东西连接在一起的。城市开始给道路、路灯、人行道、广场嵌入智能传感器,还有智能电网和智能交通网络。核电站其实就是一台可发电的计算机,并且就像我们前面所列的其他东西一样,它也是连上互联网的。

互联网不再是我们连接的web。相反,它已经变成一个我们生活在里面的计算化、联网化且互联的世界。这就是未来,也就是我们所谓的物联网。

宽泛而言,物联网有三个部分。有收集我们以及我们环境相关数据的传感器:智能恒温器、街道和高速公路传感器,还有那些带有运动传感器和GPS接收机的、无所不在的智能手机。然后还有“智能”的部分,这部分的工作是找出数据意味着什么,以及对此该做些什么。这包括了这些设备上的所有的计算机处理器,以及云端的计算机(越来越往云端迁移),以及存储所有这些信息的存储。最后,还有影响我们环境的致动器。智能恒温器的要点不是记录温度,而是控制炉子和空调。无人车收集道路和环境数据是为了让它们能安全地驶向目的地。

你可以把传感器看作是互联网的眼睛和耳朵。你可以把致动器看作是互联网的手和脚。你还可以把中间那部分东西看作是它的大脑。我们正在建设一个能感觉、会思考、可行动的互联网。

这不就是机器人的典型定义嘛。的确,我们正在建造一个世界规模的机器人,而我们甚至还没有意识到这一点。

当然,这不是典型意义的机器人。我们把机器人视为具体的自治实体,在一个金属外壳里面包裹着传感器、大脑和致动器。但世界规模的机器人是分布式的。它没有单一的身躯,而且它的不同部分是由不同的人用不同的方式控制的。它没有一个集中化的大脑,甚至稍微类似意识的东西也没有。它没有单个的目标或者焦点。它甚至都不是我们刻意设计的什么东西。它是我们无意间从日常生活并认为理所当然的东西里面打造出来的一个东西。它是我们的计算机和网络到现实世界的延伸。

世界规模的机器人实际上不仅仅是物联网。它还是有着几十年历史的计算机趋势的结合:包括移动计算、云计算、永远在线计算、个人信息大型数据库、物联网等,或者更确切地说,是信息物理系统(cyber-physical systems)——它是自治的,人工智能的。尽管它还不是很智能,但会变得越来越智能。听歌我们编织的所有这些互联,它会变得越来越强大、越来越有能力。

它也会变得越来越危险,造成极大威胁。

自从计算机诞生以来就有了计算机安全问题。虽说安全不是原来互联网设计考虑的问题之一,但却是我们从一开始就想要实现的东西。

我搞计算机安全已经超过了30年:先是做密码学,然后是更通用一点的计算和网络安全,现在则是做一般安全技术。我们已经观察到计算机变得无所不在,并且见证了保证这些复杂机器和系统安全的第一手的问题和解决方案。我可以告诉你这一切是因为过去属于一个技术专门领域的东西现在已经影响到了一切。计算机安全现在是一切安全。但有一个关键的不同:其威胁更大了。

传统上们计算机安全被分为三个类别:机密性、完整性以及可用性。大多数情况下,我们对安全的主要关心都是以机密性为中心的。我们担心我们的数据以及谁访问这些数据——这是一个隐私与监视的世界,与数据盗窃和滥用有关。

但威胁会以很多形式出现。可用性威胁:删除我们数据的计算机病毒,或者加密我们数据并要求付费解锁的勒索软件。完整性威胁:黑客操纵数据实体可以进行从改变某类的等级到改变银行账户里面的金额之类的事情。其中的一些威胁时相当糟糕的。因为勒索软件对关键病历进行了加密,医院被迫支付给犯罪分子上万美元的钱。摩根大通每年要投入5亿美元用于对付网络安全问题。

今天,完整性和可用性威胁要比机密性威胁糟糕得多。一旦计算机开始以直接和物理的方式影响到世界,就会对生命和财产造成真正的风险。搞垮你的计算机盗走你的电子表格数据与黑掉你的起搏器和夺走你的生命有着根本性的不同。这并不夸张,最近研究人员在发现St. Jude Medical公司的可植入心脏设备中发现了严重的安全漏洞。只要赋予互联网以手和脚,它就有能力出拳和踢腿。

举个具体的例子:现代的汽车,那些有轮子的计算机。方向盘不再转动车轴了,油门踏板也不再改变速度。你在车内的每一个动作都由计算机来处理,实际控制汽车的是它。中央计算机控制着仪表盘。还有一个在控制着无线电。引擎大概有20台左右的计算机在控制。所有这些都是联网的,而且越来越自动化。

现在,让我们开始列举那些安全威胁。我们不希望汽车导航系统被用于大规模监视,而不希望麦克风被用于大规模监听。我们也许希望在拨打911电话时它被用来确定汽车的方位,可能再用来收集一下高速公路的拥堵情况。我们不希望有人黑自己的汽车或者绕开排放控制限制。我们不希望制造商或者经销商也能这么做,就像大众做了很多年那样。我们可以想象希望赋予经常远程地、安全地让一辆移动中的汽车丧失能力的能力;这能够让高速追逐成为过去。但我们当然不希望黑客能够做这件事。我们绝对不希望他们能在毫无预警、以任何速度行驶的情况下让刹车失灵。随着我们从驾驶员控制过渡到各自驾驶辅助能力乃至于无人车,我们不希望上述任何关键部件被破坏。我们不希望有人会意外地撞上你的车,故意就更不用不说了。同样地,我们不希望他们能操纵导航软件来改变你的路线,或者操纵车锁控制来阻止你打开车门。这个列表可以列得很长。

有很多不同的安全需求,而把它们搞错的影响从非法监视到勒索软件敲诈乃至于大规模死亡不等。

我们的计算机和智能手机之所以表现出应有的安全水平是因为微软、苹果以及Google等公司在发布之前花费了大量时间来测试自己的代码,并且的漏洞被发现时迅速打上补丁。那些公司可以支持大型的专门团队是因为他们要么直接要么间接通过自己的软件赚了很多的钱,并且部分由于他们攀比自己的安全。不幸的是,在DVR或者家庭路由器这样的嵌入式系统情况就不是这样了。那些系统卖出的利润本来就很低,而且往往是外包给第三方生产的。参与的公司根本就没有确保其安全的专业知识。

在最近的一次安全会议上,一位安全研究人员分析了30款家庭路由器,结果有一半都可以渗透进去,其中的一些还是最流行和常见的品牌。去年10月迫使Reddit和Twitter等热门网站下线的拒绝服务攻击就是由网络摄像头和DVR等设备的漏洞引起的。去年8月,两位安全研究人员演示了用一款勒索软件攻击智能恒温器的例子。

更糟糕的是,这些设备大多数都没有任何打补丁的方式。像微软和苹果这样的公司不断推出安全补丁给你的计算机。一些家庭路由器在技术上是可以打补丁的,但实现的方式却很复杂,只有专家才会做这样的尝试。而你更新自己会被黑掉的DVR固件的唯一方式就是把它扔掉然后买个新的。

市场无法修补这个是因为买家和卖家都不关心这一点。被用于执行拒绝服务攻击的网络摄像头和DVR的主人不关心。他们的设备买下来的时候很便宜,它们还能工作,而且他们并不认识攻击受害者中的任何一个。那些设备的卖家也不关心:他们现在卖的是更新更好的型号,而原来的买家只关心价格和功能。这里没有市场解决方案,因为这种不安全是经济学家所谓的外部性:这是一种影响到别人的购买决定效应。可以把这看作是看不见的污染。

安全是攻击者和防御者之间进行的一场军备竞赛。技术通过改变攻击者和防御者之间的平衡来扰乱这场军备竞赛。理解这场军备竞赛是如何在互联网上展开的,对于理解为什么我们正在建造的世界规模的机器人是如此的不安全,以及我们可以如何去保证它的安全必不可少。为此,我提出5个观点,这些都属于老生常谈,是我们已经了解到的有关计算机和互联网安全方面的东西。它们很快就会影响到诶一个地方的安全军备竞赛。

常识1:在互联网上,攻击比防御更容易

这一点有很多理由,但最重要的是这些系统的复杂性。更多的复杂性意味着涉及到更多的人,更多的部件,更多的交互,设计和开发过程更多的错误,更多的不安全因素的藏身之处。计算机安全专家喜欢谈系统的攻击界面(attack surface):攻击者可能瞄准的所有可能点,这些点必须确保安全。防御者必须保证整个攻击界面的安全。而攻击者只用找到一个漏洞——找到一条不安全的攻击大道,然后选择如何和何时攻击即可。这根本就不是一场公平的战争。

攻击比防御更容易还有其他一些更一般的原因。攻击者有着防御者往往缺乏的天然敏捷性。他们不关心法律,往往对道德或伦理也不在乎。他们不需要对付官僚主义,可以更迅速地利用技术创新。攻击者还有先发优势。作为社会,我们往往厌恶主动安全;我们很少会采取主动安全措施直到攻击真的来了。所以攻击者的优势更多。

常识2:大多数软件写得都很糟糕而且不安全

如果复杂性还不够的话,我们通过制作差劲的软件加重了问题。写得好的软件,就像在飞机航电设备上面的那些,都是既昂贵编写又耗时的。我们不想要那种软件。在很大程度上来说,写得糟糕的软件一直都是足够好的了。我们宁愿忍受有漏洞的软件也不愿支付好软件所需要的价格。我们不在乎自己的游戏会不会经常崩溃,或者我们的商业应用时不时会行为怪异。因为软件一直以来基本上都是温和的,基本上都没什么问题。这已经渗透到行业的各个层面。在大学,我们不教学生如何写好代码。公司不像奖励快和便宜那样奖赏优质的代码。我们作为消费者也不要求这个。

但写得糟糕的代码漏洞百出,有时候多到每千行代码就有一个漏洞。其中一些是软件的复杂性固有的问题,但大多数都是程序错误。不是所有的bug都是漏洞,但有些就是。

常识3:让一切通过互联网相互连接会暴露漏洞

我们联网的东西越多,某个东西的漏洞对其他东西的影响就越多。去年10月21日,多种嵌入式设备的漏洞被通通利用了起来,建立一个黑客所谓的僵尸网络。这个僵尸网络被用来发动一次针对Dyn这家公司的分布式的拒绝服务攻击。Dyn为许多重要的互联网网站提供了一项关键的互联网功能。所以当Dyn下线时,所有那些流行网站也一并下线了。

这些漏洞链到处都是。2012年,记者Mat Honan也因为其中一个而遭遇了大规模的个人攻击。他的Amazon账号的一个漏洞导致黑客可以进入他的苹果账号,后者又让黑客进入了他的Gmail账号。2013年,因为有人从自己的暖通空调承包商那里偷走了证书,塔吉特也被黑掉了。

像这样的漏洞尤其难以修复,因为实际上可能没有一个系统有责任。问题可能出在两个分别安全的系统不安全的交互上。

常识4:每个人都必须阻止全世界最好的攻击者

互联网最强大的属性之一是它让东西可伸缩。对于我们访问数据或者控制系统或者做任何我们用互联网来做的那些酷事的能力来说这是对的,但对于攻击来说也一样如此。一般而言,由于技术越来越好,更少的攻击者就能导致更大破坏。这不仅仅是因为现代的攻击者效率更高,还因为互联网让攻击扩大到没有计算机和网络无法做到的规模。

这与我们过去习惯的东西有着根本的不同。在提防夜贼入室时,我只会担心住得离我家足够近的窃贼有没有打劫的想法就行了。互联网却不一样。当我考虑自己的网络安全时,我必须把最好的攻击者考虑在内,因为这个人会开发人人都会使用的攻击工具。发现用于攻击Dyn的漏洞的攻击者把代码发布给了全世界,一周之内利用它的十多种攻击工具就冒出来了。

常识5:法律禁止安全研究

数字千年著作权法案(DMCA)是一项糟糕的法律,并未能达到其阻止大面积音乐影视盗版的目的。更糟糕的是,它的一个条款存在严重的副作用。根据该法律,绕开保护有版权作品的安全机制都是犯罪,哪怕本该是合法的绕开也算。由于所有软件都可以有版权,所以在这些设备上进行安全研究并发表成果也是非法的了。

尽管这项法律的确切边界有待商榷,但许多公司都利用DMCA这一条款来威胁研究人员公布其嵌入式系统中的漏洞。这使得研究人员逐渐感到害怕,对研究产生了寒蝉效应,这意味着两件事情:(1)这些设备的供应商更有可能放任设备的不安全不管,因为没人会注意,他们也不会在市场上受到处罚,(2)按去昂城市学不到如何更好地确保安全。

不幸的是,公司一般都喜欢DMCA。针对逆向工程的条款让他们避免了粗劣的安全曝光所带来的尴尬。这还使得他们可以开发专有系统来锁定竞争。(这一点很重要。现在,你的烤面包机还不能强迫你智能购买特定品牌的面包。但因为这项法律以及嵌入式计算机,你的Keurig咖啡机可以强制你购买特定品牌的咖啡。)

通常而言,安全有两种基本范式。我们要么第一时间就努力确保某样东西的安全,要么我们可以让我们的安全敏捷化。第一种范式来自危险东西的世界:飞机、医疗设备、建筑。这种范式为我们提供安全设计和安全工程,安全测试和认证,执业证明,详细的预先计划以及复杂的政府许可,以及漫长的进入市场时间。这种安全是给危险世界准备的,确保事情搞对至高无上,因为如果出错的话是要出人命的。

第二种范式来自于快节奏且迄今属于良性的软件世界。在这个范式中,我们有快速原型开发,实时更新,持续改进。在这一范式中,时刻都会有新的漏洞被发现,安全灾难经常会发生。这里我们强调的是存活的能力,可恢复性,缓解,适配性以及应付过去。这是为只要你的响应足够快搞错也OK的世界准备的安全。

这两个世界正在发生碰撞。它们在我们的汽车身上发生碰撞,在我们的医疗设备、我们的建筑控制系统、我们的交通控制系统以及我们的投票系统发生碰撞,这一点都没有夸张。而尽管这些范式之间极为不同互不相容,我们也需要找出如何让它们协作的办法。

到目前为止,我们做得还不是很好。我们仍然基本上要靠为汽车、飞机以及医疗设备内危险的计算机准备的第一种范式。因此,就出现了不能有安全补丁的医疗设备,因为这会导致其手上的政府许可无效。2015年,克莱斯勒找回了140万辆汽车以修复一个软件漏洞。2016年9月,Tesla在一夜间远程发送了一个安全补丁给其所有的Model S汽车。Tesla当然觉得自己做得没错,但这一远程打补丁的功能又会打开了什么样的漏洞呢?

直到现在我们基本上还是把安全交给市场。因为我们购买和使用的计算机和网络产品实在是太差劲了,导致了一个庞大的计算机安全后市市场的出现。政府、公司和用户购买自己认为需要的安全来保护自己。我们目前还算应付得过去,但尝试确保这一世界规模机器人的安全所固有的市场失灵很快就会变得大到无法忽视。

光靠市场也解决不了我们的安全问题。市场是由利润和短期目标推动的,社会将为此付出代价。它们不能解决集体行动问题。它们不能处理经济的外在性问题,比如DVR的漏洞导致了Twitter的下线。而且我们也需要对企业势力进行平衡。

这一切都指向了政策。尽管任何计算机安全系统的细节都是技术性的,但让技术得到广泛部署却牵涉到法律、经济、心理学以及社会学。而且政策制订得当跟技术做得到位一样重要,要想互联网安全行之有效,法律好技术必须携手合作。这可能是我们从斯诺登曝光NSA获得的最重要的教训了。我们已经知道技术会颠覆法律。斯诺登则证明了法律也会颠覆技术。这两方面都有效才能成功,任何一方不行都会失败。所以仅仅靠技术是不行的。

尽管很多人会提出反对,但要想确保这一世界规模机器人的安全,政府监管是唯一可能的解决方案。但在互联网上实施会特别困难,因为其无需许可(permissionless)的属性正是它最好的东西之一,是其最具颠覆性创新的基础。但是如果互联网以直接和物理的方式影响到世界时,我看不到这还何以为继。

我们还应该开始断开系统。如果复杂系统的安全还不足以达到现实世界所需的水平,那我们就不应该建设一个一切都是计算化和互联的世界。

我们还有别的模式。我们可以推动仅进行本地通信。我们可以对数据采集和存储做出限制。我们可以精心设计系统让它们不能互操作。我们可以审慎地束缚设备,扭转当前把一切变成通用计算机的趋势。还有,最重要的是,我们可以朝着更少中心化更多分布式系统迈进,这正是互联网当初的愿景。

在大家竞相连接一切的今天,这听起来像是异端邪说,但大型中心化的系统不是不可避免的。技术精英正在把我们往那个方向推,但除了自己那不断壮大的跨国企业的利润外,他们拿不出任何有力的证据来证明自己。

我的猜想是我们很快就会达到计算化和连接性的高水位线,此后我们就会对连接什么以及如何连接做出有意识的决定。但目前我们还处在连接性的蜜月期。

世界规模的机器人更像是造出来而不是设计出来的。它的出现未经任何事先考虑或者架构设计或规划。我们当中的大多数完全都没有意识到我们正在建造什么。实际上,我不相信我们能造出这么一个东西来。当我们试图设计像这样复杂的社会技术系统时,我们经常会对它涌现出来的属性感到惊讶。我们能做的顶多是尽可能观察和引导这些属性。

市场思维有时候让我们忽略了人的选择,自主化已经危在旦夕。在我们被这个世界规模的机器人控制或者干掉之前,我们需要对我们共同的管理体系重建信心。法律和政策看起来也许没有数字化技术那么酷,但它们也是关键创新之处。它们是我们为了希望生活在的世界共同带来的东西。

尽管我看起来可能像是一位凶事预言家,但我对未来仍然乐观。我们的社会曾经解决过比这还要大的问题。这需要付出而且并不容易,但我们最终会做出必要的艰难抉择来解决我们真正的问题。

唯有在我们开始对所生活的互联世界做出真正选择时,我们正在建造的世界规模的机器人才能得到负责任的管理。是的,我们需要安全系统如威胁板块般健壮。但我们还需要法律对这些危险技术进行有效监管。还有我们需要对这些系统的运作机制做出道德、伦理以及政治决策。直到现在,我们还是把互联网晾在一边的。我们赋予程序员特别的权力,让他们按照自己的想法来构造网络空间。在网络空间是独立且相对不那么重要时这没关系。但现在情况变了,我们不能再给程序员和公司这些权力了。无论如何,那些道德、伦理和政治决定都应该由我们共同做出。我们需要以连接机器同样的热枕连接我们大家。“连接一切东西”必须用“连接我们大家”来进行反击。

 

+1

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

下一篇

聊了聊投资机构典型特征背后的细节

2017-02-07

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

为你推送和解读最前沿、最有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚集全球最优秀的创业者,项目融资率接近97%,领跑行业