终于，现代世界复杂到了无人能懂的地步

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：随着我们的世界日益的数字化和互联网化，从自动化的供应链，到金融市场的高频交易，乃至于社交媒体，大规模系统现在已经渗透到我们的日常生活里面，并且变得太过复杂，以至于超越了任何人所能理解的范畴，我们正在失去对所有这些系统的控制。那种感觉就像人类被困在一辆油门踩到底的汽车里面，但是却没有人在握住方向盘。Tim Maughan探讨了超大规模系统对人类的控制的问题。原文发表在Medium上，标题是：The Modern World Has Finally Become Too Complex for Any of Us to Understand

划重点：

主导人类日常生活的系统已经复杂到没人能完全理解的地步

那些将所有这些庞大网络粘合到一起的技术和软件平台本身，就已经成为一个复杂系统

很容易会让人把这些网络想象成一头巨大的生物，其触角遍布全球，伸向了每一个角落，彼此还相互链接

但是，这些网络的实际情况更接近于分布式智能或分布式知识的概念

复杂系统出错会造成灾难性的影响

超大规模系统

难以理解的复杂系统

过去几年的主要主题之一是，一切都变得毫无意义。特朗普这种人当上了总统， QAnon把边缘化的阴谋论变成了主流，数十万人因为疫情和气候变化而死亡，但很多美国人仍不认为疫情或气候变化是致命的。这简直不可理喻。

我之所以要告诉你，这个世界那么多地方之所以似乎难以理解，是因为它的确很令人费解。从社交媒体，到全球经济，乃至于供应链，我们的生活要不靠谱地依赖于如此复杂的系统，而且我们已经把很大一部分都交给了技术和自主行为者，以至于没人能完全理解这一切。

换句话说：没有人在开车。而且，如果我们希望重新握住方向盘的话，我们就得深入了解我们是怎么失去所有这些控制的。本文是旨在了解这一切的系列文章的第一篇，是的，就叫做《没人在开车》。每一个月，我们都会考验一个复杂到几乎没人理解的技术系统，并分析出这种系统是怎么螺旋式地慢慢失控的，为何这种失控是如此的危险，以及我们大概能怎么办。

复杂系统的例子

我们当中大多数人都没有把很多的时间用来思考庞大，复杂的系统上，那些让我们对技术形成依赖的社会得以持续运转的心态。而且这么做也有很好的理由。为了每天能够醒过来并且熬过每一天，我们需要对我们自己，对资本主义，对调解我们与之互动的数字平台以及支持上述所有要素的基础设施，有一定的信仰和信仰作为支撑。但是，吃早餐，穿上适合上Zoom开工作会的衬衫——所有这些看似平凡的举动，其实都经过了几乎深不可测的复杂的、经过算法校准的，部分以及被自动化，部分依赖血汗工厂的全球供应链才能实现。

现在，全球有超过1700万个运输集装箱正在流通，无论是什么时候，大约都有500或600万个运输集装箱在海上漂泊。仅美国一年就进口了规模超过2000万个集装箱的产品。在谈到从中国和亚洲进口的商品时，大家往往会说到iPhone和高端运动鞋，但事实上，这些集装箱里面装的绝大多数都是普通物品：袜子、雨伞、铅笔、纸张、包装材料、床单、水果、汽车零件、冷冻食品以及药品等——大量的实体物品才让我们的现代生活成为可能。

跟供应链一样的庞大且复杂，并且有着内在联系的另一个系统你几乎看不见：那就是全球金融市场。这是一个庞大的，连接着银行、政府机构、对冲基金、监管机构、股票市场、资金暗池、交易所、新闻服务以及数百万个体交易员和分析师的高科技网络。这个网络的复杂性已经发展到任何个体类智能都无法理解的地步——因为一切的移动都太快了，规模太庞大了。

纽约证券交易所平均每日的交易量通常在20亿至60亿股之间，2013年平均每日的交易额约为1690亿美元。应对如此庞大和复杂的市场，唯一方法就是不间断地采用自动化技术，以及更多地把日常分析和决策移交给软件执行。在完全聚焦在增长的金融等行业里面，这些系统导致了复杂度呈指数级的增长——传统上，人类交易员平均每天只进行5笔交易，而高频交易算法每秒钟可进行10000笔交易。

那些将所有这些庞大网络粘合到一起的技术和软件平台本身，就已经成为一个复杂系统。互联网可能是我们用最直接、最亲密的方式进行交互的系统，但是我们大多数人对我们的手指搞脏的触摸屏背后的东西知之甚少，能真正理解它的人很少。这是由数据中心、互联网交易所、大型公司、小型初创企业、投资者、社交媒体平台、数据集、广告技术公司、数十亿用户以及他们的连接设备所组成的一个庞大的网络，这个网络致力于大规模地挖掘、创建和搬运数据我们所无法理解的数据。YouTube用户每分钟上传超过500个小时的视频——每天都有相当于82.2年的视频被上传到YouTube上。截至2020年6月30日，Facebook的月活用户数超过了27亿，平均每天有17.9亿人登录。Twitter上每天要发送5亿条推文，也就是相当于每秒发送6000条推文，每天发送的推文相当于写了一本一千万页的书。每一天，通过WhatsApp要发送650亿条消息。到2025年，估计每天将会有4.63亿TB字节的数据被创建出来，相当于212,765,957张DVD。

也就是说，我们最终所形成的文明是建立在物质、资本以及数据不断流动的基础上的，而我们为了用最有效的方式管理各种流而建立的网络已经变得如此的庞大和复杂，以至于现在已经超出了任何人类个体（而且也可以说说任何小组或团队）所能理解的范畴。很容易会让人把这些网络想象成一头巨大的生物，其触角遍布全球，伸向了每一个角落，彼此还相互链接，不过我也不确定这个比喻是否恰当。生物体的比喻说明它存在某种形式的集中智能，也就是以大脑为中心的神经系统，通过反馈回路处理数据并做出决策。但是，这些网络的实际情况更接近于分布式智能或分布式知识的概念，也就是众多有着超越其直接环境范畴的有限信息的不同主体，用一种能带来决策的方式进行交互，而且往往甚至他们自己都不知道自己在做什么。

早在2014年的时候，我就花了一些时间来调查中国商品的供应链，并在一艘大型集装箱船上呆了一周。这段时间，我看到的最让人吃惊的事情之一是，技术在我们的日常当中，对我们每分钟的决策扮演了什么样的角色。从吊车司机到我所乘坐的集装箱船的船长，供应链上的每个人都不断地收到来自遥远的、看不见的管理算法的指令。显示器告诉吊车司机要拾取哪些集装箱以及将集装箱放到何处，而船长会不断收到自动发送的有关航道修正的电子邮件。令人着迷（同时也有些令人不安的）的是，那些熟练的专业人员是怎么不假思索地接受并遵守那些没有对其背后的决策过程进行任何解释的指令说明的。

集装箱船的船长会定期收到自动发送的电子邮件，告诉他要放慢船速。航运公司的算法为什么会认为放慢船速是最好的是不可能知道的——船长本人也不知道。但他可能会推测：也许在前方港口的工作人员或系统报告因为卸货或者机械故障而发生了延误。或许是算法提前看到了要发生的延迟，因为其他集装箱上的GPS跟踪器显示在港口外面那些装集装箱的卡车都已经停滞不动了。也许它决定放慢下来是因为客户把订单的优先级降低了。又或者，供应链其他环节发生了变化，意味着从其他来源采购货物变得更便宜或更快捷了。要不，就是因为油价的波动正好使得目前船舶的行驶速度显得效率不够。或者是由于上述所有原因同时发生了，或者上述都不是。关键是，我们不知道，船长本人也不知道，不可能有人知道，但是这并不能阻止系统做出决定。

这也还不错，对吧？有很多人（其中包括高管、交易员、投资者以及技术开发主管）会认为其实比不错还要好。这是好的。我们应该对此感到高兴。商店里面有吃的和穿的，自动取款机里面有钱，Instagram上面有故事。诚然，弄到那些东西确实很复杂，但是没关系，因为到头来人类不必担心这一切，它自己就能照顾好自己。我的意思是，可能会出什么问题呢？

复杂系统出错的后果

首先，最明显的一点，这些系统部分或全部可能会失效。众所周知，东西越复杂，出错的花样就越多。最近，我们已经有一些机会可以看到这种情况的例子。就在今年，我们已经看到供应链在Covid-19大流行的压力下不堪重负，导致从防护口罩、面粉到卫生纸等各种物品的短缺和分配不当。

Covid疫情的副作用已经对全球经济产生了更为灾难性的影响——虽然我们已经看到过早没有一场全球性灾难的助推下市场也接近崩溃过，比方说2008年金融危机期间。互联网肯定也很容易会出问题，也许最明显的例子就是2017年的WannaCry勒索软件攻击，据说影响了150个国家200000台计算机，造成了价值数十亿美元的破坏和收入损失。有趣的是，当年航运业是受到恶意软件攻击打击最严重的行业之一，像马士基这样的公司被迫眼睁睁看着自己的网络瘫痪，造成供应链受到了部分破坏。令人担忧的是，尽管这些故障都不是灾难性的故障，而且网络最终也得到了恢复，但在某些情况下，正是由于这些系统实在是太过难以理解，所以专家用了数年时间的分析和争论才弄清实际出了什么问题。

另一方面，我们还得担心这些系统没法正常工作。建立这些网络（或更准确地说，这些网络是不断发展的）是为了尽可能的高效，并且就像我们从上述例子中看到的那样，为了实现这一目标，我们放弃了对很多事情的决策。但是，我们所没有赋予它们的，是做出伦理决定和道德判断的能力。

全球供应链及其大规模的工程项目和基础设施之所以存在，主要是因为全球财富的不平等使得在某些国家制造产品会更加便宜，哪怕你还得把在特定国家制造的东西跨越半个地球运过来。通过最大程度地利用工资和生活水平方面的明显差距，供应链网络正在不断强化这种全球不平等的现象。

对于全球金融市场而言，情况也是如此，它总是在不遗余力地致力于创造财富和推动增长，却不管有多少公司及其工人可能被遗弃，有多少养老金计划可能受到损害，甚至有多少破坏气候的碳被排放出来。在互联网上，Spotify和YouTube等流媒体平台可以随时为我们提供无限的娱乐内容，但却以牺牲以此谋生的音乐家和创作者为代价。然后，算法决策里面还存在固有的偏见，缺乏透明度，这还影响到从YouTube推荐到学生评分以及预测性策略的方方面面。

放弃对庞大的、不负责任的网络的控制，不仅会导致那些网络越轨，而且还会威胁到民主本身。如果说我们难以理解或影响其中哪怕很小一部分的任何东西的话，那么这一点对于政治家和世界领导人来说也越来越适用。就像集装箱船的船长一样，政治家和选民对任何一个网络的运作方式的控制变得越来越少。取而代之的是，他们发现自己只能管理其中的一小部分——尽管他们的国家/地区的经济、政治和人口受到了那些网络非常直接的影响，但是他们似乎没法对这些网络（不管怎样，那些网络主要是由私企所拥有）做出巨大改变。用电影制作人Adam Curtis的话来说，其实大家选的不是有远见的领导人，而是给一个没人能完全控制的、复杂的、全球化的系统投票选举中层管理人员。

其结果越来越像是政治的真空。我们生活在选民对政客的不信任感达到了创纪录水平的时代当中，部分是因为他们能感受到这种脱节——他们从日常现实中看到，尽管政客有自己的主张，但却无法实现改变。他们做不到。他们可能不明白为什么会这样，但是，大家越来越觉得那些领导人已经失去了对经济和社会现实进行彻底改变的能力。其结果是，大量主流选民想摧毁现状。他们想要改变，但看不到政客能够带来改变。那种感觉就像他们被困在一辆油门踩到底的汽车里面，但是却没有人在握住方向盘。

他们也许对此无能为力，但是有主流政治家和领导人看出了这种真空的本质，并知道这如何能为他们提供政治机会。特朗普和鲍里斯·约翰逊这类人物当然不相信能够修补这套系统的故障——如果说有什么区别的话，他们更相信要加快这一进程，放松管制，把更多的权力交给网络。不，对他们来说，这是一个可以用来归咎的政治真空。可以用来指责，让它当替罪羊。这是一个通过迎合恐惧，激起民粹，种族主义，好让自己显得强大的机会。

虽然拜登显然已经获胜，但特朗普仍未对美国2020年的大选予以承认，部分是因为美国有着一个复杂的，有时候不透明的投票系统，对于散布关于投票系统出故障或者存在不法行为或者有数百万选票被删除掉的阴谋论，大多数民众是没法理解背后的真相的。右翼的部分最引人注目的人物，比方说特朗普的前顾问史蒂夫·班农（Steve Bannon），或者英国脱欧党党魁法拉吉（Nigel Farage），均有着金融业的背景，这一点并非偶然。这些政治玩家已经看出事情已经变得多么的复杂，并且能感觉到公众认知的鸿沟，但这帮人希望用混乱和阴谋去填补这种鸿沟，而不是做出解释。

怎么办？

对于这一切我们该怎么办？在接下来的几个月的时间里，我会寻求找到增加对看似不可知的东西的了解的办法，也会想办法找出应对这种系统所产生的无力感和焦虑感的策略。在此过程中，我会跟很多专家讨论从无人运输、算法交易到金融监管和政治阻力的一切问题，并深入研究人工智能和量子计算等新兴技术如何能让事情变得更好——或者更糟。我希望诸位可以跟我一起，去探索我们的系统是如何工作的，看看它们的复杂性如何影响了我们的生活，以及我们怎么才能重新夺回一些主导权。

译者：boxi。