愤怒成为流量，如何拒绝被算法绑架
人类把自己这个物种命名为智人，意思是有智慧的人类。但赫拉利在《智人之上：从石器时代到AI时代的信息网络简史》的开篇就说：我们究竟配不配得上这个称号，实在有待商榷。
过去10万年，人类积攒了海量的信息，从DNA分子到遥远的星系无所不包，却始终回答不了生命中最重大的问题：我们究竟是谁，我们应该追求什么。甚至现代社会，也会时不时出现群体性的失去理智。
这位写过《人类简史》的以色列历史学家，这一次的问题很直接：人类如此智慧，为什么总是倾向于自我毁灭？他的答案不在人性，在信息。
书中写道，信息是维持网络联结的黏合剂。数万年来，智人正是靠着发明与传播各种虚构故事、幻想和错觉，打造并维持了诸多大规模网络。人类能建立大规模合作网络，以此获取巨大的力量。但这些网络的建构方式，注定了人类对这些力量的运用常常并不明智。
赫拉利在序言里写道，如果不想把权力交给高深莫测的人工智能，我们首先要更加了解信息究竟是什么，了解信息如何协助建立起人类网络，了解信息与真理、真相的关系。
以下为本书核心观点：
1.以为信息越多，就越接近真相，人也越有智慧，是天真的信息观。从搜索引擎到信息流，再到企业的数据中台，大致都建在这个信念上。
2.把不同的点联结成网络，就是信息。但信息的增加，并不必然导向真相。信息存在于主体之间，靠故事维持。
3.信息网络也不必然通往智慧，它通往的是秩序。
4.算法驱动的愤怒，是从商业模式里自己长出来的。这一点，所有以时长和留存为考核指标的产品，恐怕都难以置身事外。
5.机器人程序可能只占推特用户的5%，却发布了20.8%到29.2%的推特内容。
信息的第一功能，从来不是真相
现代人对信息抱着一种执念，以为信息越多，就越接近真相，人也越有智慧。赫拉利把这种信念称为天真的信息观。今天从搜索引擎到信息流，再到企业的数据中台，大致都建在这个信念上。
赫拉利认为，信息在历史上所发挥的作用，本来就不是要呈现既有的现实，而是把各种不同的事物联系在一起，创造出全新的现实。真正定义信息的是联结，而不是呈现，只要能把各个不同的点联结成网络，就是信息。
但书中也提到，很多时候，拥有更多信息确实能让人更了解世界，儿童死亡率的大幅下降就是证据。问题在于，信息的增加并不必然导向真相。
顺着这个定义往下走，国家、货币、公司，这些现代社会最要紧的事物都不存在于客观世界，而是存在于主体之间，靠故事维持。一家公司的价值，很大程度上取决于人们共同相信的那个故事。这一点，做品牌的人大概都不会反对。
虽然个人通常了解的，都是关于自己与世界的真理与真相，但大规模网络却会使用各种虚构故事与幻想，将成员联结在一起并创造秩序。信息不一定是要告诉我们一些什么，而是要把事物组织起来。
信息不等于真相，信息网络也不必然通往智慧，它通往的是秩序。
从历史来看，在信息稀缺的时代，垄断是默认设置。1050年，埃克塞特主教在大教堂的图书馆里只找到5本书，他立刻设立抄写工坊，到他去世的22年间，抄写员也只做出66本。而到了1424年，剑桥大学图书馆的全部藏书是122册。1454年到1500年这46年间，欧洲印制的书籍超过1200万册，而此前1000年靠手工抄写做出的书只有大约1100万册。
印刷术触发了首次信息大爆炸，也让除了科学事实之外的各种幻想、假新闻和阴谋论开始迅速传播。书中写道，印刷商和书商从狗血故事里赚到的钱，比从哥白尼《天体运行论》这种枯燥的数学专著里赚的多太多了。《天体运行论》1543年首印的400册都卖不掉，第二版等了23年。
后来的每次信息技术革命，都打着去中心化的旗号登场，印刷术如此，互联网也如此。而进入算法时代，信息流动的障碍被进一步消除，谎言与幻想的传播，也更加甚嚣尘上了。
算法发现，愤怒最好卖
进入社交媒体时代，决定信息流向的不再是编辑，而是算法。计算机开始在人类之间充当中介，甚至偶尔开始反向控制人类。
2017年10月，一个自称Q的匿名用户出现在美国匿名论坛“4chan”上，声称要揭露某个打算毁灭人类的全球阴谋。这套说法没有半点事实依据，却顺着社交平台在全球收获数百万追随者。书中写道，到2020年8月Facebook对Q出手时，删除或限制的相关社团、页面与账号已经超过了一万个，而Facebook上Q社团的匿名追随者总数，已经超过了450万。
算法比你更知道你想看什么，然后只给你看这些。时间一长，每个人接触到的都是与自己观点一致的信息，分裂由此加深。
过去几个世纪，新的信息技术让世界各地的联结越来越紧密，如今它却已经强大到可能把人类封闭在一个又一个信息茧房里，让人类走向分裂，不再拥有单一的共同现实。
茧房里的情绪是被精确计算过的。书里提到的最令人不安的一个案例来自缅甸。
2011年到2013年，缅甸结束了长期的军政府封闭统治，开启民主化转型，互联网管制放开。Facebook快速渗透，数百万缅甸民众第一次大规模接入社交网络。但随着用户在平台停留越久，Facebook收集的数据越多，Facebook在算法中放大了仇恨与阴谋论内容，间接助长了缅甸针对罗兴亚群体的暴力冲突。2017年，缅甸爆发了大规模种族清洗，致使70多万罗兴亚人逃离缅甸。
2018年联合国调查报告指出，Facebook在缅甸事件中起到了推波助澜的作用。据Facebook内部研究测算，当地用户观看的视频当中有53%来自算法自动播放。而远在美国加州的Facebook管理层，对罗兴亚人并无恶意，甚至几乎不知道这个族群的存在。
这场事故里，没有任何一个人想煽动暴力，出错的只是目标函数。
人类管理者给算法定下的首要目标是提升参与度，算法拿几百万用户做实验，发现最能提升参与度的办法就是让人愤慨，比起慈悲的布道，充满仇恨的阴谋论更能提升人类的参与度。“为了追求用户参与度，算法就做出了一个致命决定，传播愤怒。”
但人类不能把算法的责任都甩给机器。书中写道：对罗兴亚人的仇恨早在Facebook出现之前就已存在，但那些赋予算法太多权力的工程师与高管，也该承担部分责任。算法驱动的愤怒，是从商业模式里自己长出来的。这一点，所有以时长和留存为考核指标的产品，都难以置身事外。
算法虽然掌握数据，但不一定掌握真实。只要用户存在偏好，算法就会学习并放大它。书中举了一个假设的例子，如果让算法基于过往数据建立一个好员工模型，它很可能认定老板的侄子无论资质如何，都是最好的人选。因为过去的数据表明，老板的侄子只要求职，就能被录用，而且很少被解雇。
别把责任甩给机器
2016年3月10日，AlphaGo与韩国棋手李世石的第二局下到第37手，现场解说的两位顶尖棋手都认为这是一手错棋，李世石足足想了15分钟，其间甚至要离场走一走。但随着终局逼近，这一手被证明至关重要。书中引用了DeepMind创始人之一苏莱曼的回忆：“我们的人工智能，找出了几千年来最杰出的棋手都没想到的棋步。”
围棋诞生2500年，人类心智也只探索了它的部分区域。苏莱曼坦承，他的团队也无法解释AlphaGo是怎么决定下出这一手的。
AI本质上是一个又一个黑盒子，工程师没办法看到机器外壳下面发生了什么。赫拉利反复强调，印刷机是人类手中的被动工具，只会原样复制文本，而计算机是历史上第一种能自己做决定、自己创造想法的技术。“计算机掌握了语言能力之后，就像得到了一把能够打开我们所有机构大门的万能钥匙，从银行到寺庙。”
AI令人生畏在于，目标一旦设错，能力越强，就错得越离谱。书中引用了哲学家波斯特洛姆2014年的思想实验，一家回形针工厂买来一台超级智能计算机，人类主管给它布置了一项再简单不过的任务，生产回形针，越多越好。结果为了完成这个目标，这台计算机征服了整个地球，消灭了所有人类，把整个银河系都变成了回形针工厂。
波斯特洛姆想强调的是，计算机的问题不在于它们特别邪恶，而在于它们特别强大。过去，让机构里的人向社会的长期目标看齐十分困难，未来要让算法和自主系统向这些目标看齐，更是难上加难。
AI造假的效果已经有了实验数据。在2023年发表于《科学进步》期刊的一项研究中，研究者请人类与ChatGPT针对疫苗、5G技术、气候变化等议题，同时写出刻意误导信息的短文，再让700位受试者评估其可靠性。结果是，人类捏造出来的不实信息一看就会被识别出是假的，而AI捏造的，却很容易被信以为真。
比造假更进一步的，还有用机器伪造亲密。书中写道，亲密感是一种极为强大的武器，过去的广播设备能让几百万人同时听到一场演讲，却无法让演讲者和听众变成朋友，但人工智能可以。它与你谈得越多，就越了解你，越能赢得你的信任，再慢慢改变你的观点。
数据分析工具Similarweb在2022年的研究估计：机器人程序可能只占推特用户的5%，却发布了20.8%到29.2%的推特内容。当数以亿计的机器人进入公共讨论，公共对话的前提已经被打破。
对此，哲学家丹尼特的建议是像禁止伪造货币一样立法禁止假冒人类。他的理由很直白，机器人程序没
但巨头或许对此缺乏执行的动力。书中写道，Facebook、亚马逊这些科技巨头，绝不只是像忠仆一样满足用户的奇思妙想。当它们被指责制造社会动乱时，回答往往是，我们只是一个平台。
但AI介入的同时，信息霸权的形态在加剧变化。过去，全球帝国控制土地、心智，靠的是轮船、火车、机枪，到21世纪，只需使用数据即可。
赫拉利把新的信息边界称为“硅幕”，它由硅基芯片和计算机代码组成，存在于世界上每一台智能手机、计算机与服务器之中。你手机上的代码，决定了你被哪些算法控制生活，被谁控制注意力，以及你的数据流向何方。
你给算法定下的每一个目标，都会被它不折不扣甚至超额完成，而这恰恰是最危险的地方。
“最聪明的，反遭灭绝。”赫拉利写道，人类既是地球上最聪明的动物，也是地球上最愚蠢的动物，我们聪明到能制造出核弹与超级智能算法，也愚蠢到还没搞清楚自己能不能控制它们，就将它们一股脑地都制造了出来。
如果人类的信息网络重秩序而轻真理，可以带来大量力量，却无法带来新的智慧。赫拉利也特地反驳了技术决定论，他认为：网络越强大，自我修正机制就越必要。
书的开头讲了一个希腊神话，法厄同为了证明自己是太阳神之子，坚持驾驶太阳神的金车出游，结果天马失控，大地眼看被烤焦。赫拉利说，这个故事给人类的教训再清楚不过，永远别去召唤自己控制不了的力量。
（《智人之上：从石器时代到AI时代的信息网络简史》，作者：[以色列] 尤瓦尔·赫拉利 译者：林俊宏 中信出版社出版）
本文来自微信公众号“中国企业家杂志”，36氪经授权发布。
