技术与叙事:一部关于狂热者与反思者的历史
1830年9月15日,英格兰,利物浦与曼彻斯特之间。
这一天本该是属于机器的。世界上第一条城际铁路正式通车,三十一英里的铁轨像两道平行的钢铁誓言,铺在英格兰湿漉漉的草地上。八列火车,载着公爵、议员、银行家和看热闹的乡绅,喷着白汽,发出那个时代的人从未听过的轰鸣。报纸上说,这是人类征服空间与时间的一天,是文明本身在轨道上奔跑。
然后,一个人出事了。
利物浦的国会议员威廉·赫斯基森,在火车中途停靠时下了车,想去和威灵顿公爵握手寒暄。他没注意到另一条轨道上火箭号正驶来,这台由乔治·斯蒂芬森设计的机车,正是新时代速度的图腾。赫斯基森慌乱中没能躲开,腿被碾碎,当晚不治身亡。他成了人类历史上第一个有名有姓、死于铁路事故的人。
这是一个被后世反复讲述、却又总是被轻轻带过的细节。庆典照常进行。报纸第二天的头版依然是伟大的一天,赫斯基森的死被压缩成一个不幸的脚注。因为在那一刻,所有人都明白了一件比一条人命更重要的事:未来已经来了,而且它不会为任何人停下。
请记住这个画面。因为在接下来的两百年里,它会一遍又一遍地重演,只是死的人换了名字,碾过去的机器换了形状。蒸汽、电力、互联网、人工智能,每一次,都有一辆叫进步的火车准时进站;每一次,站台上都站满了欢呼的人;每一次,也总有人被轧在轮下,而他们的名字,要等很多年以后才会被人重新念起。
这里,我想说的是比机器更早抵达的故事。
在锅炉、电缆、光纤和算力真正改变世界之前,总有一群人抢先描绘了它将带来的世界。这些描绘几乎永远是明亮的、加速的、不可阻挡的。它们动员了金钱,协调了人心,合法化了颠覆,也悄悄分配了谁该得到糖、谁该挨那一刀。
这些故事的大部分,从未完全兑现。但奇怪的是,它们的破灭很少被清算,反而在下一波机器到来时,被原封不动地重新讲一遍。
这就是本文要追问的:关于技术的故事,是怎么被讲述的?谁在讲?又是如何反过来塑造了我们每一个人、塑造了经济、塑造了我们这个文明对自身命运的全部想象?
而且,从一开始就要说清楚:这从来不是一个人的独唱。在每一个鼓吹者敞开喉咙高歌的时刻,站台的角落里,总有另一个声音在固执地唱着相反的调子。历史习惯把前者叫做先知,把后者叫做扫兴的人。但很多时候,真正的先知,恰恰是那个扫兴的人。
蒸汽:进步是怎么发明出来的
一台不知疲倦的机器,和一个不知疲倦的承诺。
要理解后来的一切,得先回到瓦特的车间。
故事的标准版本是这样讲的:1765年的一个星期天,格拉斯哥大学的仪器修理工詹姆斯·瓦特在格林公园散步,灵光乍现,想到了给蒸汽机加一个独立的冷凝器。这个改进让蒸汽机的效率提高了好几倍,于是工业革命就此点燃,人类从此告别了肌肉和畜力的漫长囚禁。
这个版本当然是真的,但它也是被精心打磨过的,它把一场漫长而充满血汗的过程,压缩成了一道天才头顶亮起的灯泡。这是技术叙事最古老的表达方式之一,把复杂的历史,简化成某个英雄和瞬间顿悟。
但比蒸汽机更重要的,是围绕它生长出来的那套话语。
当工厂主们在曼彻斯特、伯明翰竖起一根根冒着黑烟的烟囱时,他们需要的不仅是机器,还需要一个理由,这个理由能让自己心安、让社会接受、让那些被卷进工厂的人相信。于是,一个全新的词被推上了历史舞台中央,并迅速膨胀成一种近乎宗教的信仰。
这个词叫进步。
在蒸汽机之前,进步这个词远没有这么神圣。古人相信循环,相信黄金时代在身后而非身前,相信人不过是在命运的轮子上打转。但蒸汽改变了这一切。当一台机器可以日夜不停地工作,当一年的产量超过过去一个世纪,当铁路把原本三天的路程缩短到三小时,人们第一次产生了一种眩晕般的确信:历史是一条单向上行的直线,而我们,正站在它加速的起点。
亚当·斯密的信徒们告诉你,看不见的手会让普遍富裕降临;工程师们告诉你,机器会把人从繁重的劳作中解放出来;而那些站在铁路通车典礼上的政客告诉你,钢铁的轨道将消灭距离、统一国家、把文明的光辉播撒到每一个蒙昧的角落。
这是人类历史上第一套完整的、工业化的技术叙事。它有主题,典型如解放、富裕、文明,也有反派,常见的如愚昧、停滞、自然的束缚,常常还有一个光辉的结局,最惯用的说辞是一个所有人都过得更好的明天。它如此动人,以至于此后两百年里,从爱迪生到乔布斯,从洛克菲勒到那些站在发布会舞台上的AI公司创始人,没有一个人逃出过它的剧本。
蒸汽时代真正的发明,或许不是蒸汽机本身,而是进步这门世俗的新宗教。而我们,直到今天,依然是它的信徒。
现在,让我们走到站台的角落,去看看那个唱反调的人。
1811年的冬天,英格兰中部的诺丁汉郡。这里是当时英国纺织业的心脏,世世代代的手工织工在自家的阁楼里,靠一台织机养活全家。这是一种辛苦但有尊严的生活,他们是手艺人,是行会的成员,是有名有姓的匠人,他们能决定自己几点开工、几点收工,能在织好的布上看到自己的手艺。
然后,机器来了。
宽幅织机和动力纺机被搬进了工厂主的厂房。一台机器能顶过去十几个熟练织工,而操作它的,是雇来的、不需要任何手艺的孩子和妇女。工钱只有原来的零头。在那个寒冷的冬天,成千上万的织工眼睁睁看着自己赖以为生的手艺,在几个月内变得一文不值。布价崩了,工钱崩了,行会的规矩没人理了,连饭都快吃不上了。
于是他们拿起了锤子。
在一个据说叫内德·卢德的领袖名义下,这个人很可能根本不存在,只是一个传说中的符号,织工们在夜里冲进工厂,砸碎那些抢走他们饭碗的机器。他们被称为卢德分子。
历史是怎么记住他们的?
历史把卢德分子变成了一个骂人的词。直到今天,当你说某个人是卢德分子,意思就是他愚昧、守旧、反对进步、害怕一切新东西、是挡在文明车轮前的一块顽石。这个词背负了两百年的嘲笑。
但真相要复杂得多,也沉重得多。
卢德分子从来不是反对机器本身。历史学家E·P·汤普森在他那部伟大的《英国工人阶级的形成》里,花了大量篇幅为他们正名:他们砸的,是那些被用来压低工钱、摧毁行业标准的机器;他们要捍卫的,是一套古老的道德经济,关于公平价格、体面工钱、匠人尊严的伦理。他们不是在反对未来,他们是在抗议一种特定的、把所有代价都甩给穷人的未来。
换句话说,当所有人都在为进步的故事鼓掌时,卢德分子是第一批站出来问的人:进步,是谁的进步?这台机器到底解放了谁,又奴役了谁?
他们得到的是绞索。
1812年,英国议会通过《捣毁机器法》,把破坏机器定为死罪。1813年1月,在约克郡,十七名卢德分子被集体处以绞刑。军队被派往中部各郡镇压,出动的兵力,据说比当时威灵顿公爵在西班牙对抗拿破仑的军队还要多。
想想这个画面:一个号称要解放人类的进步神话,最初是用绞架和军队来开路的。
而那些被吊死的织工,连一句完整的辩词都没能留在历史里。他们被简化成反进步的暴徒,钉在文明的耻辱柱上,一钉就是两百年。
那个扫兴的人,最后赢了吗?
故事如果到绞架就结束了,那不过是又一桩被碾碎的悲剧。但技术叙事真正吊诡的地方在于,那个当下被吊死、被嘲笑、被宣判为历史垃圾的声音,往往要在很多年以后,才被发现是对的。
卢德分子没能阻止工厂,一台机器也没能真正砸停。从这个意义上,他们彻底失败了。
但请看长一点的时间。正是那个被工厂的烟囱碾过的童工的惨状,催生了1833年的《工厂法》,第一次立法限制童工劳动;正是那些血汗工厂里的尸骨,喂养了后来的工会运动、十小时工作制、劳动保护法;正是恩格斯在曼彻斯特的贫民窟里看到的景象,写成了《英国工人阶级状况》,又点燃了一整套将要重塑二十世纪世界格局的批判思想。
这就是本文反复要讲的一个铁律,我称之为批判的延迟兑现:
批判者几乎从不在当下取胜。他们在狂热的顶峰被嘲笑,在泡沫破灭的废墟里被追认,最后,他们的警告变成了下一个时代的护栏,写进法律,刻进制度,成为我们今天习以为常、却忘了是用鲜血换来的常识。
鼓吹者塑造了工厂,但批判者塑造了工厂福利。
我们今天享受的周末、八小时工作制、不让孩子下矿井的法律,没有一样是进步这门宗教自动赐予的。它们全都是从站台角落那个扫兴的声音里,一寸一寸地争回来的。
只是,争回来之后,我们就把那个声音的名字忘了。我们记住了瓦特,记住了斯蒂芬森,记住了那条改变世界的铁路。我们没记住赫斯基森是谁,更没记住那十七个在约克郡被吊死的织工叫什么名字。
这就是技术叙事的失忆症,它像一台精密的遗忘装置。它把成功者神话化,把失败者静默删除,然后腾出干净的舞台,准备讲下一个一模一样的故事。
下一个故事,关于光。
电力:把魔法卖给每一个家庭主妇
1893年,芝加哥,哥伦布世界博览会。
夜幕降临的那一刻,二十六万盏白炽灯同时亮起,把整片会场照成一座悬浮在密歇根湖畔的白色城市。人们管它叫白城。从没见过的明亮,没有油灯的烟味,没有煤气灯的危险,只有一种纯净的、近乎神圣的光,把夜晚变成了白昼。
参观者后来回忆,很多人站在那片光里哭了。
这不是一场普通的灯光秀。这是人类历史上第一场真正意义上的、工业化的产品发布会,只不过台上推销的不是一件商品,而是一整套关于未来生活的想象。如果说蒸汽叙事还带着煤灰和汗水的粗粝,那么电力叙事从一开始就把自己包装成了截然相反的东西:洁净、无声、近乎魔法。
这背后站着一群深谙此道的人。托马斯·爱迪生不只是发明家,他是史上最早的创始人神话的批量生产者,他懂得给记者讲故事,并让爱迪生这个名字本身成为光明的同义词。
爱迪生的对手,乔治·威斯汀豪斯和尼古拉·特斯拉,则用交流电讲了另一个版本的同样故事。电流之战打得你死我活,但他们卖的,是同一个梦:电会照亮黑暗,终结愚昧,把每一个普通人的家,变成一个现代而文明的居所。
注意,这里发生了一次悄无声息却影响深远的概念偷换:电的光明,和启蒙运动的光明,被熔接在了一起。英文Enlightenment,这个词本身就是照亮。于是按下电灯开关这个动作,被赋予了一种文明论的重量:你不只是在照亮一个房间,你是在驱散人类几千年的蒙昧黑暗。
谁能拒绝这样的故事呢?
电力叙事里,有一个承诺讲得最甜,也最值得我们停下来掰开了看。
那就是对女人的承诺。
二十世纪初的广告画上,一个穿着整洁连衣裙、面带微笑的家庭主妇,轻轻一按按钮,洗衣机就开始转动,吸尘器就开始工作,电熨斗就冒出蒸汽。文案写着,电气化的家庭,将把妇女从繁重的家务奴役中解放出来。从此她们有了闲暇,可以读书、社交、做一个现代的、自由的女性。
这是一个动人的故事。它也确实部分是真的,没人想回到手洗全家衣服、劈柴烧水的日子。
但1983年,一位叫露丝·施瓦茨·考恩的历史学家,写了一本书,书名本身就是一记耳光:《给妈妈的更多工作》(MoreWork forMother)。
考恩翻遍了几十年的家庭记录,发现了一个让人意外的事实,家电问世之后,美国主妇花在家务上的时间,并没有减少,有些研究甚至显示它增加了。
为什么?因为机器没有解放标准,机器抬高了标准。
在洗衣机出现之前,一件衬衫穿一个星期是常态,因为洗衣服太累了。洗衣机来了之后,社会的期待变成了:你怎么能让孩子穿不干净的衣服去上学?于是衣服要天天洗。在吸尘器出现之前,地毯一年大扫除几次。吸尘器来了之后,一个好主妇的家应该一尘不染成了新的道德律令。机器把足够干净的门槛,一路抬到了必须完美。
更要命的是,过去富裕家庭还会雇佣女仆分担家务,而家电叙事恰好赶上了女仆阶层的消失。结果是,所有的活儿,连同被无限抬高的标准,全压回了一个女人身上。机器解放了她,方式是让她一个人,干完过去一家人加几个仆人的活,还要干得更漂亮。
这是技术叙事中常被忽略的一面。它许诺的是解放,兑现的却常常是一种换了包装的、更精致的束缚。它把一个本该被追问的社会问题,家务为什么天经地义是女人的事?,用一个技术答案盖了过去:别问了,买台洗衣机就好了。
电力时代也有它的扫兴者。其中最深刻的一位,叫刘易斯·芒福德。
芒福德不是织工,不会去砸发电机。他是一位博学的人文学者,一个把技术放进整个人类文明史里去掂量的思想家。1934年,他写下《技术与文明》,提出了一个直到今天都锋利无比的区分:
有两种技术。一种是民主型技术,它分散、灵活、服务于人,比如一把手工工具,一台小作坊的设备,它增强个人的能力,让人更自主。另一种是权威型技术,它庞大、集中、把人变成系统里的一颗螺丝钉,比如一座巨型发电站,一张覆盖全国的电网。芒福德管后者叫巨机器 (Megamachine) 。
他看穿的,正是电力叙事最不愿提的那一面。电气化的家庭固然明亮,但点亮这盏灯的,是一张你完全无法理解、更无法控制的庞大系统:发电厂、电网、跨州的电力公司、其他巨头。你以为你按下开关获得了力量,其实你比任何时候都更彻底地依赖于一个看不见的系统。停电的那一刻,你才发现自己有多无力。
差不多同一时间,一个叫卓别林的喜剧演员,用另一种方式讲了同一个真相。1936年的电影《摩登时代》,开场就是工厂流水线上那个被齿轮卷进去、在巨大机器肚子里翻滚的小人物。作为默片,这部电影没有一句台词,但所有人都笑着笑着就沉默了,他们从那个被机器吞掉的小人物,看到了自己。
芒福德和卓别林,一个用思想,一个用影像,不约而同地提出了同一个问题:当技术越来越庞大、越来越集中,现代生活到底是让人更自由了,还是让人更彻底地变成了系统的零件?
那么,这些声音有用吗?
有的。这又是一次延迟兑现。对电力托拉斯的反思和讨论,催生了二十世纪上半叶美国轰轰烈烈的反垄断运动和公用事业监管;对城乡电力鸿沟,城里灯火通明而乡下还点着油灯,的不满,最终变成了罗斯福新政里的田纳西河谷管理局和农村电气化计划,把电送进了千万个被市场和叙事一起遗忘的农庄。
而芒福德那个民主技术 vs 权威技术的区分,成了此后所有技术政治讨论的理论母版。今天每当有人问这项技术到底是赋权于民,还是把权力集中到少数巨头手里,他们其实都在用芒福德八十年前递过来的那把尺子。
电力的故事,就这样在明亮与阴影之间走完了。它兑现了光,也带来了垄断的隐忧;它解放了一些人,也以解放之名给另一些人加了更重的担子。
然后,下一辆火车进站了。这一次,它许诺的不是光,而是连接。
互联网:那场没能完整兑现的自由宣言
1996年2月8日,瑞士达沃斯。
一个叫约翰·佩里·巴洛的人,在一台电脑前敲下了一份后来被无数次引用的文件,《网络空间独立宣言》。这个人身份很奇妙:他既是感恩而死乐队的作词人,又是电子前沿基金会的创始人,可谓一半是街头嬉皮士,一半是数字先知。
他的宣言开头是这样的,带着一种傲慢与浪漫:
工业世界的政府们,你们这些由钢铁和肉体构成的、令人生厌的巨人,我来自网络空间,思维的新家园。我代表未来,请求你们这些来自过去的人,别来打扰我们。你们不受欢迎。在我们聚集的地方,你们没有主权。
这是西方互联网叙事的圣徒宣言。它把网络空间描绘成一片全新的疆域,没有国界,没有政府,没有肉身的等级,只有自由流动的信息和自由结社的心灵。在这里,每个人都平等,每个声音都能被听到,所有原属于精英的权力,无论知识、媒体,还是商业、乃至政治,都将被一场伟大的去中心化运动,重新交还到普通人手里。
这套叙事在1990年代到2000年代初的西方世界,几乎是无可争议的真理。它有一个动听的名字叫加州意识形态,把六十年代嬉皮士的反叛理想,和硅谷的自由市场资本主义,奇妙地搅拌在一起。它许诺极为诱人:世界是平的、去中心化、平民化、地球村……
人们一度真的相信了。博客让每个人都能当记者,维基让全人类共写一部百科全书,智能手机加社交媒体,让每个公民都成了“移动的摄像机”,让不法分子的贪腐、暴行无法再被轻易掩盖。那几年,几乎所有人都觉得,互联网是人类有史以来最伟大的解放工具,一个真正平等、自由、连接的乌托邦,就在眼前。
于是,信息渴望自由这句话成了西方一代人的信条。
但早在所有人为这个乌托邦欢呼之前,就有人冷冷地泼过冷水。而且泼水的人,恰恰来自这场革命的心脏地带。
1976年,麻省理工学院。一位叫约瑟夫·维森鲍姆的计算机科学家,写了一本《计算机能力与人类理性》。他不是外行,他亲手编写了世界上最早的聊天程序之一ELIZA,一个模仿心理咨询师的简陋程序。让维森鲍姆毛骨悚然的是,他发现人们包括他自己的秘书,明明知道那只是几行代码,却仍然愿意对它倾诉最私密的心事,甚至要求他离开房间,好让她们单独和电脑谈谈。
维森鲍姆由此看到了一件值得警惕的事:人类有一种深刻的倾向,愿意把自己交给机器,愿意相信机器懂我们、关心我们。早在1976年,他就发出警告:有些事情,哪怕计算机能做,我们也不该让它去做,因为那会侵蚀人之为人的某些核心。
那个年代,没多少人爱听这种话。
后来还有尼尔·波兹曼,就是那个写《娱乐至死》的媒介批评家。他在电视时代就警告,一种媒介会按自己的逻辑重塑我们的思维,当一切,新闻、教育、政治、宗教,都变成娱乐,公共讨论就会死于一场盛大的狂欢。等到互联网来临,他的警告听起来简直像预言。
还有杰伦·拉尼尔,这位留着满头脏辫的虚拟现实先驱,被后来人称为互联网的亲生父亲之一,却在2010年写下《你不是个玩意儿》,反思这个他亲手参与缔造的东西,正在把活生生的人,降格成被算法处理的数据点。
这些人,在1995到2010年那场盛大的狂欢里,全都被当成了扫兴的卢德分子。人们说,他们老了,他们不懂,他们害怕新事物。互联网的乐观叙事压倒了一切,谁要是敢说一句等等,这里有问题,谁就是挡在历史车轮前的又一块石头。
然后,2016年来了。
剑桥分析公司的丑闻爆发。人们发现,那个许诺赋权于民的西方社交网络,被用来精准操纵了选民的心理。假新闻像病毒一样传播。曾经被歌颂为平民化的媒体,原来同样平民化了谎言、仇恨和操纵。一些研究显示,青少年的抑郁率随着智能手机的普及一起出现波动。那个许诺去中心化的西方互联网,最后诞生的是几个庞大的商业帝国,谷歌、苹果、脸书、亚马逊 (即所谓的GAFA) ,它们掌握的数据、财富和对人心的影响力,超过了西方历史上任何一个大型企业集团。
哈佛的学者肖莎娜·祖博夫给这个新世界起了个名字:监视资本主义。她一针见血地指出:如果你没有为产品付费,那么你自己就是被卖的产品。那些免费的服务从来都不免费,你付出的,是你的注意力、你的行为数据、你被预测和被引导的人生。
而那个从谷歌出走的设计伦理学家特里斯坦·哈里斯说得更直白:硅谷许多顶尖的工程师,每天思考的是如何让用户在产品里多停留几分钟。这并不是完全中立的工具,而是按参与度最大化的原理设计出来的产品。
于是,在短短几年间,西方世界关于互联网的整个叙事剧烈地反转了。从1995年的解放人类的乌托邦,到2016年后的操纵、成瘾、极化的反乌托邦。这是西方四次技术革命里,乐观叙事崩塌得最快、最彻底的一次。
而那些曾经被嘲笑的扫兴者,像维森鲍姆、波兹曼、祖博夫之辈,一夜之间,从老古板变成了先知。人们重新翻出他们几十年前、十几年前的著作,惊讶地发现:原来该说的,他们早就说了;该警告的,他们早就警告了。只是当年没人愿意听。
这就是延迟兑现最戏剧性的一次上演。批判的胜利,总是迟到的,而且常常是被改写了署名的,当社会终于醒悟时,人们往往忘了,是谁第一个在黑暗里喊出了那句小心。
好在这一次,反叙事的回响不只是嘴上说说。它催生了欧盟的《通用数据保护条例》 (GDPR) ,催生了美欧多国对科技巨头的反垄断诉讼和平台监管,催生了人道科技的设计运动。批判,又一次变成了护栏。
只是,旧的故事刚刚露出它的代价,新的故事已经迫不及待地登场了。
这一次,它许诺的,是智能本身。
人工智能:当造梦的人开始谈论风险
2023年5月,一份只有一句话的声明,挂上了一家叫人工智能安全中心的网站。声明是这么写的:
降低人工智能导致人类灭绝的风险,应当与流行病、核战争等其他社会级风险一道,成为全球的优先事项。
签名的人是谁?不是抗议者,不是卢德分子,不是站台角落里那个扫兴的人。签名的,是当时西方最顶尖的AI实验室的CEO们,是这项技术最核心的发明者和推广者本人。
请你停下来,体会一下这个画面的特别。
蒸汽时代的工厂主会告诉你机器灭绝人类吗?不会,他们只说解放和富裕。电力公司会在广告里说我们的产品可能毁灭文明吗?当然不会。互联网的先知们会宣称我们正在制造一个可能终结人类的东西吗?绝不。
但今天部分AI的鼓吹者会这样讲,并且不讳言这种说法本身的传播效应。
这是技术叙事史上一种新的现象。在过去三次革命里,乐观的鼓吹和悲观的警告,分别由两拨人来讲,台上的人许诺天堂,台下角落里的人警告地狱。可这一次,许诺天堂的人和谈论风险的人,常常是同一批人,甚至不需要嘴替。
他们比前辈们更精通叙事。
当你说我的产品可能影响人类命运,你其实在隐隐表达另一句话:我的产品强大到足以影响人类命运。这是一种典型的技术崇高,它调动的不是论证,而是敬畏,一种面对庞大到无法理解的力量时的眩晕感。白城的灯光曾让人落泪,奇点的预言则让人战栗。而无论是落泪还是战栗,都是同一种感受:你在它面前,渺小得不值一提。
风险,也悄悄成了一种新的传播策略。
AI时代的批判者,是西方四次革命里最强势的一批。他们不再是被吊死的织工,也不再是被嘲笑的老古板,他们有讲席,有媒体,有听众,有的人本身就是这项技术的奠基人。
但有意思的是,这批最强势的批判者,自己先吵了起来。他们分成了势不两立的两派。
一派,我们叫他们远忧派。代表人物是哲学家尼克·博斯特罗姆、那个写了无数末日推演的尤德科夫斯基,以及前面提到的那些签署灭绝声明的实验室领袖。他们的故事是这样的:超级智能一旦诞生,可能会以我们无法理解、无法控制的方式追求它自己的目标,顺手就把人类抹掉了,就像我们盖楼时不会特意去考虑脚下蚂蚁的死活。所以,必须给AI踩刹车,必须解决对齐问题,必须现在就为那个可能毁灭一切的未来做准备。
另一派,我们叫他们近忧派。代表人物是被谷歌解雇的AI伦理研究者蒂姆尼特·格布鲁、提出随机鹦鹉之说的语言学家本德尔、写了《人工智能图集》的凯特·克劳福德。他们的故事截然不同,而且语气直率:别拿那些遥远的科幻末日来吓唬人了。那套超级智能要灭绝人类的叙事,可能恰恰是一种障眼法,它把所有人的目光,从此时此刻正在发生的真实问题上引开了。
什么真实问题?是肯尼亚的数据标注工人,每小时挣不到两美元,盯着屏幕上暴力、肮脏的内容,只为给大模型排毒,看到精神崩溃。是训练一个大模型烧掉的、相当于几百个家庭一年用量的电和水。是模型里固化的种族与性别偏见,正在悄悄影响西方某些社会场景中的信贷与司法判断。是西方许多画师、写手、译者,眼睁睁看着自己的作品被未经同意地喂进机器,然后机器转过头来,用他们的劳动成果,参与到他们的市场竞争中。
这是不是有点眼熟?
让我们把镜头拉近一点,对准一个具体的人。
想象内罗毕一间普通的写字楼,凌晨的格子间里,一个二十出头的年轻人,姑且叫他约翰。他的工作,是给那个全世界都在惊叹的、彬彬有礼、出口成章的聊天机器人,做排毒。所谓排毒,就是一整天对着屏幕,阅读、标注人类能想象出的最污秽、最暴力、最不堪入目的文字和图像,告诉机器,这些是坏的,不要学。正是靠着约翰们日复一日地把这些精神垃圾从数据里一铲一铲地清走,那个机器才能在你面前,显得那么干净、那么有教养、那么充满智慧的光辉。
约翰每小时的报酬不到两美元。几个月后,他开始失眠,开始做噩梦,看见任何人都觉得对方可能是个怪物。他去看了心理医生。而那家让他做这份工作的外包公司,在合同到期后,平静地把他辞退了。
你在为大模型的涌现智能啧啧称奇时,多半从未听说过约翰这个名字。这恰恰就是叙事的力量,它把约翰的两美元的时薪、失眠、噩梦,全都折叠进了AI是人类智慧的结晶这句光鲜的话里,折叠得严丝合缝,不留一丝痕迹。聚光灯打在发布会舞台上那个意气风发的创始人身上,而约翰,连同成千上万个约翰,常常站在聚光灯照不到的、深深的阴影里。
这是不是有点耳熟?
这正是两百年前那群织工的故事,又演了一遍。近忧派讲的,正是同一个母题:机器正在改变我手里那门有尊严的手艺,或者借用我的劳动来发展,而干这件事的人,告诉我这叫进步。只不过这一次,织工换成了内罗毕的标注工、写字楼里的插画师和文字工作者,阁楼换成了格子间,但那种被时代以解放之名带过去的痛感,两百年间,分毫不差。
现在,到了AI时代另一个值得留意的部分。
在过去,批判者的命运无非两种:要么像卢德分子那样被污名化,要么像波兹曼那样在多年后被追认为先知。但AI时代,催生了第三种,也是最高级的命运,内化。
你发现了吗?AI安全对齐负责任的AI,这些原本属于反思阵营的词汇,如今全都印在了西方大模型头部公司的官方网站上,写进了它们的招聘启事,挂在了创始人的嘴边。批判没有被镇压,没有被嘲笑,它被请进了屋,给了一个职位,发了一份薪水。
这看起来像是批判的胜利,对吧?连最有影响力的公司都开始谈伦理了。
但请再想一层。当一家公司一边持续地训练更大的模型、融更多的钱、扩更大的市场,一边又设立一个安全团队、发表一份对齐宣言时,那个安全叙事到底在为谁服务?
它在某种程度上服务那个崇高叙事本身。
因为当一些西方大模型公司的创始人公开表示这个东西可能很重要,所以必须由我们这些有责任感的人来开发,而不能落入不负责任的人手中时,他同时完成了三件事:第一,他强化了这技术强大到能改变世界的印象,这本身就形成强力传播;第二,他把自己塑造成了普罗米修斯式的角色,明知有火的风险,仍勇敢地为人类盗火;第三,他用必须由我们来做的逻辑,为自己的领先地位增加了一层正当性。
这就是内化的精妙之处:批判的声音,被巧妙地拧成了乐观叙事的一根新柴火。你越是讨论它的风险,就越是在确认它的分量;你越是呼吁监管,就越是在确认只有头部玩家才有资格留在牌桌上。
格布鲁们看到了这一点,所以才那么坚决地反对远忧派。他们看到的不是两种善意的分歧,而是一种叙事上的合流:用一个宏大、抽象、永远不会到来的科幻末日,遮蔽了此刻正在发生的、具体的、有名有姓的劳动与代价。
这是本文留给当下最尖锐、也最难解的一道题目。在蒸汽、电力、互联网的故事里,我们至少能站在历史的下游,看清楚谁对谁错。可AI的故事,我们正身处其中,水还在上涨,我们甚至分不清哪个是真正的先知,哪个是更高明的推销员。
所有叙事的语法:一台两百年不换零件的机器
回溯完西方四次革命,现在让我们爬到高处,俯瞰这条来路。你会发现一件事:
虽然机器从蒸汽换成了算力,但讲故事的语法,两百年来几乎没变过。这是一台精密的叙事机器,它的零件,一个个都老得掉牙,却一个个都好用得吓人。把四次革命的叙事摊开来比对,你会看到同样的几个母题,像幽灵一样反复出现:
第一个是解放,蒸汽说把你从苦力中解放,电力说把主妇从家务中解放,互联网说把信息从管制中解放,AI说把你从枯燥的工作中解放。
还有一个是平民化,每一次,都说要把原本属于精英的某种权力 (知识、媒体、智能) 交还给普通人。以及最近开始流行的丰裕社会的想象,每一次,都许诺一个克服了稀缺的、应有尽有的明天。还有连接,铁路连接城市,电网连接家庭,互联网连接世界,每一次都说要缔造一个更紧密的村庄。
以及耳熟能详的进步,历史是单向上行的,而且正在加速。还有崇高,白城的灯、奇点的光,每一次都让你在巨大的力量面前敬畏到失语。新人类,技术不只改变世界,还要改造你,让你成为一个增强的、延展的、超越了旧躯壳的新物种。
而最后一个母题,也是最厉害的一个,叫不可避免。这是大势所趋。时代的车轮滚滚向前。你可以不喜欢,但你无法阻挡。不拥抱它,就会被它淘汰。从蒸汽到AI,这句话被讲了一遍又一遍。它是技术叙事工具箱里最锋利的一把刀,因为它一出鞘,就直接取消了讨论的资格。当一件事被宣布为不可避免,你就只剩下两个选择:要么上车,要么被碾过。至于这辆车该不该开该开多快该往哪开谁来买票谁来下车,这些本该属于全体人类共同思考的问题,统统被不可避免四个字,扫到一边去了。
但你有没有注意到,每一个明亮的承诺背后,都站着一个对应的、阴影般的提醒?反思者的反叙事,同样有它自己的语法,而且和乐观叙事针锋相对:
你说解放,我说异化,人没被解放,人变成了机器的附庸。你说平民化,我说再集中,权力没有下放,只是从旧主子手里,换到了新主子手里。你说丰裕,我说代价,丰裕的背面,是那些被悄悄甩出去的成本:劳工的血汗、被烧掉的生态、被收割的心智。你说连接,我说失联,连接了全世界的同时,摧毁了你身边的深度关系和地方共同体。你说进步,我说失根,你的进步,是以遗忘和把人连根拔起为代价的。
而最关键的一对,是针对那把最锋利的刀的。你说不可避免,反思者说:不,它可以被讨论,可以被塑造。
这是反叙事全部力量的来源。批判者最根本的武器,从来不是证明技术有害,而是戳破别无选择这个说法,提醒所有人:技术的速度、形态、方向、以及由谁来承担代价,从来都是人的选择,不是命运的安排。卢德分子、芒福德、祖博夫、格布鲁,他们讲的其实是同一句话:醒醒,你以为的必然,可能不过是别人替你做好了的决定。
为什么吹的人总是赢,而扫兴的人总是输?
可问题来了,既然反思者常常是对的,为什么在当下,赢的几乎永远是吹号角的人,而不是敲警钟的人?
这不是因为人们愚蠢。这是因为,这场较量从一开始就是不对称的,乐观叙事拥有诸多结构性的优势:
它许诺的是收益,具体、即时、看得见摸得着,一盏灯、一部手机、一个能帮你写邮件的助手。而反思者警告的是代价,抽象、遥远、需要想象力才能体会,失业、异化、几十年后的某种侵蚀。人脑天生就更容易被前者打动。
它的背后有资金。每一个乐观叙事,都有广告费、公关公司、智库、整个产业链为它买单、替它传播。而反思者呢?常常是单枪匹马,无组织,无经费,靠一本卖不动的书、一篇没人转的文章,对抗一台开足马力的宣传机器。
它讲的是必然,斩钉截铁,给人安全感。而反思讲的是或许可能我们要小心,犹疑、扫兴、让人不快。在一个人人都怕错过、人人都怕被时代抛弃的氛围里,谁愿意听一个让你慢下来、让你怀疑的声音?
理解了这种深刻的不对称,你才能理解,为什么这个文明会一次又一次,明明脚下踩着上一次的教训,却还是兴高采烈地,跳进同一条河里。
而这台叙事机器最精密的零件,叫做遗忘。
为什么每一代人,都坚定地相信这次不一样?为什么互联网的泡沫刚破,人们就能毫无障碍地相信下一个泡沫?答案是,这套系统自带一个删除键。
它的工作原理是这样的:当承诺没有兑现时,人们不会去怀疑承诺本身是不是错的,而是说是我们实现得还不够好。失败的故事被悄悄删除,成功的故事被反复神话。于是,旧叙事里那些好用的母题,解放、平民化、进步、丰裕、不可避免,被小心地从失败的语境里剥离出来,擦干净,原封不动地,装到下一台新机器身上。
赫斯基森死了,但庆典照常进行。织工被吊死了,但进步照常前进。互联网没能完整兑现它的乌托邦,但当AI登场时,西方世界又一次,像第一次听到这个故事一样,热泪盈眶。
遗忘,不是这台机器的故障,而是它最核心的功能。正是靠着这种系统性的失忆,那个两百年前就讲过、并且已经被反复修正的故事,才能以极低的成本,被一遍又一遍地,重新讲给我们听。
故事是虚的,后果是实的
讲到这里,你可能会想:既然这些故事大多没有完全兑现,那它们不就是一堆吹破的牛皮、一场又一场误判吗?听过笑过,也就算了。
恰恰相反。
这正是技术叙事最需要被严肃对待的地方:故事可以是虚的,但后果都是实的。一个从未完全兑现的承诺,照样能重塑经济的版图、改写社会的结构、甚至悄悄换掉你脑子里什么是好生活的那套底层代码。
让我们看看,这些故事究竟在我们身上,留下了哪些真实的刻痕。
先说经济。技术叙事最直接、最有力的功能,是调动资本。
想想看,是什么让无数素不相识的投资者,在同一时间,把钱投向同一个还没影子的未来?是故事。19世纪40年代的英国铁路狂热,成千上万人把毕生积蓄砸进了根本不会盈利、甚至根本不会动工的铁路公司,只因为他们相信了那个钢铁将统治世界的故事。2000年的西方互联网泡沫,无数.com公司连年亏损,市值却高到离谱,只因为人们相信了那个新经济的故事。今天,西方头部AI公司的估值同样建立在巨大的、尚未完全兑现的承诺之上。
共享的未来图景,成了一份没有签字的契约,让陌生人之间产生了协调一致的行动。
这种行动有时会显得相当极端。1845年的英国,铁路狂热达到顶峰的那一年,一位住在乡下的牧师,把全家的积蓄都投进了一家铁路公司的股票,理由是报纸上说,铁路即将像血管一样遍布大不列颠的每一寸土地。他算过一笔账:只要这条线建成,他后半生就能靠分红过上体面日子。两年后,泡沫破裂,那家公司连一根铁轨都没铺,就破产清算了。牧师的积蓄化为乌有,据说他从此再不看报纸。那一年,像他这样倾家荡产的英国中产,数以万计,其中甚至包括了写《简·爱》的勃朗特姐妹,她们也在这场狂热里赔掉了一笔钱。
但故事还有它吊诡的另一面。就是在这场让无数牧师和小说家血本无归的狂热里,英国的铁路里程,在短短几年间增长了好几倍。泡沫烧光了千万人的财富,却也鬼使神差地,为一个国家铺好了通往工业时代的轨道。一百五十年后,这一幕几乎原样重演:2000年西方互联网泡沫破裂,无数.com公司灰飞烟灭,但那几年被疯狂资本铺进地下的光纤,后来成了随后到来的数字文明的神经网络。
而这里藏着一个反直觉的真相:泡沫,虽然代价惊人,却也常常意外地、超额地,为人类建好了基础设施。铁路狂热破灭了,无数投资者血本无归,但英国的铁路网建成了。互联网泡沫破灭了,但那几年疯狂铺设的光纤,成了后来整个数字时代的地基。叙事点燃的非理性繁荣,像一场大火,烧掉了无数财富,却也烧出了一片新大陆的轮廓。
这就是为什么反思者在经济上的角色如此关键。他们没法阻止泡沫,但他们干的是另一件事:给这台前进的引擎,装上刹车和护栏。他们把那些被乐观叙事悄悄甩出去的成本,劳工的血、环境的债、隐私的代价,一笔一笔地,重新算回账本上。劳动法、环保法、数据合规、反垄断罚款,这些东西也全都是反思的声音,一寸一寸,逼出来的。
反思者甚至还创造了新的市场。当主流叙事走向集中和封闭,开源运动提供了另一条路;当巨型系统笼罩一切,小即是美的适当技术运动展示了另一种可能;当监视资本主义在西方愈演愈烈,一整个保护隐私的科技产业应运而生。反思,从来不只是否定。反思,也在创造。
再说社会。
技术叙事对社会做的最深刻、也最值得警觉的一件事,叫做去政治化。
什么意思?当一项技术带来了失业、不平等、权力集中这些后果时,乐观叙事会告诉你:这是技术进步的自然结果,是不可避免的代价,就像潮水涨落一样,没什么好争论的。它把一个本质上是政治的问题,也就是谁得利、谁受损、这样公不公平、我们能不能换一种做法,巧妙地包装成了一个技术问题,一个中立的客观的非如此不可的事实。
而反思者最重要的社会功能,恰恰是把这层包装打开。
他们做的事,本质上是一次又一次的翻译:把这是技术的自然结果,翻译回它的本来面目,这是一个有赢家和输家的社会选择,而这个选择,是可以被讨论、被审视、被改变的。
正是这次翻译,催生了我们今天视为理所当然的一切社会保护,蒸汽时代的工会与劳工立法,电力时代的公用事业监管,西方互联网时代的数据保护与平台问责,AI时代正在艰难成形的治理框架。每一道护栏背后,都站着一群当年被骂作扫兴守旧反进步的人。
反思者还守护着记忆。那些写小说的、拍电影的、做历史的人,他们或许阻止不了任何一台机器,但他们为那些被进步带过去的人和生活方式,立下了一块块墓碑。卓别林为流水线上的小人物立碑,狄更斯为工业城市里的孤儿立碑。正是这些哀悼,让一个文明不至于在高歌猛进中,彻底忘记自己脚下踩着的是什么。
最后,说说叙事如何重塑了你这个人。这是技术叙事最深、也最值得停下来想一想的一层。它不只改变你拥有什么,它改变你是谁,改变你想要什么。
每一次技术革命,都顺手重新定义了一遍什么是现代人什么是值得过的人生。电气时代,理想是那个窗明几净、操作着各种家电的现代主妇。互联网时代,理想是那个背着电脑、在世界各地咖啡馆办公的数字游民。AI时代,理想又变成了那个一个人指挥着一群AI、单枪匹马干完一个团队活儿的超级个体。
你有没有想过,这些理想的自己,没有一个是你自己定义的?它们全都是叙事递给你的剧本,而你,常常浑然不觉地,就照着演了。
更深的一层,是欲望的生产。技术叙事最高级的本事,不是满足你的需求,而是参与塑造你的需求。在iPhone出现之前,没有一个人需要一部智能手机,它都不存在,你怎么可能需要它?是叙事,先让你相信你需要它,然后你才真的离不开它了。从这个意义上说,每一次技术革命,都不只是在生产新产品,它同时在你心里,生产着对这些产品的渴望。
还有你对时间的感受。加速的叙事,把现代人扔进了一种永恒的焦虑里,总觉得自己慢了,落后了,赶不上了。明明工具越来越快,人却越来越喘不过气。因为叙事把未来变成了一种稀缺品,把被时代抛弃变成了悬在每个人头顶的达摩克利斯之剑。
这时候,面对时代潮流,反思意识变得尤为重要。它让你意识到:我可以选择不用。我可以慢下来。我的失业不只是我的耻辱,也是一个系统设计的结果。我有权去定义什么是我的好生活,而不是让某个发布会上的故事,替我定义。在一个一切都被技术中介、被算法安排的时代,反思守住了人之为人的最后一道边界,人有权决定自己要成为谁。
但是,我们也不能把反思者浪漫化成天然正确的英雄。
反思也会犯错,也有代价。有时候,对新技术的恐惧是非理性的,确实拖慢了本可以造福很多人的东西,对某些疫苗的过度恐慌,对核能一刀切的抵制,都让人类付出了真实的代价。有时候,反思会沦为一种精英的怀旧,一种何不食肉糜的傲慢,当一个衣食无忧的知识分子批评技术让生活失去了诗意时,他可能恰恰忘了,正是这些技术,把千百万穷人从真正的苦难里捞了出来。
反思的价值,不在于它每一次都正确,它甚至常常也是错的。反思的价值,在于它的存在本身。一个只有鼓吹、没有反思的社会,就像一辆只有油门、没有刹车的汽车。它跑得飞快,然后撞墙。反思的真正功能,不是替我们做出正确的决定,而是确保还有别的声音,确保这个文明,始终保留着一个能够自我审视、自我纠错的回路。
现在,让我们回到最初的那个问题:叙事、技术、社会与文明之间,到底是什么关系?
走了这么远,答案已经不言自明了。
叙事与技术的关系,不是谁决定谁,而是共生。技术为故事提供素材,故事为技术提供方向、资源和合法性。没有蒸汽机,就没有进步神话;但没有进步神话,蒸汽机也不会以那样的速度、那样的方式,改变整个世界。它们像两条互相缠绕、彼此塑造的藤蔓,一起长成了我们称之为现代的这棵大树。
叙事与社会的关系,是一剂同时具有两种药性的药。在剧变的年代,共享的技术故事是一种黏合剂,它给惶惑的人们提供意义、方向和我们正走向更好明天的集体安慰。但同一个故事,也可能是一剂麻醉剂,它让人对脚下的代价失去痛觉,把本该认真对待的事,咽成了时代的必然。而反思,就是那个让麻醉失效、让痛觉恢复的东西,它或许扫兴,却不可或缺。
叙事与文明的关系,是最深的一层,技术叙事,是一个文明讲给自己听的、关于自身命运的故事。
你想想,当一个文明在世俗化的过程中逐渐淡出宗教的语言,它对救赎的全部渴望,去哪了?它没有消失,它换了个地方安放,它安放进了对技术的信仰里。奇点,就是世俗版的天堂;技术解放,就是世俗版的救赎;进步,就是这个高度世俗化的时代,被反复呼唤的一种新的图腾。
所以,研究技术叙事,研究的从来不只是技术,而是现代人最深的恐惧与渴望,是我们如何理解我们从哪里来,要到哪里去,是这个高度现代化的文明,如何笨拙地、一次又一次地,试图为自己重新找回一个关于未来的、值得活下去的理由。
这就是为什么,本文从头到尾,都不愿意只做一个揭穿者。因为人,本质上就是讲故事的动物。我们无法没有关于未来的故事而活着,一个完全不相信明天会更好的文明,是无法迈出任何一步的。问题从来不是要不要故事。我们注定要讲故事,注定要做梦,注定要为某个尚未到来的应许之地心潮澎湃。
真正的问题,只有三个:
谁来讲这个故事?为谁讲?以及,我们是否还记得,上一个故事,最后是怎么收场的?
而比这三个问题更深的,是最后一个:当所有人都在为新的应许之地欢呼时,我们是否还愿意,停下来,听一听那个站在站台角落、固执地说着且慢的人?
历史一次又一次地证明,那个扫兴的人,那个被吊死的织工,那个被嘲笑的老学究,那个被解雇的职员,他们当中,藏着这个时代迟到的先知。我们总是在很多年以后,在废墟之上,才追认他们的正确。然后,我们转过身,又一次把下一个且慢的声音,当成了笑话。
衡量一个文明是否成熟,从来不是看它能讲出多么动人的承诺,而是看它能否在万众欢腾、烈火烹油的时刻,依然为那个唱反调的声音,保留一个被倾听的位置。
本文来自微信公众号“腾讯研究院”(ID:cyberlawrc),作者:周政华,36氪经授权发布。















