当《黑镜》预言成真:AI接管世界后,人类还剩什么?

36氪领读·2025年05月20日 07:12
《黑镜》回归&《未来之地》探讨AI时代人类生存意义

这个五月,是科幻迷们的集体狂欢!

《黑镜》第七季带着新思考强势回归,Netflix现象级IP《爱,死亡和机器人》第四季即将炸场,殿堂级赛博朋克经典《攻壳机动队》重登银幕......

2025年,再回看这些经典的科幻片的时候,我们惊觉:自己距离科幻影片中描绘的世界似乎更近了一些,那些曾被视为天马行空的未来寓言,正以惊人速度渗入现实。

拿《黑镜》系列来举例子,自2011年首播以来,《黑镜》用33个灵巧的小故事,展现了近未来世界科技与人的种种关系,成为科幻剧集的代表作。甚至“黑镜”一词本身,也逐渐成为人们描述技术的重要隐喻。

《黑镜》系列的片头始终是一面镜子的碎裂,仿佛预示着人类寄托于技术的希望终将落空。作为当代经典的技术反乌托邦式叙事,《黑镜》口碑和热度最高的剧集往往能带给人“脊背发凉”之感。

此刻,人类正站在技术奇点的门槛。马斯克的公司正执着于利用脑机接口上载意识,Deep Seek等大语言模型正渗透在许多人的生活中,Vision Pro的更新让虚拟现实的搭建更为逼真......

高科技,尤其是AI大爆炸所推动的未来,会呈现出一些乌托邦的特质:我们将有可能享受从未见过的繁荣,一个极度丰裕的社会,一个大多数人不再需要工作的社会,一个从物质向数字大转型的社会。但是,当乌托邦以一种过度理想的方式呈现出来,试图塑造新世界的时候,从没有成功的例子。相反,如果将乌托邦作为思索未来,尤其是思索AI高科技可能带来哪些改变的思维实验,那可能颇有裨益。

这也是牛津大学哲学家尼克·博斯特罗姆在《未来之地》一书中试图做的,这本书的英文标题Deep Utopia,直译过来就是“深度乌托邦”。

博斯特罗姆展开想象力,呈现出三种不断递进的未来图景:后稀缺时代、后工作时代和后工具性时代。

后稀缺时代

后稀缺时代是纯粹的物质丰裕的时代。

如食物、电子产品、交通、住房、学校和医院等,每个人都几乎拥有一切。

这种乌托邦的概念在科克恩传说中有所体现。它是欧洲中世纪文化中对乌托邦世界想象的重要组成部分,其形象和内涵频繁出现在当时的流行艺术、文学以及口头传诵中:

悠闲度日,无须劳作,

无论老少强弱,皆可享受生活,

从无物资短缺之忧,

连围墙都由香肠筑成。

科克恩传说本质上是中世纪农民的白日梦。在科克恩的安乐乡,人们不用在灼热的阳光下或刺骨的北风中进行繁重的劳动。

那里没有干硬的面包,没有物资匮乏。

相反,生活中的一切需求都被轻松满足:煮熟的鱼从水中跳出来落在脚边;烤熟的背上插着餐刀的乳猪在地上乱跑,人们随时可以切割享用;奶酪从天而降,河流中流淌着美酒。那里永远是春天,天气总是温暖舒适。连你睡觉时都在赚钱。性禁忌也被松绑了,传说中有对修女倒立露出臀部的描述。那里没有疾病和衰老,盛宴日夜不停地进行着,人们在舞蹈和音乐中尽情享乐,有大量的休息和放松时间。

然而,后稀缺时代会是一个人人平等的世界吗?

什么是后稀缺时代的地位性商品?惯常的是权力和地位,还有成就感和野心。

马斯克希望成功登陆火星,而登陆火星既是人类拓展新边疆的努力,也是一种稀缺的地位性商品。

永生也是一种地位性商品,这也是为什么硅谷的大亨在过去十年那样渴求百岁人生。永生之后呢?尤其是当这种永生可能发生在虚拟世界中?虚拟世界中的地位性商品又是什么?或许是更多的算力,更棒的硬件升级。

后工作时代

后工作时代是完全自动化的时代。

这意味着不再需要人类的经济劳动。后稀缺乌托邦中虽然有丰裕的物质财富,但生产这些财富可能依然需要工作。而在后工作乌托邦中,几乎没有人类工作,其原因可能是自动化机器让我们轻松地拥有了幸福的生活,或者是人们选择过着节俭但最闲暇的生活。

在工业时代,学习是为了培养出合格的劳动者:一方面给他们以基本的技能,让他们能够胜任工厂中的工作;另一方面培养他们遵守纪律、服从管理。进入知识经济时代,白领工人,或者说知识劳动者,仍然需要不断学习新技能,提升效率,以实现更大的产出。这种学习还有一项功能,那就是分层,让有能力的人能够涌现出来,沿着社会阶层的阶梯向上攀登。按劳分配就是工业时代延续至今的劳动分配原则。

著名经济学家约翰·梅纳德·凯恩斯在他1930年发表的影响广泛的文章《我们后代的经济前景》中预测,到 2030年,人类累积的储蓄和技术进步将使生产力相对于凯恩斯自己的时代增加 4~8 倍。如此巨大的生产力增长,将使满足人类的需求变得更加轻松;

因此,平均工作时长将减少到15小时/周。这个前景让凯恩斯感到担忧:他担心过多的闲暇时间会导致一种集体性的精神崩溃,因为人们将不知道如何处理所有的空闲时间。在这样的世界里,人们还会选择将大量的清醒时间用于工作吗?

后工作时代带来两个本质的改变——消灭了稀缺,并让工作逐渐失去意义。我们几乎可以说,因为 AI 的大发展,人类社会正处于一个重要的十字路口。关于 AGI 的出现,最深层次的议题并不是 AI 是否会取代人类,而是 AI会如何消灭稀缺? AI 为什么会让大多数工作变得不再必要?

这种改变正在发生,而且很可能在未来两三年形成质变。肉眼可见地,我们会发现呼叫中心专员、市场营销专员、程序员、会计师等一系列岗位被机器替代。一开始是低阶、初级的岗位,然后是简单重复的知识劳动岗位。AI带来的进步让超级个体(也就是那些能熟练调用AI的人)的生产率大幅提升,一个人可以完成十个人甚至更大团队能够完成的工作量。

AI带来的生产率的巨大提升将逐步消灭稀缺,它让产品和服务,尤其是服务,变得越来越便宜,越来越普惠。它也提出了本质的问题:如果大多数劳动者赖以生存的工作被替代,那么人们何以为生?工作又将为何?

博斯特罗姆提出:无聊阻止了无回报的重复行为,并激励我们寻找更有成效的方式和情境来使用我们的时间和精力。欲求不满本身就是驱动力,推动人类寻找自身活动的全新意义。或许探索新的边疆将是未来一些人努力工作的方向。大多数其他人则需要学会娱乐和休闲,回归社区和社群,体验自然与生命的乐趣,找寻更多满足好奇心的事。

我们如何走出工业时代给人类社会留下的深刻印迹?在后工作时代,如何重新定义工作,定义学习?

后工具性时代

后工具性时代是再深一层的乌托邦,这个时代人类努力不再有任何工具性需求。

在那里,人们不再有通过锻炼来保持健康的必要,不再有通过学习来获取知识的必要,也不再有通过积极评估和选择以获得偏爱的食物、住所、音乐和衣物的必要。换句话说,这会是一个不再需要个人努力,人类完全“躺平”的时代。

然而,后工具性时代,我们真的可以躺平吗?

对学习和工作的讨论前提是,它们都需要我们付诸努力。但如果我们不再需要努力就可以达成愿望,世界会变成什么样子?《未来之地》想象的是一个科技解决了所有问题的时代,在迈向这个终极时代的过程中,日益强大的技术将有能力在物质和信息最基本的层面重塑世界。

我们一直认为,学习和健身是不可能找人代替我们完成的。如果魔法小药丸可以让你实现健身的所有功效,但你不需要经历健身的辛苦,如果 AI 可以给人脑“编程”,从而让你立刻获得各种能力,或者机器可以获得各种全新的能力,帮助你完成工作,那还需要你自己努力做什么?

当我们不再需要通过艰苦的锻炼或者艰难的节食或其他食物疗法,而是每天吃一片药或者打一针就能减肥时,许多固有的观念(如反对不劳而获,支持“内

卷”)就会被打破。

最值得检讨的就是内卷,因为在已知的世界中“卷”没有任何意义。在学习上内卷的人不断地刷题,只是为了考验自己能否对既有知识掌握到滚瓜烂熟的地步,让每一分都拉开人与人之间的差距。这在AI时代显然是不合时宜、不划算的,而且可以说是反潮流的。

当下之所以弥漫着躺平的论调,是因为在很多情况下,人们即使努力也不一定能获得想要的结果。不努力并不意味着无所事事,我们需要思考的是努力的方向。

当然,我们距离这个大脑可以编辑,甚至可以上传到云端并使人获得永生的世界还很遥远,生物学进步的速度相比于AI进步的速度要慢得多,但这并不碍我们去思考这个重要的问题:我们该怎么展望这种躺平的生活?

《黑镜》的每一道裂痕,都是对技术崇拜的尖锐诘问。多年过去,互联网、机器人、AI等技术轮番迎来了爆发式发展,人类生活的各个角落都早已离不开科技的绑定。当AI接管世界的预言从科幻走向现实,人类需要的不是恐惧或狂欢,而是清醒的自我审视:如今,我们还会以怎样的视角,去回顾这些科幻作品,又如何在AI时代重新看待生命的意义?

在《未来之地》英文版的副书名中,“Solved World”的意思是,已经解决了任何问题的科技世界。未来技术的发展会带来终极的重塑力量:一个是整个物理世界可以在原子层面重塑(你只需说出一个命令,一个用自然语言表达愿望的句子,瞧吧,房间里的物品就会迅速且自动地重新排列成你偏好的配置),另一个则是我们可以在虚拟世界 / 数字世界中完全复刻和创造出现实世界中的体验,用高科技重塑我们的大脑……

我们在技术中看见的是自己的倒影,而技术的内部依旧神秘莫测。

文章摘编自《未来之地》

知名未来学家尼克·博斯特罗姆新作

埃隆·马斯克:这本书精彩极了!

未来之地

超级智能时代人类的目的和意义

Deep Utopia: Life and Meaning in a Solved World

内容简介:

在技术进步和经济不断发展的当下,越来越多的人开始思考这些问题:当机器人能够顺畅地处理大部分工作时,是否会导致人类大量失业?在大量失业的情况下,人们该如何获得收入,是否会因此感到人生毫无意义,丧失获得快乐的能力?

假设人类安全地开发出了超级智能,对它进行了良好的管理,并很好地利用了这项技术所能释放的巨大经济潜力和神奇的变革力量。在这个世界中,人工智能可以做我们能做的一切,而且可以做得更好、更快,成本更低。那么,人类还能扮演什么角色呢?

这本书前瞻性地探索了科技高度发达的“未来之地”,并预测了超级智能时代的人类命运,它探讨的是一个后技术时代的新问题:一旦到达梦想中的技术之巅,人类要如何培养意义和目的?如果不再需要工作,我们将如何生活?

作者在书中部分采用了对话体的形式,创造性地虚构了一个为期一周的哲学系列讲座的场景,由博斯特罗姆教授本人主讲。此外,作者还构建了一个动物世界寻找乌托邦的寓言场景,以此映射人类世界,新颖有趣,有助于读者快速进入作者的哲学场域。

作者简介:

[英]尼克·博斯特罗姆(Nick Bostrom)

l 知名哲学家、超人类主义者和未来学家。牛津大学人类未来研究所(FHI)创始人,宏观战略研究计划创始人、首席研究员。其学术背景包括物理学、计算机科学、数理逻辑以及哲学。

l 曾获得尤金·甘农奖(该奖项的获得者每年只有一名,来自哲学、数学、艺术和其他领域)。两次入选《外交政策》杂志“全球百大思想家”名单,并被列入《展望》杂志世界思想家名单。

l 其作品已经被翻译成30多种语言,代表作《超级智能》曾被微软的比尔·盖茨、特斯拉的埃隆·马斯克和OpenAI的山姆·奥尔特曼等推荐。

+1
87

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

下一篇

当执行变得廉价时,如何建立竞争优势

2025-05-20

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业