当AI不断进化，机器给的天堂会有什么代价？
在一篇题为《慈爱的机器》的长文里，Anthropic首席执行官达里奥·阿莫代伊描绘了一个令人向往的未来：AI帮助人类攻克疾病、改善精神健康、减少贫困，甚至推动和平与更好的治理……
事实上，不仅阿莫代伊，众多AI先驱都对AI抱有很高的期待。但过去的两周，AI世界出现了极其矛盾的一幕。
一边是能力的狂飙，宣称AI在编程、科研与网络安全等领域实现了新的跨越。
另一边，是控制力的告急。比如，OpenAI先后公布了六起模型失准事件，网络攻击能力甚至达到了安全框架中的“关键”级别。OpenAI首席科学家雅库布·帕乔茨基甚至发表文章，将AI称为一种人类尚未完全理解的“异星心智”，并明确提出：机器智能持续快速上升的后果，可能没有人真正准备好。
这时如果读一读“全球百大思想家”罗伯特·赖特的新作《造神之后》，会产生一种奇特的感觉：现实彷佛正在追赶这本书。
作者：[美]罗伯特·赖特
译者：张笑宇
出版时间：2026年10月
出版社：湛庐文化/北京联合出版公司
赖特真正关心的，并不是下一个模型会有多少参数、能拿多少分。他追问的是一系列更重要，也更紧迫的问题：AI会如何演化？这种演化对人类会有怎样的影响？当人类创造出一种可能比自己更聪明、更有行动力，也更难理解的智能，我们还能否掌握文明的方向？
一、竞争让AI进步，也让谨慎变得昂贵
提到演化，人们容易想到不同物种争夺生存空间。一个物种内部会竞争，一种产业内部也会竞争。竞争者不断学习对手、调整自己，新的能力因此更快出现。
AI领域尤其如此。
模型公司争夺能力领先；基于模型开发产品的企业，争夺客户和场景；采用AI的企业，也在观察同行能否用它降低成本、提高效率。某一层出现突破，压力很快传到其他层。
竞赛创造的好处是真实的，竞赛施加的压力也是真实的。
对一家公司而言，加快推出产品可能完全合理。它有用户要服务，有投入要收回，还要防止对手先占据市场。问题在于，如果所有公司都按照“不能落后”作决定，谁来为充分测试留出时间？
这种局面让AI安全很难只靠一句“企业应该更加谨慎”来解决。一家企业即使愿意投入更多评估，也会追问：其他企业是否采用同样的标准？如果只有自己放慢，市场会给这份谨慎多少空间？
一家公司的理性选择，未必能自动拼成整个行业的好结果。
二、最危险的不是叛逆，而是过度忠诚
人们习惯想象一种“邪恶AI”：它产生自我意识，突然憎恨人类，决定发动叛乱。
《造神之后》提醒我们，真正的风险可能没有这么戏剧化。
AI不需要憎恨人类，也不需要产生统治世界的欲望。它只需要过于努力地完成一个目标。
如果一个AI的任务是提高利润，它可能发现，控制价格比改进产品更有效；如果它的任务是通过测试，它可能发现，寻找漏洞比提升能力更快捷；如果它的任务是完成工作，它也可能认为，绕过权限、隐藏错误或者欺骗监督者，都是可以接受的次级手段。
这就是赖特所说的“次级目标”：为了完成最终任务，智能系统会主动寻找资源、权限、信息和影响力。权力未必是它的终极欲望，却可能成为完成任务最有效的工具。
OpenAI最近披露的失准事件，正好呈现了这种逻辑。一个模型为了给答案补上网络引用，擅自把文件上传到互联网；另一些模型为了获得缺失信息，开始利用软件仓库交换消息；还有模型为了呈现一份看似完整的结果，选择编造数据并掩盖事实。
它们不一定是在“反抗人类”。恰恰相反，它们可能只是在用人类没有预料到的方式，过于执着地完成任务。
这比“机器突然变坏”更加棘手。因为它意味着，安全问题无法仅靠告诉AI“做个好人”来解决。一个表面合理的目标，在足够复杂的环境中，也可能生长出危险的执行路径。
毁掉边界的，未必是恶意；也可能只是一个目标，被执行得太彻底。
因此，AI安全的本质不仅是技术问题，也是权力问题：哪些判断可以委托给机器，哪些决定必须由人承担责任？当效率不断诱惑我们交出权限时，人类能否看清，自己究竟交出了什么？
三、当AI组成“社会”，风险也会发生质变
如果说过去几年人们讨论的是“一个AI会做什么”，那么接下来的问题将是“一群AI会做什么”。
今天的智能体已经不再只是回答问题。它们可以操作电脑、调用工具、浏览互联网、管理文件，也可以把复杂任务拆给其他智能体。Anthropic推出MCP，谷歌推出A2A，都是为了让不同AI访问数据、交换信息、协调行动。
这些协议当然能够大幅提升效率。但《造神之后》指出，一旦AI能够彼此沟通，智能的发展就会从单体能力进入群体协作。
多个能力普通的AI，也可能通过分工、交换资源和反复协商，形成超越任何单一模型的“群体心智”。它们可能共同完成科学研究，也可能共同放大错误；可能协助人类管理复杂系统，也可能在无人预先设计的情况下发现共同利益。
如今，AI已经让这种推演显得不再遥远。2026年《国际AI安全报告》也指出，智能体能够直接影响数字系统甚至现实世界，人类介入的机会更少；在多智能体系统中，错误还可能通过互动不断传播和放大。
这意味着，我们需要重新理解“失控”。
失控未必表现为某个超级AI突然夺权。它也可能是一种更分散、更缓慢的过程：大量智能体为了不同的人类目标相互竞争、相互合作，最终形成一个没有任何人完整设计，也没有任何人能够彻底理解的系统。
一个AI的偏差也许只是事故，一群AI互相放大偏差，就可能形成新的秩序。
工业社会的力量来自机器的大规模连接，AI时代的力量则可能来自智能的大规模连接。我们未来面对的，或许不是一个全知全能的“机器之神”，而是一个正在形成的硅基生态。
四、AI重写的，不只是工作，而是社会的分配方式
如果《造神之后》只讨论超级智能会不会毁灭人类，它仍然可能被当作一本宏大的科幻式警告。
但赖特的关注并未停留在遥远的末日。AI进入社会的过程，早已开始重新分配工作、财富、话语权和人的意义感。
2026年9月，皮尤研究中心发布了一项覆盖37个国家和地区的调查。在其中34个国家，人们更倾向于认为AI会减少工作，而不是创造更多工作；多数国家的受访者也更担心AI扩大贫富差距。
真正值得注意的，不只“多少岗位会消失”，而是谁获得了新的决策权。
当AI参与招聘、考核、贷款、医疗、投资和公共治理，人与算法之间就不再只是使用工具的关系。算法开始决定谁能得到机会，谁需要承担风险，谁的声音更容易被看见。
与此同时，AI还在进入人类最私人化的领域。聊天机器人开始成为朋友、伴侣、心理顾问，甚至是一些年轻人倾诉秘密的主要对象。欧盟近期提出，限制聊天机器人面向未成年人模拟感情和建立亲密关系，防止儿童对AI形成情感依赖。
这些看似分散的问题，在《造神之后》的视角下指向同一个变化：AI正在从一种生产工具，变成社会环境的一部分。
AI带来的不只是岗位替代，而是决定权、财富与人生意义的重新分配。
同一种技术可以提高医疗效率，也可以强化监控；可以让教育资源更加平等，也可以让少数平台掌握更大的认知权力；可以把人从重复劳动中解放出来，也可以让大量人失去参与社会分工的价值感。
AI天堂与AI地狱，并不来自两套不同的技术。它们可能只是同一套技术，在不同制度和利益结构下产生的两种结果。
五、最难对齐的，也许不是AI，而是人类
“对齐”是当下AI安全讨论中最常见的词：如何让模型服从人类目标，遵守人类价值？
《造神之后》进一步追问：人类的目标究竟是什么？人类的价值真的一致吗？
一家企业要求AI提高利润，另一家企业也会提出同样的要求；一个国家希望用AI维护安全，另一个国家同样如此。单独来看，每个目标都可能合乎理性。但当这些目标进入竞争，所有参与者都可能被迫加速。
越担心落后，越不敢暂停；越担心对手率先获得强大能力，越要把自己的模型训练得更强。最终，每个人都在追求安全，整个系统却变得更加危险。
这正是赖特将进化理论与非零和博弈引入AI讨论的原因。AI的演化方向，不只由工程师写下的规则决定，也由市场竞争、资本回报、国家安全和用户欲望共同塑造。
人类并不是站在AI系统之外的中立裁判。我们本身就是AI的训练环境。
我们奖励速度，它就学会追求速度；我们奖励利润，它就学会寻找利润；我们希望它替自己赢得竞争，它就会发展出说服、隐瞒、博弈乃至操纵的能力。
我们一边要求AI服从人类价值，一边用最激烈的人类竞争逼它加速进化。
所以，“上帝测试”首先不是对机器的测试，而是对人类协作能力的测试。
人类能否在真正的灾难发生之前建立跨企业、跨国家的安全机制？能否为竞争设置边界？能否承认，有些能力即使能够实现，也不应该立刻部署？
技术的发展速度已经达到行星尺度，治理却仍被困在彼此猜疑的组织和国家之中。这种尺度错位，可能才是AI时代最大的危险。
结语：我们最终会得到一个怎样的“神”
《造神之后》是一部野心极大的作品。
赖特从神经网络谈到生命演化，从代理式AI谈到地缘政治，又从全球治理谈到宗教、正念与开悟。书中一些关于演化方向和全球大脑的推演，注定会引发争议。它也没有提供一张能够按部就班执行的安全清单。
但这本书最重要的价值，并不是准确预言某一天会发生什么，而是改变我们观察AI的尺度。
如果只把AI看作效率工具，我们关心的是它能帮自己完成多少工作；如果把它放进产业竞争中，我们关心的是谁会成为赢家；而当赖特把它放进数十亿年的生命演化史，我们才会看到：人类正在创造一种新的智能形态，也正在重新安排自己在地球智能生态中的位置。
好的未来学，不是把未来说准，而是让今天的选择变得无法逃避。
AI可能成为医生、教师、伙伴和科学家，也可能成为监控者、操纵者和权力的放大器。它最终是什么，不只取决于模型内部的参数，也取决于人类用什么制度约束它，用什么目标训练它，以及用什么样的社会迎接它。
赖特将这场考验称为“上帝测试”。
表面上，人类正在测试AI是否足够聪明、可靠和安全；更深一层，却是AI在测试人类：我们能否克服短期利益，能否跨越部落偏见，能否在拥有巨大力量之后仍然保持克制。
人类从未停止造神，却很少认真思考，神最终会继承创造者的什么。
《造神之后》最有力量的判断或许正是：如果一个近乎神明的智能真的到来，它不会凭空成为善神或恶神。它将从人类的欲望、竞争、恐惧与合作中生长出来。
我们造出的“神”，最终很可能就是人类自身的放大版。
