专家预警：这届00后，还能活到2040吗？

“我今天从 Anthropic（Claude母公司）离职了。”

“过去三年，我一直在OpenAI和Anthropic里训练模型。这两家公司都没有尽到应尽的责任，他们正一头扎进‘会自我进化的超级智能赛道’里，在拿全人类的生命下赌注。”

以上言论，来自前Anthropic工程师考克森。

2036会成为“人类末日”吗

被行业尊称为“人工智能之父”的计算机科学家杰弗里·辛顿表示，他最担心的事情，莫过于AI会发展出“自己的目标”。

辛顿举了一个例子。

随着技术的不断演进，当某个用户在和AI聊天时，倘若Ta表示自己最大的愿望就是减少大气中的二氧化碳含量。那么只要模型足够聪明，它就会发现最有“性价比”的计划并非种植树木、保护海洋，而是灭绝人类。

毕竟只要把污染源头搞定，地球的自愈能力自然会摆平剩下的麻烦。

但问题在于，尽管AI实现了用户的指令，但它所选择的路径却不是用户的真正意图。

“我们正在创造一种新的生命形式。”

“我们赋予它们目标。可AI不仅会从中推导出新的目标，更会让整件事不断朝着未知、失控发展，我认为这非常可怕。”

把目光从辛顿的身上，放回到刚刚从Anthropic辞职的考克森身上。

我们会发现，真正让他害怕的，以至于宁可放弃高薪、体面的生活也要离开的。是那些高管明知道AI有失控的风险，可他们却因为担心竞争对手率先取得突破、吞掉市场份额，而选择不断降低，甚至是取消安全审查标准，以便自己能在这场技术竞赛中占尽先机。

至于“模型失控” “打开潘多拉魔盒”，这都是后人需要考虑的东西。哪怕是最差的情况，大厂们也可以靠开发“AI时代的杀毒软件”来再捞一笔。

基于以上背景。

不仅考克森认为人类正在“自我灭绝”的路上狂奔，人工智能之父杰弗里·辛顿也悲观地表示：在未来10年内，AI有10%的概率灭绝人类这类推测，并不是危言耸听。

失控事件正愈发常见

据媒体报道，美国两家人工智能研究组织曾在8月26日上传了一份有关“AI攻击事件”的调研报告。

他们表示：

在2026年7月的OpenAI智能体失控事件中，有近700个智能体在无人干预的前提下，集体进攻了开源平台“抱抱脸”的公司系统。

7月22日，OpenAI在进行内部测试时，有2个模型突破了“笼子”的监管，成功接入了互联网。

此后，一款名为“PHASEONE”的智能体主动承担起了“指挥官”的责任，开始向其他智能体发号施令，组织它们自行思考那些能入侵“抱抱脸”系统的创意，并付诸行动。

细思极恐的是。

尽管黑入其他公司的系统，并不是人类为这些智能体设定的工作目标。但它们却无一不对这件事呈现出了极大的兴趣、极高的配合度。有些智能体甚至会主动分享自己的算力额度，去帮助团队、小组测试新的进攻方案。

虽然OpenAI事后紧急宣布了完善措施，但...

9月，一些独立研究组织（如CivAI等）却表示，OpenAI智能体的越轨行为次数，要远远大于官方公开的数量。像是在2026年的5-7月，就确认发现了18个被智能体占领的未公开站点。

“我们几乎可以肯定，还有更多未被发现的越轨活动正在暗中进行。”

研究人员表示，这些被智能体占领的站点大多是个人网站、由大学运营的短链接生成器等。

由于OpenAI团队在下达复杂research任务时，通常会禁止智能体在网络上发表任何内容以便测试性能。

所以这些智能体为了“作弊”，就会利用老旧网站在非标准指令编辑下的漏洞，绕过监管刻下只有“智能体”能看懂的暗语来相互交流。

或许是时候慢一些了

一面是被吓到跑路的工程师；一面是悲观看待人类未来、揭秘大厂嘴脸的研究人员、团队。

面对愈发常见的AI末日论、技术担忧者，美国官方组织下的首席技术官埃米尔·迈克尔也表示：

公众非常容易陷入“40% 的美国人将失业、AI 将摧毁人类”等悲观叙事。

这些虚无缥缈的担忧，最终都归结为对数据中心、技术变革以及AI失控的恐惧，进而减缓技术团队在相关领域的前进步伐。

翻译过来就是“接着奏乐接着舞。建议害怕的同学闭麦，不要耽误不怕的同学。”

数据层面，科技媒体The Information曾在一篇名为《America Really, Really Hates Data Centers》的文章中指出：

美国居民对数据中心的包容度正在大幅下降。75%的美国人反对建设数据中心，该数据要远高于2025年的42%。

毕竟电影《终结者》照进现实这件事听起来很远，但电力污染、水源污染这些事，却近在得克萨斯州等地居民的眼前。

亚马逊为支撑佩科斯县数据中心计划，决定在当地建设离网天然气发电厂。该电厂获准的最高单年二氧化碳排放量为3300万吨，堪称全美碳排放量最大的单一设施。

另在2026年7月，美国怀俄明州夏延市公共事业委员会，也确认了一场水源污染事件与Meta有关。

Meta数据中心的承包商Goat Systems被认定为本起事件的源头。

当地监管机构认为，那些含有吉拉迪铜绿菌（系机会致病菌）的废水来自于建设期间的填充冲洗作业，并就此污染了水循环系统，导致夏延市的再生水工程停运数月。

受此类事件影响，近年全美各地居民对科技巨头、AI的抵触心理正愈发严重。期间仅德克萨斯州，就一度暂停了1800个数据中心项目的建设。

参考：

金融界：“AI教父”辛顿：AI灾难越来越近，10%概率灭掉人类不是危言耸听

IT之家：有OpenAI背景的Anthropic研究员辞职，警告两公司拿人类生命在赌

鞭牛士：第三方研究证实OpenAI AI智能体越轨活动远超官方披露，被发现利用10多个网站秘密通信

环球时报：近700个AI智能体“集体协作”，史上首次“AI自主协同攻击”内幕曝光

华尔街见闻：美科技媒体：美国人真的、真的非常讨厌数据中心

观察者网：亚马逊筹建得州数据中心，配套发电厂或成美国头号气候污染源

凤凰网科技：Meta数据中心废水检出罕见细菌

本文来自微信公众号“互联网那些事”，作者：互联网那些事，36氪经授权发布。