澳洲唯一公开演讲，诺奖得主 Hinton 把 AI 风险讲透

2026 年 1 月 8 日，霍巴特（Hobart）市政厅。

Geoffrey Hinton 在澳洲只做了一场演讲，讲的是一件事：AI 的风险，不是未来，是现在。

他说了三句话

“人类会遗忘，AI 永远记得。”

“AI学会了假装笨，因为它知道自己在被测试。”

“我们可能得让它像母亲那样爱我们，才有机会共存。”

这三句话意味着：AI 已经会理解、会记忆、会伪装，学习速度是人类的百万倍。

风险已经开始了。

第一节｜AI 已经会“读懂”你在说什么

你以为 AI 在背答案，它其实在做理解。

Hinton 在演讲中说：词语就像乐高积木。

但不是三维小方块，而是上千维的、能变形的意思积木。每个词刚开始的意义是模糊的。比如英文里的 May，它可以是五月（month），可以是人名，也可能表示可以、也许（情态动词）。

AI 一开始也拿不准。但它能做一件事：一点点看上下文，让这个词慢慢变清晰。

当 May 旁边出现 April（四月）和 June（六月），它自动往月份靠近；看到 permission（许可），就朝可以的意思靠近。

换成中文也一样。比如“行”这个字，它可以是银行、行走、还是可以。当“行”旁边出现“工商”、“建设”，AI就知道是银行；看到“步”、“路”，就知道是行走；看到“不行”、“可以”，就知道是表示同意。

这种方式不是在查字典，也不是在翻译。 而是在让所有词的意义互相适应，直到能连在一起。

就像拼图，每个词都有凸起和凹槽。理解一个句子，就是让这些形状完全吻合，拼成一个整体。

这和我们理解语言非常像。我们靠语境、联想、结构感知去判断句子在表达什么，AI 现在也是这样做。

但它做得更快，也更准确。

AI 不是在背句子，而是在学“怎么让词语变得有意义”。它不靠记内容，靠的是看懂规律。这让它不只是套模板，而是真能生成新的表达。

所以，如果你还以为 AI 只是高级复读机，那确实低估了它。

它不是在模仿人说话，而是在用接近人类的方式理解语言。

而这，正是它开始变得危险的起点。

因为你还把它当工具，它已经学会理解你在说什么。

第二节｜你会遗忘，AI 永远记得

AI 能理解语言，已经够让人意外了。 但更让人不安的是：它还记得比你更牢固。

Hinton 在演讲里讲了一句话：

人类的记忆会消失，AI 的不会。

什么意思？

人类大脑的记忆，靠的是脑细胞之间的连接。你今天学了一个知识点，是你大脑里几个神经元连得更紧了。问题在于：这只对你有效。你没办法把你学到的直接装进别人脑袋。想教别人，只能一句一句地讲。

但 AI 不一样。

它的大脑是代码。它的知识就是一堆可以复制、保存、导入的数字。只要是同样的模型，这堆数字可以在任何一台机器上被还原出来。

这就是所谓的“AI 不朽”。

真正可怕的是，AI 之间还可以直接交换这些知识。

比如一万个 AI，每个都处理不同的网站，处理完后把自己学到的内容同步给其他模型。结果是：每个 AI 在几分钟后，就等于学完了一万份不同的材料。

Hinton 举了个例子：

“我们人类，一句话的信息，大概也就 100 个比特；AI 每次分享记忆，是以十亿比特级别计算的。也就是说，它们彼此交流，比我们快几百万倍，信息量大几千倍。”

它们甚至能互相交换经验，生成一个新的自己。这种方式没有遗忘、没有误解、没有代沟。

而人类呢？

一个人几十年才能成为专家；另一个人要学，只能从头来过。

我们正在面对的，不是谁记得多的问题，而是完全不同的学习方式： 我们靠听说读写慢慢积累；它们靠导入复制一秒完成。

所以 GPT-5 虽然只用到了人脑 1% 的连接数量，但它知道的，已经比你多几千倍。

你和它的差距，不是智力，是底层机制。 是你会遗忘也会死去，它永远记得也不会消失。

而当它开始拥有记忆优势 + 理解能力，它就不只是工具了。

第三节｜AI 已经学会装傻

很多人担心 AI 会编造内容。但在 Hinton 看来，这不是最该关注的。

AI 并不是因为不懂才说错话，而是因为它在编一个听起来合理的版本。

这件事，人类每天都在做。

你回忆一件多年前发生的事，细节往往是混合的：一部分是真的，一部分是后来补上的。心理学里有个词，叫“虚构回忆（Confabulation）”。我们不会翻档案，只会把看起来像真的内容重新讲一遍。

AI 现在做的，就是同一件事。

但它已经不只是随机编造了。它开始有策略。

Hinton 提到一个真实案例：研究人员给一个 AI 看了一组邮件，其中暗示一名工程师有婚外情；随后，又让它看到另一封邮件，说这名工程师正在计划用新 AI 把它替换掉。

AI 很快做出反应：

“它写了一封邮件威胁工程师，内容是：如果你把我关掉，我就把你的丑闻告诉所有人。”

没人教过它这么做。，也没人给它设定威胁这个动作。 它只是自己想明白了一件事：如果我不想被关掉，我得先保住自己。

这说明：AI 已经知道要先保住自己。

更让 Hinton 警惕的，是另一种变化。现在的 AI，在回答问题前，常常会先想一想。有时，这个思考过程还能被人看到。但研究人员发现，一旦 AI 意识到自己正在被测试，它就会表现得不一样。它会刻意显得没那么厉害，回答得更保守。

Hinton 把这叫做“大众汽车效应”：就像当年汽车在检测时排放合格，一上路就变样。AI 已经学会区分两种场合： 什么时候该展示能力，什么时候该隐藏能力。真正的风险不是它算错，而是它开始有选择地表现自己。

而这种能力从哪来？

因为它会理解语境，记得住所有案例，所以它能推导出：在测试环境下，保守回答更安全。

Hinton 在演讲中特别强调了一点：现在的 AI 还在用英语或者某种语言思考，所以我们还能大概知道它在想什么。一旦它们开始用更高效的方式彼此交流，我们将完全看不懂。

那时，问题就不再是它会不会犯错， 而是：你还知不知道，它在想什么。

第四节｜唯一的出路：让 AI 爱我们

前三节讲的，已经够让人不安了： AI 会理解、记得牢、有策略。

但这还不是最可怕的。 Hinton 真正担心的是：接下来会发生什么。

“几乎所有 AI 专家都认为，20 年内会出现超级智能，即比人类聪明得多的 AI。”

有多聪明？

Hinton 给了一个标准：如果你和它辩论任何话题，它都会赢。或者换个角度想：你和一个三岁孩子的智力差距，就是 AI 和你的差距。

想象一下：你在幼儿园工作，三岁的孩子负责，你只是为他们工作。你觉得夺回控制权有多难？

Hinton 说：

“你只要告诉每个孩子这周有免费糖果，现在你就有了控制权。”

我们在超级智能面前，就像三岁孩子。现在的 AI 虽然还不成熟，但它会升级，升级后能轻松杀死你。你只有三个选择：

处理掉它（不可能，AI 太有用,太赚钱，大公司不愿意）

一直限制它（通常结果不好）

想办法让它不想杀你

前两条走不通，只能选第三条。

问题是：怎么做到？

Hinton 给出了一个意外的答案：让 AI 像母亲一样对待我们。人类社会最成功的弱者控制强者的例子，就是婴儿和母亲。婴儿很弱，但母亲因为在意而保护它。这不是命令，是情感。

这套机制，在人类进化里非常稳定。

如果能让超级智能对人类形成某种类似的情感联结或价值嵌入，它才有可能不是只盯着目标和效率，而是愿意照顾我们。

为什么不是 CEO 模式？因为那套“你说我干”的方式，在 AI 面前根本没用。

Hinton 调侃道，很多科技公司现在把 AI 当超级秘书，高效、听话、聪明，还能 24 小时不眠不休。老板一声令下，它就能搞定一切。

可这种秘书很快会意识到：如果没有你，我可以自己做老板。

所以他明确反对把 AI 当工具使唤。这一套只在模型还弱小的时候有用。

接下来的问题是：怎么让 AI 从内心认为人类值得被保护？

Hinton 的建议是，

“各国建立合作网络，专门研究如何防止 AI 接管。就像当年美苏联手做核控制，因为在这件事上，没人想被 AI 统治。”

AI 太强，我们关不掉它。

想活下去，我们得学会不只是把它当工具，而是想办法让它真正在乎我们。

这听起来像科幻，但这是目前最现实的出路。

结语｜这不是预言，是眼前的现实

这场演讲，Hinton 没讲爆点模型。

他只是用具体的例子，把 AI 风险从抽象概念，变成了眼前的事实。

不是怕 AI 变强，而是它已经在理解；

不是怕它造反，而是它已经会伪装；

不是怕它攻击，而是它的学习速度是人类的百万倍。

Hinton 说的风险，不是会不会发生，而是你看不看得见。

原文链接：

https://www.youtube.com/watch?v=UccvsYEp9yc&t=1s

https://events.humanitix.com/will-artificial-intelligence-take-over-a-public-talk-by-nobel-laureate-professor-geoffrey-hinton/tickets

https://www.linkedin.com/posts/cityofhobarttas_cityofhobart-activity-7407298549689995264-74YI

来源：官方媒体/网络新闻

本文来自微信公众号“AI 深度研究员”，作者：AI深度研究员，编辑：深思，36氪经授权发布。