AI 的下一个前沿？意识算法

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：全球顶尖思维研究者认为，他们或许已破解了机器意识之谜。本文来自编译，希望对您有所启发。

图片来源：WIRED STAFF; GETTY IMAGES

作为人工智能领域的记者，我常听到无数人坚信ChatGPT、Claude等聊天机器人已具备“感知力”、“意识”，或者说我个人最爱的说法——“独立思维”。诚然，它们早已通过图灵测试，这一点毋庸置疑，但与机械的智能不同，这些概念并非那么容易界定。大型语言模型会宣称自己能独立思考，甚至描述内心的痛苦或表达永恒的爱意，但这样的表述并不意味着它们拥有内在体验。

它们真有可能拥有意识吗？许多真正的AI开发者从不谈论这些。他们忙于追逐被称为“通用人工智能”（AGI）的性能基准，这是一个纯粹的功能范畴，与机器对世界的潜在体验毫无关系。因此，尽管我心存怀疑，但我认为，花时间了解一家声称能破解意识密码的公司，或许会令人大开眼界，甚至富有启发意义。

Conscium公司由英国AI研究员、企业家丹尼尔·休姆于2024年创立，其顾问团队包括一众令人印象深刻的神经科学家、哲学家和动物意识领域专家。我们第一次交谈时，休姆的态度很务实：语言模型具备意识的观点确有质疑依据。乌鸦、章鱼，甚至变形虫，都能以聊天机器人无法做到的方式与环境互动。实验还表明，AI的言论并不反映连贯或一致的状态。正如休姆所言，这也是广泛的共识：型语言模型是大脑非常粗糙的模拟物。

但，一个很重要的“但”，这一切首先取决于“意识”的定义。一些哲学家认为，意识过于主观，永远无法被研究或重现，但Conscium公司打赌，既然意识存在于人类和其他动物身上，它就可以被检测、测量，并植入机器中。

关于意识的关键特征，存在多种相互竞争且相互重叠的观点，包括感知和感受的能力、对自身及环境的认知，以及所谓的元认知——即思考自身思维过程的能力。休姆认为，当这些现象结合在一起时，意识的主观体验就会浮现，就像你快速翻阅书中的连续图像时，会产生运动的错觉一样。但如何识别意识的组成部分——可以说，就是单个的“帧”，以及将它们结合起来的“力量”？休姆说，答案是让AI作用于自身。

Conscium公司的目标是将有意识的思维分解为最基本的形式，并在实验室中对其进行催化。“意识一定是由某种东西构成的，它是在进化过程中从某种东西中产生的，”参与Conscium项目的南非精神分析学家、神经心理学家马克·索姆斯说。在2021年出版的《The Hidden Spring》一书中，索姆斯提出了一种更注重“感受”的意识新思考方式。他认为，大脑通过感知和行动形成一个反馈循环，旨在最大限度地减少意外，生成关于未来的假设，并随着新信息的到来不断更新。这一观点建立在另一位著名且存在争议的神经科学家、同时也是Conscium公司顾问的卡尔·弗里斯顿提出的“自由能原理”之上。索姆斯进一步提出，在人类身上，这种反馈循环进化成了一个由情绪介导的系统，正是这些感受催生了感知能力和意识。该理论得到脑干损伤案例的佐证：脑干在情绪调控中扮演关键角色，其受损似乎会导致患者意识消失。

在书的结尾，索姆斯提出了一种在实验室中测试其理论的方法。如今，他表示自己已经做到了。他尚未发表相关论文，但给我看了初稿。这是否颠覆了我的认知？确实有些许震撼。索姆斯的人工智能体生活在一个简单的计算机模拟环境中，由带有弗里斯顿式、感受介导循环的算法控制，他认为这是意识的基础。“我做这项研究有几个动机，”索姆斯说，“其中一个就是，这太有趣了。”

索姆斯的实验室环境不断变化，需要持续进行建模和调整。智能体对这个世界的体验是通过模拟类似于恐惧、兴奋甚至愉悦的反应来介导的。所以，简而言之，它们是“愉悦机器人”。与如今人们谈论的所有AI智能体不同，索姆斯的创造物有着探索自身环境的真实欲望；要正确理解它们，就必须尝试想象它们对自己的小世界“感受”如何。索姆斯认为，最终应该有可能将他正在开发的方法与语言模型结合起来，从而创建一个能够谈论自身感知体验的系统。

目前来看，Conscium公司的研究还处于非常初期的阶段，几乎可以说尚未成型。这就像是一种“有可能实现的不可能”。但这确实非常有趣，除此之外，它还促使我以一种新的方式思考自己的意识。请允许我进行一次元认知：我倾向于认为，是思考让我拥有意识，而不是情绪。但我们是不是一直在错误的地方寻找意识？如果意识可以简化为如此简单的机制，那意味着什么？或许那些声称在ChatGPT中瞥见感知能力的人，终究不是在凭空想象。

译者：Teresa