人工智能存在一个玻璃天花板

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：说到底，人工智能最终是能执行、但不能感觉的代码。本文来自编译，希望对您有所启发。

划重点：

• 人工智能可以模拟思维，但缺乏有意图或情感的意识。

• 人类认知是自发产生的、动态的，且根植于生物学。

• 人工智能将继续受限于二进制逻辑和符号计算。

人工智能（AI）正迅速发展，当前系统已能模拟人类认知功能，如语音识别、音乐创作、疾病诊断，甚至创意写作。这些成果引发了关于“人工智能最终是否能与人类智能相媲美”的讨论。然而，在令人着迷的外表之下，隐藏着一个核心现实：人工智能本质上，且永远都是基于二进制代码构建的机器。无论其复杂程度如何，它本质上是软件，是数学的、二进制的、确定性的，这与人类大脑的有机性和涌现的复杂性截然不同。

1. 二进制逻辑

无论复杂程度如何，人工智能系统都是通过符号计算运行的。在最深层面上，人工智能中的每一个过程，从决策树到深度神经网络，都可以简化为一系列由布尔代数控制的电脉冲（Caferra, 2013）。人工智能生成的每一个“想法”都源于对二进制值（0和1）的运算。这种二进制编码将人工智能的“理解”范围限制在可形式化、可量化和可编程的事物上。其行为背后没有自我意识、情感或意义，只有按设计执行的代码（Simon, 1981; Horst, 2011）。

相比之下，人类大脑是一个由约860亿个神经元组成的生物器官，这些神经元通过突触相互连接，并随着经验的积累而适应、进化和成长。与电化学反应不同，反馈循环和具身认知塑造了数字系统和脑内神经活动的逻辑决定论。这种复杂性无法在硅基系统中复制（Smolensky，1987）。

2. 模拟不是等效

最常见的误解之一是认为人工智能中的神经网络与大脑功能相同。尽管生物神经元启发了人工智能的研究，但人工神经元只是更简单的数学函数。深度学习模型可能拥有数百万个参数，但这些参数仍是在定义好的架构内进行的线性代数运算。“神经网络”这一术语是一种比喻，而非对大脑结构或功能的字面描述。 

此外，人工智能缺乏认知科学家所称的“意向性”。人类思想是对刺激的反应，受情感背景、记忆和主观经验塑造。人工智能无法复制这一点。它们可能在特定情境下产生与人类相似的输出，但其底层机制仍是一个缺乏经验的机械黑箱(Searle, 1980；Whitmer, 1983)。

3. 学习而不理解

机器学习，尤其是大型语言模型和深度学习系统，在从数据中学习方面取得了显著进展。这些系统通过在海量数据集中检测统计模式来学习。然而，在此背景下，“知道”不应与“理解”画等号。一个理解单词含义的孩子会将其与经验、情感和文化洞察力网络相联系，而人工智能则只会计算词序列的概率。

这一根本区别导致了人工智能中的“脆弱性”。人类能够在不同领域中泛化知识，而人工智能模型在面对新颖、模糊或对抗性情境时往往难以应对。它们在有限的参数范围内运行，缺乏人类天生的语境意识或常识推理（Marshall, 1980）。

4. 神经科学与计算极限

现代神经科学持续揭示大脑的动态、可塑性本质。神经发生、突触变化和神经递质调节等过程会不断重塑认知。这些过程既非符号性的，也非计算意义上的算法性的。它们代表了复杂、适应性生物系统的涌现特性（Smolensky, 1987）。

人工智能研究者已承认，符号人工智能与连接主义模型对人类认知仅能提供有限洞见。尽管混合模型试图整合两者，但仍无法复制大脑的自发性、直觉与情感基础。

5. 不可避免的鸿沟

无论人工智能发展到何种程度，它都依赖于硅芯片、二进制逻辑和显式编程的基础。尽管它可能被训练来模仿情感、创造力或决策能力，但这些只是表演，而非真实体验。大脑是一个活的、有意识的器官，人工智能则是一种模拟，无论它看起来多么逼真。

因此，我们必须调整预期。尽管人工智能将继续增强人类能力，但它无法取代人类心灵中那种细腻、情感丰富且具身化的智能。不这样想就是混淆了“模仿”和“等效”，并且忘记了所有的数字智能，其核心仍然是一连串的0和1。

译者：Teresa