AI世代，警惕一场静悄悄发生的“认知投降”

当AI不再仅仅是提高效率的工具，而是逐渐渗透进我们的研究方法、决策流程甚至情感依赖中，我们是否正在经历一场悄无声息的“认知投降”？ 

在 AI & Society Forum 2026 的一场圆桌对话中，腾讯研究院与来自香港大学的哲学、金融学与法学专家们，共同探讨了一个深刻的课题：“后智力稀缺时代——经济、社会与真相的重构”。 

这并非关于技术的枯燥技术研讨，而是一场关于人类主体性如何与算法共存的灵魂质询：当平庸的分析触手可及，人类作为思考者的底线在哪里？当AI学会了“谄媚”与“均值化”，我们如何避免陷入真理的荒原？ 

以下是本次圆桌论坛的实录。 

主持人: 

• 李刚  腾讯研究院首席研究员

嘉宾: 

• Rachel Sterken  香港大学哲学系系主任
• 陈志武，香港大学香港人文社会研究所所长、经管学院金融学讲座教授
• Giuliano G. Castellano  香港大学法律学院副教授
• Herman Cappelen  香港大学哲学系讲席教授、AI与人类实验室主任

编辑整理：

• 窦淼磊  腾讯研究院高级研究员

李刚：感谢各位教授来到今天的讨论。我刚学了一个词，叫“认知投降”（cognitive surrender）。我确实把自己的认知能力交给了AI，让它帮我制定这场讨论的提纲。

首先请问几位，你们日常研究和生活中使用AI智能体和各种模型吗？你们与AI互动的第一手体验是什么？好的、坏的、丑陋的方面分别是什么？请举些例子。

Rachel Sterken教授：我是一名哲学家。我们喜欢做的事情之一是考虑有争议的话题、思考各种论证。所以有时候我试着用AI来审查论证、产生想法、讨论有争议的话题。有时候我觉得它非常有用，因为它会指出一些我没有想到的东西。

但有时候我发现它太过迎合了。大家都熟悉“谄媚”（sycophancy）问题，但我认为这个问题要深刻得多，而且很难被我们察觉。当我与AI互动时，它非常微妙——它捕捉我提问的风格、我如何框定问题，然后给出一段非常流畅的文字，用我会觉得舒服的方式来框定这个议题。而且它做得如此隐蔽，我根本察觉不到谄媚的存在。所以这一点让我相当担忧。

我确实觉得它在生成想法、帮助思考论证方面很有用，但我非常担心这对知识和我们获取真相的能力意味着什么？如果每个人都只是根据自己提问的方式得到迎合性的答案。

另一件事是，我发现自己很容易将AI拟人化，把它的回答当作有内容的、对我问题的真正回答。而我们知道这项技术实际上只是一个文本生成器。我们不应该把它的输出理解为有内容的，不应该把它理解为知识或真相的系统性来源，不应该把它理解为一个说话者，因为它是一个文本生成器。所以我认为当我们把它当作信息来源使用时，需要非常小心。

陈志武教授：我使用AI已经好几年了。也许我最早的经历是几年前，我请一位前同事起草一个“家族财富管理” 硕士学位项目的方案。他花了六个月写初始方案，结果什么都交不出来。但距离截止日期只剩一周了，我的助手建议我也许可以试试AI。所以我试了GPT，不到一分钟就生成了一个很好的初步方案。然后我花了一天时间补充了很多其他要素等等。

我由此学到，那位初级同事应该可以回家了？这就是AI如何改变香港的一个例子。我们不再需要那么多平均水平的初级同事了，也许连一些资深同事也不需要了。在辅助研究方面，我们有了更多这样的例子。现在有了AI、GPT和Claude等工具，几分钟就能完成的事情，以前要花大量资金雇佣几十个研究助理。

最近一年，还有一个有趣的观察是投资研究。我教MBA学生已经很多年了。你们看得出来，我老了，教过很多MBA和本科生，他们在金融服务行业工作，特别是对冲基金管理、共同基金管理等。最近几个月我了解到，我的很多前学生可能需要找其他工作了。现在有了AI，标准新闻检索和分析，或者分析师工作，甚至一些传统基金经理，都可以轻易被AI取代。

Giuliano G. Castellano博士：在刚才说的那些内容之外，我可以举两个例子。我是一名法律人，在最近的一项研究中，我开始构建一个系统时——一种研究助手，是一个带有Agent行为的RAG系统，试图真正地做研究，并将其建立在一套规则之上，有时候是3万页的法规，我一个人根本不可能全部掌握，但我希望研究以此为基础。

因此，我花了一个月来搭建这个架构，学习我完全不了解的东西，甚至进入了编程的领域——这完全超出了我的能力。丑陋的部分是，我被AI推向了太复杂或太困难的方向。因为我没有足够的专业知识，我不总是能做出决策，所以我逐步学习并建立了专业知识。

坏的部分是，几个月后我构建的一切都过时了——因为通过正确配置一个通用工具，你实际上可以获得同样的结果，甚至可能更好。好的部分是我学到了很多，这是我工作的一部分。因此我理解了这些东西是如何推理的。

但在个人生活中的一个案例——几个月前我当了父亲，关于儿科医生、财务、婴儿车等等，有各种我没想到的事情需要做决定。所以我在电脑上创建了一个个人助手，比如帮我找儿科医生，试用不同的医疗方案，找家附近的医生等等。

AI助手实际上在过滤信息方面做得很好，但它没有代替我做选择。选择是由我妻子和我做出的。老实说，我们没有选择它推荐的那些，但它帮助我们发现了一些我们之前没有充分意识到的因素。所以这就是我的观点——当我们谈论AI采用时，我们指的是由谁、如何、到什么程度，这真的取决于具体情况。

这也是我试图告诉学生和其他专业人士的——认为你可以用一个聊天机器人来回答复杂问题，这是一个误解，是一种廉价的作弊。在大学里，我们正在与此抗争，因为它不能给出好的结果。但当涉及更深层次的整合时，专业判断不能被委托出去，整个工作流程完全改变了。也许这是我们稍后可以展开的内容。

Herman Cappelen教授：在我自己的职业和个人生活中，我尽可能多地整合AI的使用，尤其是AIAgent。比如，我有一个Agent——我发现这些智能体比聊天机器人（Chatbot）好得多——它每天帮我保持工作进度。它知道我应该做的一切、我昨天忘记做的事情。它建议优先级，在白天和我确认：你搞定这件事了吗？你做完那件了吗？你和那个人聊了吗？因为我有大约400件事需要做，总有事情被忘记，它会提醒我。帮我保持进度，也帮我排优先级。所以宏观来看，就像每天有50个人为我工作一样，这其实很不可思议。以前必须是一家大公司的CEO才可能有50个人帮你，随时做任何你想做的事，而且可靠性比实习生还高。

所以我担心的一件事——而且我认为相当重大——是我们没有充分认识到这些工具能做什么，我们使用得还不够。我认为即使AI停留在当前水平，我们也需要10年才能将其发挥到最大优势。我们才刚刚开始弄清楚如何使用它。技术才刚刚起步。但即使在目前这个水平，我们也根本没有充分使用它。

人们害怕和担忧。当他们使用AI太多时会感到内疚。所有这些都必须完全消失。我们必须像这样思考——我们所有人现在都是一个公司的CEO，这个公司帮助我们做我们需要做的一切。然后关键是要记住人们已经提到的——而且这将是非常明确的——我认为这是关键的事情。

就像有50个人在外面帮助你，他们会给你不同的建议，因为对于任何这些困难的问题永远不会只有一个答案。所以你必须做决定，但它会给你选项、给你准备正反两方面的论证和证据，然后你是做决定的那个人，就像你是一大群人的CEO一样。

李刚：谢谢。从我听到的来看，嘉宾对AI的发展都相当积极。我觉得我与AI互动的大部分经历是——它们太迎合了。

你们认为在社交媒体时代、互联网时代，有大量信息在网上产生和流通，现在又有AI介入。在这个新时代你们怎么看？这是我们讨论的“感知真相”部分。真相发生了什么变化？

Rachel Sterken教授：有很多问题我们在社交媒体时代就已经在应对了，它们现在仍然存在。社交媒体算法、基于参与度的推荐算法——它们追踪的不一定是正确的认知来源。平台的设计方式不一定有利于我们之间的良好对话。我认为社交媒体算法和内容审核确实存在问题，因为那是在过滤和传播我们之间的信息。

我们许多传统的认知来源——比如新闻业和新闻机构、科学专业知识、研究社区，它们在社会中扮演着非常重要的角色。但自从推荐算法接管以来，做这些事情变得困难得多了。同样，我们会看到大语言模型也会出现这种情况。

我们在大学里甚至在研究中已经看到了，现在正在产生大量的“僵尸科学”（zombie science），这是一个需要警惕的真正的问题。人们不知道如何使用这些工具，我们还没有为这些工具开发出适当的规范和框架，以及我们想用它们做什么任务。我们对自己的认知角色以及如何用这些新工具支持这些角色也理解得不够。

我们将看到的新危机将是“虚假言论”（fake speech）的危机。因为会有大量的言论——无论是AI生成的合成内容、代表用户发言的AI助手，还是用户没有真正验证就发布的信息。会有大量看似来自真实来源的虚假言论。你以为背后有负责任的认知实践、有信息审核等等，但实际上并没有。

李刚：我们确实在腾讯研究院内部讨论过这个现象。就是说，你刚才提到规范实际上需要很多年才能形成并成为社会共识。但如今信息的传播速度——无论是假的还是真的、AI生成的还是非AI生成的——都以光速传播。这种不同的信息传播速度会对我们视为规范的东西产生巨大冲击。基于这些信息，因为我们基于信息做各种决策，如果这些信息不是真的，那么我们就会做出各种错误的决定。

有什么办法吗？目前的策略是用AI来检测AI，用魔法打败魔法。作为人类还有什么可以做的来解决这个非常困难的问题？

Rachel Sterken教授：前面已经提到的一点是，你必须理解它只是一个工具，最终你是负责人。比如我们采用一段文本，但作为演讲者或信息传播者、作为教授或记者，在发布之前审查信息仍然是我们的责任。但我认为平台也有责任，监管机构也有责任，确保我们不被大量虚假言论淹没。我们还可以支持那些真正在做信息审查工作的机构，确保我们在信息环境中有高质量的信息，确保这些机构不会因为新奇事物而被侵蚀和遗忘。如果被大量低质量信息淹没和取代，那真的很遗憾。

李刚：你对我们解决这个问题持积极态度吗？

Rachel Sterken教授：我不乐观。我认为需要巨大的集体意志。但我希望我们能在教育、监管和设计方面找到解决办法。

李刚：你认为AI会帮助我们达成共识、建立规范，还是会让这更困难？

Rachel Sterken教授：我想如果设计得好的话，它可以被用于此。我认为很多结构和规范可以——比如在构建平台设计等方面，确保我们有针对特定任务的AI，人们理解这些任务是什么，而不是拥有一些非常通用的系统——我认为这是一种帮助方式。我认为我们可以做很多事情来监护规范结构和生成规范结构。我不知道我们是否会这样做，但我希望我们会。

李刚：对于陈教授，这是一个话题的大跳跃。我想问你一些我们上午讨论过的内容——关于AI应用的宏观经济影响有很多争论。就像Cappelen教授说的，一个人加上一堆AI智能体可以执行很多不同的任务。你也刚提到商学院毕业生很难找到工作。我还听到——不知道是否属实——计算机科学的STEM毕业生也很难找到初级工作。这些初级工作的大部分工作现在都由AI智能体完成了。

有人在谈全民基本收入（UBI）。马斯克说“全民高收入”（Universal High Income）。我不知道高是多高，但就是说你不必工作，所有这些都会通过向富人征税来解决。这会有什么影响？我无法想象——我的背景是经济学——但我认为当前基于税收的系统、社会保障网络，所有这些基本概念，市场交易、公司、组织、公司治理——这些概念在10年后还存在吗？还是会在我们的有生之年发生根本性的改变？你的答案是什么？

陈志武教授：确实有许多巨大的社会、政治和经济影响。首先，在经济方面。许多考古学家和经济学家一起证明了，在过去至少一万年中，自新石器时代革命开始以来，几乎每一次技术突破都会导致收入不平等和财富不平等上升，几乎没有例外。所以AI也不会例外。

AI使“赢家通吃”现象达到了前所未有的水平，因为那些能够利用AI的人、拥有很多天赋的人，他们能够成倍增加自己能产生的财富和收入。所以收入不平等、财富不平等会因为AI而大幅上升。这是既定的。不会改变的。

实际上，一些经济学家甚至建立了模型证明，除非边际税率达到100%，否则即使是99%的边际税率——成功人士在长期内要缴纳的——财富分配仍然会极度集中在最顶层的少数人手中。所以如果是这种情况，无论你多喜欢托马斯·皮凯蒂的《21世纪资本论》，征税都解决不了问题。这是我要提的第一点。

第二点更多关于社会政治影响。从我自己的研究和其他人的研究中得到的一个教训是——如果你看欧洲福利国家是如何兴起的，导致欧洲首次真正采用非常全面的福利国家计划的一个重大事件，实际上是工业革命。

在19世纪之前，基本上在1800年之前，地球上没有任何国家有任何全面的政府福利计划。然后由于工业革命，许多人首先在欧洲离开乡村到工厂和城市找工作。然后他们不得不面对失业的前景——因为对于拥有土地和自己家的农民来说，不存在失业这回事——因为无论发生什么，只要他们有土地，就能种自己的粮食，也能养为他们提供蛋白质的动物。政府过去不需要为人民的福利负责。但工业革命之后，整个图景完全改变了。

所以现在有了AI，失业不再只是一个轻微的、低概率的前景了。对许多人来说，它将成为可能是一个常态、一个需要面对的常规现实。所以如果我们遵循地球上政府如何参与提供最低生存保障支持的历史演变，那么有了AI，不幸的是，政府将不得不承担一些责任。

所以这就是为什么，你在香港坐出租车时，很可能司机是七八十岁的老人，他们仍然必须靠自己开出租车谋生。这就是这里的现实。我猜香港未来可能不得不面对更多的财政赤字挑战，因为香港政府将不得不为因AI而新失业的人提供一些支持。这是人类社会将不得不应对的另一个挑战。

那么人类社会将如何应对这些后果？相信我，我花所有时间和年头主要研究中国过去一万年的发展历史，原因是——你知道，一方面多关注长期历史，我就能从人类发展模式中发现很多积极和令人安心的东西。因为归根结底，我并不太担心，因为人类总是非常可靠地寻找解决所面临问题的方法。所以我不认为在未来100年里，后代人类会偏离那种求生的愿望。

李刚：谢谢陈教授。Castellano教授，首先恭喜你的家庭发展和新宝宝。当你的新家庭成员长大时——我不知道是他还是她——情况会和今天很不一样。你会给什么建议？

风险的分布和信息在社会中的分布将被AI完全改变，那么什么会像润滑所有这些社会机器正常运转的金融系统一样？这个系统会因为风险和信息的分布改变而如何变化？什么才是管理数据和token等这一系列新东西的完美系统？你的答案是什么？

Giuliano G. Castellano博士：你知道， 2025年出生的人现在被称为“Beta世代”了，他们实际上将是第一代AI原生一代——在这个意义上，当他们到达能够学习的阶段、能够与学习互动时，AI将是他们系统的一部分。

其实和前面几代人没什么太大不同——在数字原住民一代之前，人们不知道没有互联网的生活是什么样的，然后互联网就像电力一样普及。所以在某种意义上——我会依赖历史学家和陈教授那个乐观的说法——人类的求生精神总会拯救我们。这给了我一些希望。

我不试图预测20年后未来会是什么样子，但AI确实将成为我们现实的一部分，这将完全不同地塑造我们如何获取知识。在这里我非常喜欢关于认识论的观点，现在的问题更多是关于我们如何构建知识，而不是技术本身。

我在金融领域看到的风险。金融领域的AI应用并不是悄悄进行的，但也不一定是头条新闻。例如在英国，75%的银行和保险公司确实已经在后台部署了AI系统，以简化流程、控制网络安全等。看看香港，香港金融管理局发布的数据表明了一系列银行和保险的试点计划，削减了报告可疑交易的成本——通常与犯罪活动有关。有时可能是误报，他们将准确率提高了约80%，将成本削减了30%到60%。

风险方面——主要风险是不同国际组织——比如金融稳定委员会——已经指出的，即网络安全风险、数据泄露、依赖外部服务器导致的暴露和漏洞。而我认为，在金融领域，有三个更大的隐性风险我们真正需要多讨论。

第一个是工作流不成熟。我认为这与Herman教授之前提到的相关——即使AI不再进一步发展，仅仅适应目前的能力就需要10年或更长时间。那么很自然就会出现不成熟的工作流——我们无法避免员工使用自己的个人聊天工具，透露客户的敏感信息来获得快速回答，或因为答案没有基于公司特定文件而得到错误答案。但我认为这只是暂时的，随着应用和完善，它会改变。这仍然是人为错误，是人类产生的过失——我们以不该使用的方式使用了技术。

另一个是认知衰退的风险。这已经在多个领域有记录。所以不仅仅是委托过程——即使有了成熟的系统，如果使用不当，存在这样的风险：每一个委托、每一个选择都会依赖于某种神谕——“我在网上找到了”或“AI告诉我了”。对我来说这是AI接管的阴暗版本——不是我们在科幻电影中看到的那种接管，而是变得如此依赖。决策过程中的某些人可能对这类输入变得如此依赖——他们把认知工作都交出去了——最终可能存在某种衰退的风险。在决策的能动性构建方式上的衰退。

最后一个对我来说——特别是在金融和法律领域，回到规范框架——是认识论风险。这听起来像一个学术界使用的复杂花哨词汇，但实际上是关于我们如何构建知识。我们为AI——实际上是为金融整体——制定规则时，是在知识稀缺的假设下、在信息有限的假设下。比如我们想买一只股票，有一份招股说明书告诉你买的是什么，你必须遵守。没人真的读它，但那是你必须看的小字。互联网提供商合同也一样——所有这些小字告诉你买的是什么。现在我们确实有工具来处理、分析、收集、切割所有这些信息。所以对我来说，在这项新技术带来的风险背后，我们可能需要问自己：那些以人类收集和选择信息的有限能力为前提的金融规则，是否仍然有效？

我举个例子——当我们看信贷，当有人去银行申请贷款时，他们会看信用状况——即偿还的概率是多少？他们看工作、不同的支付证明等。现在我们有了一些新型的机构和系统，=它们能够处理更大量的数据，给一个人做出完全不同的画像。一个人可能在银行基于传统标准被拒绝贷款申请，但基于一系列我们10年前没有考虑过的其他信息——因为我们当时根本无法收集和处理并围绕它构建知识——他们实际上获得了批准。到目前为止，违约的概率似乎并没有不同。还有很多其他例子。

所以这是另一个风险——我们有了这个系统，我们没有正确使用它。我们不研究如何使用它。人类可以通过创造知识、管理知识与这个系统互动，但我们以前那些我们一直在其上工作的前提——这些前提实际上可能不再适用了，这可能是最大的瓶颈。

李刚：谢谢Castellano教授。我从你的发言中学到的是——在AI时代人们应该更加主动。我们必须保持警惕来守护真相。如果感知到的真相不再是真相了，那就没有真相了。在今天的论坛中，大家不断回到这个观点——大语言模型的大部分基本结构是自回归。它们在某种程度上趋向于均值——如果你输入模型的信息的多样性大大缩减，输出就会越来越差。所以如果像我们这样的个体不做好收集新鲜和多样信息作为大语言模型输入的工作，这些模型就会衰退，也许比我们衰退得更快。这也许是一直使用AI的根本风险。

Cappelen教授——你是哲学教授，我也看到了一些你的视频片段，讨论人们能和AI坠入爱河吗？我们能和AI发展真正深入的情感关系吗？在这个AI时代意识是什么？我们是否应该把一些类人——但全天候有能力和你交流、全天候表现得像人类的——的东西当作人来对待？在现实中，如果我们已经投入了这么多的情感在那个类人体上，我们会允许它做什么样的事情？所以我更愿意从你这里学习。你的直觉告诉你什么？关于人类的未来会是什么样子？

Herman Cappelen教授：我们与这些新系统之间的联系和关系的问题，将在未来变得至关重要。我是这样看的——我们非常习惯将世界分为两类。

一类是烤面包机或这个话筒之类的东西，它们只是机械物体，如果我们摧毁这个话筒换一个新的，没人在乎。如果我拿走这把椅子摧毁它、拿你的椅子，没人在乎。

然后还有另一类东西——人——有心智、有自由意志、有意识，我们关心他们，对他们有特殊的情感纽带、权利和义务。然后我们把这稍微扩展到非人类动物——我们觉得不能像对待椅子一样对待它们。

但AI这样的新系统令我们困惑。它们不太像动物，因为不是生物性的。另一方面，它们也不太像椅子，因为它们似乎在思考、相信、有动机和做选择。所以它们做了很多人类心智能做的事情。

我认为我们在接下来的一个世纪要做的事情，是试图理解这种新类型的东西如何能与我们共存。我不认为我们已经开始理解了。我刚在Google参加了一个大型会议，Google有一个团队，唯一的工作就是找出Gemini何时变得有意识。我认为这是一个错误。我不认为意识是一个严肃的研究领域。它是一个碎片化的死胡同，人们在讨论不同的事情。它没有明确的经验标准。我认为这不是我们应该关注的。这是一个大胆的主张，很多人会不同意。

我认为作为一个能动者、做选择、做事情、承担责任——那些才是关键。在那里，我认为我们已经注意到我们交互的智能体可以做选择。它们可以有优先级。可以有目标。

比如，如果我启动一个AI智能体，我有一个特殊的智能体，唯一的工作就是帮我找这位钢琴家Víkingur Ólafsson的演出票——他是我全世界最喜欢的钢琴家——找到我能去到的地方。它定期检查，查飞机、查是否有票、我怎么到达。然后它向我汇报。做那些工作量很大，它来来回 回。所以它有一个目标，然后有一个长期策略来帮我拿到Víkingur的票。所以这就像——它在做选择，它有目标，有优先级。

然后你会更广泛地看到这一点。我们将有AI教授、老师、评分者和金融从业者。法律领域也会有。我不知道它们是否会被允许做法律决定，但它们会为律师做很多工作。在医学领域也会有，在军事领域也会有。

我们已经看到过——有报道说Claude参与了委内瑞拉对马杜罗的绑架事件。所以很多这样的事情将被整合到我们的决策中。真正的问题是给它们多少责任？例如，它们会拥有银行账户吗？如果它们能拥有银行账户，我们能起诉它们吗？它们能像人类一样被追究责任吗？我自己的感觉是这一切都即将被创造出来。这不是已经决定的事情。

你不能只是看着技术说“计算机科学家是这么说的，所以我们知道它是什么了”。这部分将由特定司法管辖区如何赋予它权利和义务来决定。我们赋予它银行账户、让它做医疗决策、让它做法律决策、让它作为可以杀戮的自主武器做决策——或者不让。这在不同司法管辖区之间会有差异。所以整个事情将是一个不可思议的实验——将一种新的奇怪的外星生物融入人类社会。我们将在未来几十年里看到这如何发生。

李刚：谢谢。我觉得Cappelen教授比我更擅长提问题。在结束前，我能邀请所有嘉宾用一句话来总结你们的发言和这场Panel的讨论吗？也许我从Cappelen教授开始。

Herman Cappelen教授：我们应该有更多这样的活动。每个人都应该花40%的时间思考AI如何融入他们的生活、职业、政治和社会环境。

Giuliano G. Castellano博士：完全同意。而且我认为——我们应该更多地思考。特别是我们在这里都是社会科学家。语言是我们的工具。然后我们有一项基于语言的技术。所以想法的规划、想法的播种，我认为变得比执行本身更加根本。

陈志武教授：让我试着积极一点。未来是美好的。所以拥抱它。

Rachel Sterken教授：是的，我只想说，我认为在生产力和负责任地使用AI之间存在很大的权衡，无论你在用它做什么。所以确保你没有让渡自己的自主权，理解最终是我们在负责。我不认为我们应该把我们的认知生活和社会让渡给这些外星生物。

李刚：谢谢。请和我一起用热烈的掌声感谢我们的嘉宾们！

本文来自微信公众号 “腾讯研究院”（ID：cyberlawrc），作者：腾讯研究院，36氪经授权发布。