别再执着于AGI，是时候考虑MCI了

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：在向通用人工智能狂奔的过程中，我们变得越来越像“机器”。本文来自编译，希望对您有所启发。

核心观点

• 在机器达到AGI之前，我们可能就已跨越MCI线了，即丧失认知自主权。

• 思想外包会侵蚀好奇心，使思考变得被动。

• 解决方案或许在于主动制造摩擦、提出更优质的问题，并适时暂停以重获思维主导权。

图片来源：ChatGPT

想象一位曾热爱写作的学生。现在，每篇文章都以输入大型语言模型的提示开头，每个段落都经过润色，感觉近乎完美。成绩依然优异，但有些不同，文字不再像出自自己之手，对自身思考的信心正悄然消融。我认为这可能是当今最重要的议题之一。

在追逐通用人工智能（AGI）的征途中，我们或许正错失更重要的东西——人类自身的思考能力。多年来，AGI被视为人工智能的终点线。那将是人工智能不再止步于预测下一个词汇，而是开始像人类甚至超越人类思考的时刻。我认为更紧迫的问题并非机器何时跨越AGI门槛，而是我们是否早已越过了自己的认知边界。

我把这个阈值称之为“最低认知完整性”（ Minimum Cognitive Integrity，简称MCI）。这并非计量指标或数据点，而是一个哲学意义上的分界线。一旦低于此线，我们便会丧失足够的智力立足点，导致自主性本身受到侵蚀。MCI是我们掌控自身认知的基石。在此线之上，我们仍能主导思维方向，自主选择思考与探索的对象。跌落阈值之下，我们看似仍在“思考”，实则思维过程已被悄然外包。机器不仅解答我们的疑问，更是在塑造我们提出的问题本身。

我曾撰文探讨所谓“借来的头脑”现象，即认知能力的渐进式外包。最初只是让自动补全功能替你完成句子，或让搜索结果决定阅读引用来源。很快，你便让聊天机器人代写初稿乃至二稿。每个步骤看似高效甚至明智，但累积起来却使思维逐渐远离摩擦，而正是这种摩擦才能赋予思考以生命力与人性。

这通常被称为认知卸载，即依赖工具代劳思考。在大型语言模型语境中，学术界更称之为“元认知惰性”。当然这种现象并非总是弊端，比如那些长期被遗忘的电话号码现在依旧保存在你的手机里。但如今我们或许正日益跨越这道认知边界，让思维逐渐沦为被动接受者。

跌破MCI阈值并非突发事件。我认为它更像肌肉萎缩或肌少症，力量是在缓慢流失，直至某日你再也举不起曾经轻松驾驭的重物，甚至连迫切需要的重量也无法承受。我们依然拥有思想，但它已被机器乃至AI的反智能所塑造。

我们的智力生活往往在技术与“科技巨头”悄然铺设的轨道上运行的。停留轨道越久，重返独立思考之路就越艰难。请记住：人类能动性不仅在于拥有思维，更在于运用思维。当这种行为被外包时，认知之旅便会成为他人或他物的旅程。

关键在于：若AGI是机器的终点线，MCI或许就是人类认知的概念性生存线。矛盾在于，当我们竞相打造更智能的机器时，可能正在掏空这场竞赛的意义所在——我们自身进行原创性自主思考的能力。

这并非呼吁放弃科技，亦非反乌托邦式的失败宣言。这是对有意识划定边界的提醒，拒绝让思考彻底沦为被动行为。存在切实可行的方法来守护你的“最低认知完整性”，保持对思考行为的全情投入，这或许能守护并捍卫人类认知。

• 主动制造摩擦。下次当你忍不住想直接查询时，先暂停片刻。在脑海中设定几分钟计时器，自己动手解决问题。这种小小的挣扎能增强解决问题的能力，就像锻炼能增强肌肉一样。

• 提出更好的问题。将人工智能视为训练伙伴。在接受其输出结果前先对其提出质疑，让它与你协作而非仅仅为你服务。

• 定期进行认知休整。每周至少一次，彻底断开与算法的连接几小时。捧起实体书阅读，提笔书写，或与亲友闲谈畅聊。

通用人工智能或许尚需数年。但机器认知智能的挑战已然降临，正向我们逼近。未来或许并非机器变得更像人类，而是人类能否守护最初造就我们本质的思维能力，不要变得越来越像机器。因此在追问人工智能能否像人类思考前，我们更该自省：我们自己是否仍在保持人类特有的思考方式？

译者：Teresa