AI 会是人类最后的发明吗？
概述
这篇文章探讨了人工智能领域正在发生的递归自我改进现象，即AI开始深度参与制造比自身更强的下一代系统。
文章指出，这不仅会带来技术进化的指数级加速，也将彻底改变人类社会的研发范式和组织形态。
同时，作者深入分析了递归系统面临的验证瓶颈、局部最优和过拟合等真实约束。在人机协作的未来，人类的核心价值将从单纯的“执行”转向设定目标、保持审美判断力以及承担最终责任。
最后，文章强调无论技术如何演进，个人和组织都需要建立诚实的反馈闭环，跨越自我保护的自尊心门槛，保持持续更新的进化能力。
01
真正可怕的不是“AI 变聪明”，而是“AI 开始决定自己变聪明的速度”
最近 AI 领域最性感、也最让人类产生强烈自我怀疑的一个词，叫Recursive Self-Improvement（递归自我改进，简称 RSI）。
听起来很玄，其实可以先把它理解成一句很简单的话：
AI 开始参与制造下一代 AI。
但现在“自我改进”这个词多少有些被滥用了：
让大模型回答完问题，再自己检查一遍错别字，这不叫 RSI；
让一个 Agent 根据报错信息改几行业务代码，也算不上真正的 RSI；
甚至让 AI 帮 OpenAI、Anthropic 或 Google 的工程师写训练代码，依然只能算“半闭环”。
最严格意义上的 RSI，是这样一个过程：
一个 AI 系统能够参与设计和制造比自己更强的后继系统；而新系统诞生后，又获得了更强的能力去设计下一代后继者；这种改进可以连续发生，且越来越少依赖人类。
也就是说，真正的命门不在 Self-Improvement（自我改进），而在Recursive（递归）——第一代修改第二代，第二代比第一代更擅长修改第三代，第三代又比第二代更擅长锻造第四代。
如果把智能水平记作 C，过去我们只关心：C 有多大？（这台机器今天考多少分？） 而 RSI 真正改变的是变化率：
甚至进一步变成：存量智能 C 本身，开始直接放大增长率 dC/dt。
当“智能”本身成为生产更多智能的“生产资料”时，游戏的性质就彻底变了。
02
为什么普通闭环只能让你变熟练，而递归却能引爆奇点？
早在还没有生成式 AI 浪潮的时候，Elon Musk 就在采访里泄露过他的底层心法：“我认为极其重要的一个建议是，拥有一个可纠错的反馈闭环（Feedback Loop），不断思考自己做过了什么，以及怎样才能做得更好。”
听上去很像我们耳熟能详的PDCA 循环（计划-执行-检查-处理）或者《精益创业》（开发-测量-认知），对不对？那为什么普通人的 PDCA 只能让人变成熟练工，而递归自我改进却能引发指数级爆发？
因为并不是所有的圆圈，都在同一个维度上旋转。
人类世界里的“努力与改进”，其实分为四个残酷的段位：
第 0 段位：开环死磕（Open Loop）。只管低头拉车，从不看结果反馈。把第一年的工作经验机械地重复用十年——这不叫有十年经验，这叫把同一个 Bug 运行了三千六百五十次。
第 1 段位：PDCA 与恒温空调（一阶闭环）。家里空调设定在25°C，高了吹冷风，低了就停机。目标固定，规则固定。你在做题、打球时根据结果微调动作，这能帮你消除误差，但它的数学宿命是边际收益递减——离满分越近，进步越慢，最后卡死在天花板上。
第 2 段位：精益创业（双环学习）。不仅微调动作，还敢于根据市场的耳光去修改最初的目标和假设（Pivot 转型）。原本想做游戏，发现大家只喜欢里面的聊天工具，于是干脆砍掉游戏改做 Slack。
第 3 段位：递归自我改进（RSI）。
前三个段位都有一个共同点：
“改进者（主体）”和“被改进的对象（客体）”是分开的。是你拿着一把锤子去敲打外部的产品或技能；作品变好了，但拿锤子的那个你，底层算力并没有变。
用数学公式来表达，普通的 PDCA 循环是：
这里的 x 是你的产出，f 是你的大脑或工作流。你在不断优化 x，但算子 f 是写死的。
而递归自我改进是：
那个用来改进事物的算法 f，如上帝般把手术刀对准了自己。
第一轮，你用 1.0 版本的自己，把你自己升级到了 1.1 版本；
第二轮，你不再用 1.0 的能力去努力，而是用 1.1 版本的认知和工具，把自己推到 1.3 版本；
第三轮，1.3 版本的你一口气把自己推向 1.8 版本……
普通的反馈闭环，提高的是位置（Position）；
递归自我改进，提高的是加速度（Acceleration）。
03
计算机史上的第一次“自举”神话，与被加速的历史钟表
这种“左手抓右手、自己揪着鞋带离开地面”的奇观，在计算机史上早就真实发生过一次，行话叫Bootstrapping（自举）。
很多编程新手都会问一个“先有鸡还是先有蛋”的问题：C 语言的编译器，是用什么语言写出来的？
答案是：用 C 语言自己写的。
在没有 C 语言编译器之前，谁来编译这段代码？先驱们的做法极度优雅：
先用繁琐的汇编语言，手搓一个极其简陋、只能听懂几个基本指令的“种子编译器 v0”；
用这几个基本指令，写出稍微聪明一点的编译器源码，喂给 v0，编译生成“编译器 v1”；
直接扔掉汇编！用 v1 支持的新特性去重写更强大的编译器源码，再用 v1 把它编译成 v2；再用 v2 编译 v3……
每一次循环，编译器都在用自己上一秒刚长出来的牙齿，去咀嚼和锻造下一秒更锋利的自己。
1965 年，图灵在布莱切利庄园的老搭档、统计学家 I.J. Good 提出“智能爆炸（Intelligence Explosion）”假说：
只要人类造出第一台哪怕只比人类聪明一
古德的原话是：第一台超智能机器，将是人类需要做的最后一项发明，前提是它足够温顺，肯告诉我们怎样控制它。
但今天我们要对“智能爆炸”做一个关键祛魅：如果 RSI 真正实现，最先改变的不是某天凌晨 3 点一台机器突然从 IQ 140 变成 IQ 10000，而是“时间本身”被压缩了。
今天训练一代前沿模型仍以“月”甚至“年”为单位。一旦假设提出、实验设计、代码编写与结果分析大部分被 AI 接管，研究循环就会从“一年一次”压缩成“半年一次”，再变成“一月一次”“一周一次”。正如 Leopold Aschenbrenner 在《Situational Awareness》中所描绘的：
数百万个“AI 研究员”昼夜不休地并行试错，把原本需要十年的算法演进压缩进短短一年。
RSI 真正改变的，是人类技术进步的“时钟频率”——历史本身开始加速了。
04
破除迷思：“递归”并不等于“无限指数爆炸”
这里特别容易产生一个误解：只要 A 能制造更好的 A，就一定会无限指数爆炸吗？
未必。因为任何真实系统都逃不过Amdahl's Law（阿姆达尔定律）与物理世界的瓶颈约束：
AI 可以一天提出一百万个实验方案，但你未必有一百万块 GPU 去跑；
AI 可以一天设计出一百种新芯片架构，但台积电的晶圆厂不可能一天建成；
AI 可以一天筛选出一千种候选药物分子，但人体的三期临床试验依然要遵守生物学的钟表。
一个系统不会因为其中90%的数字环节快了 100 倍，整体就自动快 100 倍——剩下的那10%物理与算力瓶颈，会突然变成决定全局的卡点。
所以，理解 RSI 最精准的经济学表达不是“无限指数增长”，而是：
RSI 把“研发能力”从一个外生变量（Exogenous Variable），变成了一个内生变量（Endogenous Variable）。
以前，推动技术进步的速度取决于外部有多少人类博士、多少资本；
未来，系统内部形成了“AI 越强 → 研发越快 → 下一代 AI 更强”的自催化回路（Autocatalysis）。
它会不会无限循环取决于外部的物理瓶颈，但仅仅是把这个内生循环闭合一次，就足以颠覆整个牌局。
05
截至 2026 年 10 月，我们走到哪了？三个咬合的齿轮与“小闭环”
为什么 I.J. Good 的预言在纸上躺了六十年，偏偏在最近两年让硅谷既狂热又紧张？
因为过去的 AI 训练是一个典型的“人类手工闭环”：AI 负责吐结果，人类工程师负责看效果、洗数据、调参数、给回答打分（RLHF）。
在这个循环里，人类就是那个最慢的瓶颈——就像在法拉利引擎和车轮之间，串联了一头必须按时喝咖啡、开周会的老黄牛。
而到了 2026 年，老黄牛正在被移除。AI 至少在三个层面上，开始自己咬合自己的齿轮：
第一个齿轮：把“慢思考”蒸馏成“快直觉”。遇到难题时，模型先调动海量推理算力在后台进行成千上万次搜索、反驳与试错（心理学上的“系统 2”慢思考）；一旦在几千条死胡同里找出那条唯一走通的黄金路径，它反手就把这条路径作为高纯度数据，“蒸馏”写回自己的神经网络权重里——用今天高成本的“苦思冥想”，重塑自己明天低成本的“肌肉记忆（系统 1）”。
第二个齿轮：大自然自带的“冷酷裁判”。写诗聊天好不好，得靠人类主观打分；但代码跑不跑得通、数学证明对不对，编译器和形式化验证器（如 Lean）说了算。有了毫秒级响应且绝对客观的裁判，AI 就能关起门来，一秒钟内完成几万次“生成—报错—修改—内化”的自我博弈。
第三个齿轮：AI 的肉身恰好是代码，而 AI 最擅长的恰好也是写代码。木匠没法用木工活去升级自己的大脑神经元，但 AI 的神经元、训练框架、底层 CUDA 算子全是由代码写成的。手段（写代码）与目的（升级由代码构成的智能），在历史上第一次实现了像素级的重合。
这也直接催生了实验室里已经跑通的“窄域小闭环”：
Darwin Gödel Machine能够自己修改自己的 Coding Agent，测试新版本后再让更强的版本继续参与下一轮修改，直接把 SWE-bench 成绩从20%推高到了50%；
2026 年 9 月问世的AIDE²更进一步：它连续自主运行八天，对自身的 AI Research Agent 进行手术，连续迭代了七代（自主演化出新的搜索策略与记忆机制），且进化出的能力还能迁移到未参与优化的任务中。
从计算机科学定义来看，局部的“小闭环 RSI”已经不是科幻，而是既成事实；
真正尚未合拢的，是涵盖“选方向—提假设—设计实验—训练下一代基座模型—验证部署”的全流程“大闭环”。
06
走进 RSI 的“前室”：AI 已经坐上了制造下一代 AI 的生产线
即便全流程“大闭环”尚未完全合拢，三大前沿实验室在 2026 年披露的内部数据也揭示了一个微妙的事实——机器虽未独立接管进化，但它已经坐进实验室的主驾驶位了：
Anthropic：截至 2026 年 5 月，其生产代码库中超过80%被合并的代码已由 Claude 编写；2026 年第二季度，每位工程师每天合并的代码量大约是 2024 年的8 倍（尽管 Anthropic 严谨地提醒，代码合并量绝不直接等同于研发生产率提高 8 倍）。
OpenAI：截至 2026 年 8 月中旬，其研究部门每一个“人类工作日”已经对应约3.1 个 Agent 工作日。OpenAI 已在内部跑通“自动化研究实习生（Automated Research Intern）”，能独立完成原本需要人类研究员耗费数天的明确研究任务，并将公开目标锁定在 2028 年 3 月前实现完整的“自动化 AI 研究员”。
Google：其AlphaEvolve系统不仅优化了 Google 的数据中心调度与芯片设计，还直接优化了 AI 训练算法——其中就包括用来训练支撑 AlphaEvolve 自身底座模型的算法。
我们或许还没有推开完整 RSI 的大门，但全人类显然已经站在了RSI 的前室（Anteroom）里。
07
2026 年最微妙的跨越：从“写代码”到“研究品味”
很长一段时间里，业界普遍认为自动化 AI 研究最大的障碍不是写代码，而是Research Taste（研究品味与判断力）：
到底哪个问题值得研究？哪一个实验值得消耗宝贵的算力去跑？
实验跑出一个反常结果，它究竟是一个重大突破的苗头，还是某行底层代码的 Bug？
一个方向连跑三个月没出成果，该咬牙坚持还是果断放弃？
这也是为什么 2026 年 10 月刚发布的TasteVal基准测试震动了整个学术圈。研究者把负责写代码的 Agent 固定死，专门测试另一个大模型“设计实验方案”和“解释实验结果”的品味。
结果令人惊讶：Claude Opus 5.5 在该测试中超越了参与评估的人类专家基线，实验算力效率达到人类专家基线的 2.3 倍；更关键的是，论文发现自 2025 年 12 月以来，AI 在这项“实验研究品味”指标上大约每三个月翻倍一次。
但保持独立思考的话，这里必须加上一条极重要的边界限定：TasteVal 测试的是“在题目已经给定之后，谁更会做实验”；它并没有测试 AI 能否自己决定“什么问题值得研究”。
从“会做实验”到“会定义问题”，这条看似狭窄的缝隙，恰恰是完整 RSI 剩下的最后几道铁门之一。
08
为什么“2027 激进派”突然把时间表提前了？
正是看到上述齿轮的咬合，一批身处漩涡中心的人物开始密集修正自己的时间表：
Anthropic 联合创始人 Jack Clark：在 2026 年 10 月 12 日的最新一期《Import AI》中，他公开修改预测——此前他认为完整 RSI 更可能在 2028 年出现，而现在他认为“2027 年变得更有可能”，核心依据正是近期 AI 在数学创造力与 TasteVal 研究判断力上的跃升。
Google 联合创始人 Sergey Brin：近期公开表示 Google 已经踏上了“RSI 的跑步机（Treadmill）”，模型正越来越深地介入下一代模型的研发。
Leopold Aschenbrenner：早在两年前就激进预言 2027 年左右 AI 将胜任 AI Researcher/Engineer 的核心工作，一旦跨过该阈值，大规模复制的数字研究员将引爆算法跃迁。
仔细剖析就会发现，所谓“2027 派”的底层逻辑，并不是赌 2027 年某一天会突然发明一种神秘的魔法架构；恰恰相反，他们的核心判断是：
剩下的路可能已经不需要任何神秘的理论突破，只需要把现有的工程曲线继续往前延长。
09
方向 vs. 阈值：为什么实验室官方口径反而冷静？
与个人预测的火热形成鲜明对比的是，三大实验室的官方安全评估口径都异常克制：
Anthropic明确表示：“We are not there yet（我们还没到那一步）”，甚至补充说 RSI并非必然发生；
OpenAI在 2026 年 9 月公开声明：“完全自主的递归自我改进今天并未发生（not happening today）”，目前追求的是“人类监督下”的自动化研究员；
Google DeepMind在最新发布的Gemini 4 Argon官方模型卡（Model Card）中，专门对“是否显著加速 AI 研发”与“是否能完全自动化一个 Google AI 研究团队”设定了红线门槛——评估结果是，Argon 两项均未过线。
为什么 Sergey Brin 说已经踏上跑步机，而 Google 自己的模型卡却说没过线？其实一点也不矛盾：前者说的是“方向与机制已经启动”，后者说的是“脱离人类的绝对阈值尚未跨越”。
第三方评估机构METR在 2026 年 9 月对 Claude Opus 5.5 给出了独立评估：目前 AI 给前沿能力研发带来的整体加速，大约相当于1.5×（即把原本需要 12 个月完成的研发进展，压缩到约 9 个月），同时认为“已达到 2× 加速”的概率约为30%。
1.5 倍听上去远没有“智能爆炸”那么刺激。但千万别忘了复利的结构： 真正核心的问题不是今天是不是 100 倍，而是——今年的 1.5 倍，会不会催生出明年的 2 倍？而明年的 2 倍，会不会再催生出后年的 4 倍？
10
怀疑派的冷水：这是通往天际的指数曲线，还是终将放平的 S 曲线？
在另一端，怀疑派与审慎派质疑的从来不是“AI 能不能写代码”，而是这个自循环到底能不能持续转下去：
Demis Hassabis（Google DeepMind CEO）依然把 AGI 的中心时间点锚定在2030 年上下。他反复指出当前系统仍缺失几块关键拼图：真正的长期记忆、稳定的长程规划、对物理世界的深刻理解以及持续学习（Continual Learning）。
Yann LeCun的批评更彻底：他坚持认为仅靠现有的自回归语言模型路线无法抵达真正的人类级智能，必须构建理解物理常识的“世界模型（World Model）”。在他看来，今天许多被称为 RSI 的自我修正，本质上只是一个越来越复杂的Optimization Loop（局部优化循环），并不等于获得了开放式的科学创造力。
预测机构FutureSearch在 2026 年 8 月的调研也给出了保守锚点：预计到 2029 年左右 AI 研发加速可能达到5×；而“一家前沿实验室公开承认某款新模型主要由上一代模型设计”的中位预测时间，落在了2031 年 6 月。
你会发现，今天顶尖大脑之间真正的分歧，根本不是肤浅的“乐观派与悲观派之争”，而是关于一条数学函数曲线形状的争论：
这条内生增长曲线，究竟会突破算力与认知的阻尼继续指数上扬（J 型曲线），还是会在榨干现有范式红利后，逐渐弯成一条平缓的 S 曲线？
11
RSI 最大的技术命门，
不是 Intelligence（智能），而是 Evaluation（验证）
在所有技术细节里，最容易被外行低估、却最让内行睡不着觉的命门，其实只有两个字：评估（Evaluation）。
一个系统要想改进自己，首先必须百分之百确定地回答一个问题：修改后的新版本，究竟是不是真的比旧版本更好？
在数学、代码、围棋和芯片仿真里，这个问题很容易回答，因为有形式化证明、有单元测试、有明确的输赢。这也是为什么 AI 最先在这些领域跑通闭环。
但一旦走到开放式研究的最前沿：
这个新方向到底值不值得投入十万张卡？
模型在基准测试上涨了 5 分，到底是真变聪明了，还是在 Benchmark 上学会了投机取巧（Reward Hacking）？
短期指标变好，会不会导致底层某项隐性能力退化，或者只是因为隐蔽的数据泄露（Data Leakage）？
2026 年一项涵盖1,250 篇自我改进相关论文的大型综述揭示了一条铁律：自我改进能走多远，严格受限于验证器（Verifier）的可靠程度——拥有客观形式化验证的领域最强，依赖模型主观自我评判的领域最弱。
更危险的是：一旦错误的反馈混入递归系统，“错误本身”也会开始指数级复利。普通模型犯错，只是吐出一个错误答案；而一个递归自我改进系统如果把错误的信号当成正向奖励（Reward），它就会把这个偏见直接刻进下一代自己的基因里。此时，Goodhart's Law（古德哈特定律：当一个指标变成目标，它就不再是个好指标）就不再只是一个统计学难题，而会变成一场灾难性的“进化跑偏”。
12
阶段性裁决：别等“RSI 实现”，盯紧“反馈环缩短的斜率”
行文至此，如果我们必须对“2027 年会不会实现 RSI”给出一个独立裁决，答案绝不是非黑即白的 Yes 或 No，而取决于你用哪把尺子：
如果你指的是“窄域小闭环”（AI 自主修改自身的 Agent、工具、记忆与搜索策略并连续迭代）——它今天已经实现了。
如果你指的是“研发内生化”（AI 深度进入下一代模型的生产线，把研发速度加速到 1.5× 甚至更高）——它正在发生。
如果你指的是最严苛的“Full RSI（全自主大闭环）”（AI 自己决定研究方向、设计实验、完成训练与验证，独立生出明显更强的下一代基座模型并无限循环）——它还没有到来。
如果一定要对最严格意义上的 Full RSI 给一个主观概率，我目前会将2027 年底前实现的概率放在 30%–40% 之间（高到绝不能当科幻看，但尚不足以作为唯一基准情景），真正的分水岭大概率落在2028–2030 年。
但比预测具体年份重要得多的是这样一个洞察：我们根本不需要等到 Full RSI 达到 100% 闭合，整个世界就已经天翻地覆了。
当 AI 让研发速度从1×变成1.5×、2×、3×，当一名研究员可以像基金经理一样同时指挥几百个全天候运转的 Agent 时，在“完全自主闭环”降临之前，人类的研发组织、公司护城河、个人竞争力乃至知识生产的方式，就已经被彻底重写了。
因此，真正值得我们死死盯住的，从来不是某天早晨头条新闻宣布“RSI 今天正式实现”，而是：那个反馈闭环，是不是正在一年比一年短？
而当我们顺着这个视角抬起头，就会发现 RSI 远不止是一个 AI 命题。它像一面冷酷的X光镜，照出了世间万物进化的终极母题：
无论是一家公司、一个组织，还是一个活生生的人——到底什么样的系统，才能把每一次运行的结果，变成升级下一次运行机制的燃料？
13
从 NASA 老兵到 SpaceX：“正递归”与“递归自我退化”的物种代差
最近在社交网络上流传着一个耐人寻味的故事：一位在 NASA 工作了一辈子的资深工程师，退休后被 SpaceX 返聘。他在感慨自己职业生涯的巨大震动时提到，在 NASA 待了半生，到了 SpaceX 才发现两边根本不是同一个物种。
Elon Musk 转发了这个故事，只留下三个词：Recursive Self-Improvement（递归自我改进）。
(注：尽管这个网传故事的许多个人细节难以考证可靠的一手出处，不宜当作严格的人物新闻，但马斯克为什么如此钟爱这个隐喻，背后的工程逻辑却无比真实。)
一位造了一辈子火箭的老手，为什么会在 SpaceX 感受到如此强烈的文化颠覆？
因为在传统的航天工程（比如 NASA 后期或波音的承包商体系）里，最高信仰是“零缺陷的纸面完美主义”。为了保证火箭绝对不炸，工程师们会在切下第一块钢板之前，花上五年时间写几万页的需求文档、开无数次评审会、做层层签字背书。
更致命的是，当系统偶尔出现一次故障时，传统官僚机构的本能反应是什么？ 是“加规则”——多加一道审批手续、多设一个安全检查岗、多写一份免责声明。
你仔细想一下这个结构：每一次犯错，系统都会往自己身上多绑一块沙袋。时间越久，规矩越多，动作越慢，成本越高。
这其实也是一种递归，但它是“递归自我退化（Recursive Self-Complication）”——系统利用每一次错误，把自己改造成了一个更笨重、更迟钝的怪物。
而 SpaceX 干了一件完全相反的事。
当星舰（Starship）在发射台上炸成一团火球，SpaceX 的工程师们干的第一件事当然是修好那个出问题的阀门；但他们干的第二件事，才是真正的降维打击——他们会顺着这个阀门倒推回去，拷问整个研发系统：
“当初是谁定下这个愚蠢的设计需求的？删掉它！为什么排查这个故障花了三天而不是三小时？升级检测工具！为什么换一个零件要拆掉半个引擎？重写流水线！”
发现区别了吗？
NASA 修的是“那枚火箭”，并在修理过程中让组织变得更僵化；
SpaceX 修的是“造火箭的机器和流程本身”。
同样一群聪明绝顶的工程师，一个组织一年只走两圈闭环，另一个组织一年狂奔五十圈。
第一年差别也许不大，到了第五年，它们已经不再是同一个维度的生物了。
这可能也是马斯克如此厉害最大的原因之一。
14
智能的再生产与“自催化”：从存量（Stock）竞争到流量（Flow）竞争
把视野从火箭拉回整个商业文明：当年工业革命最伟大的跨越，是“机器开始生产机器”；而今天 AI 时代最特殊的地方，是“智能开始生产智能”。
过去，人类提供智能（Intelligence），机器提供杠杆（Leverage）；现在，智能本身变成了杠杆，直接进入了生产函数：
以前是：人 ➡️ AI
现在是：人 + AI（1）➡️ AI（2）
正在逼近的未来是：AI（1）➡️ AI（2）➡️ AI（3）
化学里有一种现象叫Autocatalysis（自催化）——化学反应生成的产物，反过来又充当催化剂，去加速这个反应本身。
一旦进入这种自催化状态，评估一个系统或一家公司的标准就会发生根本性逆转：二阶能力开始远远压倒一阶能力。
一个系统今天有多聪明，叫一阶能力（存量 Stock）；
一个系统明天能比今天变聪明多少，叫二阶能力（流量 Flow）。
假设公司 A 今天的能力是 100 分，每年进步10%；公司 B 今天只有 70 分，但每年进步100%。真正危险的对手显然是 B。
所以未来看一个 AI 系统，甚至看一家公司、一个人，不能只问：“它今天能干什么？（What can it do?）”更要问：
“它改进自己能力的速率有多快？（How fast can it improve what it can do?）”
15
从“答题机”到“实验机”：复利的真正单位不是时间，而是有效循环次数
过去几年，我们习惯把 AI 当成一台Answer Machine（答题机）——你提问，它吐出答案或代码。
但在递归进化时代，核心能力正在从“回答问题”变成“做实验”。系统的基本运行单元，从单向的：
人 ➡️ AI
变成了闭环的：
这揭示了一个关于成长的深刻真相：
真正强大的智能，并不是事先知道所有标准答案；而是在不知道答案的时候，依然知道下一步该做什么实验去逼近真相。
很多人理解复利，脑子里只有“时间”这一个变量——觉得只要每天进步 1%、坚持十年就能成功。但实际上，时间本身根本不会带来复利，有效循环的次数才会。
无论你叫它 PDCA、精益创业、科学实验法，还是 SpaceX 的炸火箭流程，本质全都是一件事：在单位时间内，你究竟完成了多少次真实的认知更新？
有的人工作十年，只是把第一年的同一个循环慢吞吞地重复了十次；
而有的人在一年之内，用极短的反馈回路跑完了别人十年的有效迭代。
16
当领先优势从“加法”变成“乘法”：硅谷正在发生的四个反直觉推演
在传统行业里，一家公司技术领先一年，竞争对手咬咬牙加班追赶，也许两年后就能抹平差距，因为领先优势是线性的。
但在具备 RSI 特征的系统里，领先优势是乘法级的：
假设公司 A 的模型比公司 B 强20%。如果 A 只是把这个模型拿去卖 API，那优势就只是20%；
但如果 A 把这多出来的20%算力与智商重新投入到下一代模型的研发中，到了下一代，领先幅度可能就会被放大到35%，再下一代变成60%……因为领先者不仅拥有更好的产品，还拥有了“制造下一次领先的更好机器”。
顺着这条自强化回路（Self-Reinforcing Loop）往下推演，未来几年我们将看到四个非常反直觉的现象：
公开榜单的重要性下降，“内部研发加速率”将成为最高机密：外部还在紧盯 SWE-bench 或奥数考多少分，但真正决定 AI 公司生死的内部指标将变成——每名研究员能同时驾驭多少个 Agent？从提出假设到拿到实验结果平均要几小时？上一代模型为下一代贡献了多少能力增益？这个R&D Acceleration Rate（研发加速率），将成为比模型权重更核心的商业绝密。
最强的 AI 模型，可能根本不会对外发布：如果某个模型最核心的价值不是陪用户聊天，而是帮实验室制造下一代模型，为什么要把它开放给竞争对手？未来很可能会分化出两条产品线——面向大众、温和可控的Product Model（产品模型），以及藏在实验室深处、昂贵庞大却专门用来孵化下一代模型的Research Model（研发母机）。
技术突破将呈现“簇状爆发（Clustered Acceleration）”：传统软件更新是匀速的；但当一家实验室突然打通某个核心研发闭环时，更好的训练方法、更好的推理架构、更高的 Token 效率和更强的评测会彼此催化。外界看到的景象将是：漫长的平静期后，某家公司突然在三个月内像放鞭炮一样连续扔出一连串颠覆性产品——因为不是某个单点突破了，而是它背后的实验母机转得更快了。
物理世界（Atoms）与数字世界（Bits）的时间尺度严重撕裂：软件和数学可以一秒钟试错一万次、零成本回滚，所以 RSI 一定最先在代码、算法和数字实验里狂飙；但下游的物理世界依然遵守冷酷的牛顿定律与生物学钟表——AI 可以一天想出一万种新材料配方，但现实实验室一天做不了一万次合成；AI 可以一年产出十年的新药构想，但人类依然不能把十年的临床安全性观察压缩成十天。
上游的比特已经进入高倍速快进，下游的原子依然在按秒滴答，这将是未来十年最剧烈的产业张力。
17
控制栈的上移、“真相基建”，与中间层被掏空的组织未来
当递归机器转起来之后，人类在组织里的位置会发生什么变化？
以程序员为例，第一步已经发生了：人类正从代码的“作者”变成“审稿人（Reviewer）”。
但紧接着第二步瓶颈就会出现：当 AI 写代码的速度是人类审阅速度的一百倍时，人类审稿人自己就成了最大的拥堵点。
于是我们不得不让 AI 去审阅 AI、让 AI 去测试 AI、让 AI 去监控 AI。人类在Control Stack（控制栈）中的位置被迫不断上移，最终只留下四个最高权限：定义目标、划定约束、給予授权、一票否决。
这会同步引发另外两场结构性地震：
“真相”将成为最昂贵的基础设施（Truth Becomes Infrastructure）：当一百万个 Agent 一天能零成本生成一百万套方案时，“生成”变得廉价如水，“验证（谁在作弊、谁有安全隐患、谁只是在迎合评测器）”反而变得贵如黄金。未来极具价值的独角兽，未必是造大模型的公司，而是帮系统识别真假、防止奖励黑客（Reward Hacking）与提供完美回滚机制的“验证基建公司”。
组织形态的“中间层掏空”与虚拟研究院：未来的顶尖实验室可能不再是雇佣上千名初级研究员，而是50 名人类顶尖学者 + 5 万个昼夜运转的 Agent + 数百万个并行实验。
人类学者从“做实验的人”变成了Research Portfolio Manager（研究组合基金经理）。
在商业世界里，一端是“十个人指挥几百个 Agent”的极小、极快、极高杠杆团队，另一端是握有算力、能源与真实世界海量反馈闭环的超级平台——而夹在中间、既不够灵活又没有自建学习飞轮的传统中型组织，将被彻底掏空。
18
为什么大多数人和公司转不起这个环？
第一道门槛：被自尊心污染的传感器
好，让我们从硅谷的机房与星舰发射场抽身出来，回到现实中的我们自己。
既然“递归自我改进”的复利如此恐怖，为什么我们身边绝大多数人、绝大多数公司，忙活了一辈子，哪怕天天写复盘日记、月月搞 PDCA 总结，依然困在低水平的单环重复里，从来没有触发过那种“越学越快、越跑越轻盈”的链式反应？
因为要想让递归闭环真正转起来，必须跨过三道极其反人性的工程门槛。
第一道门槛：你的传感器（Sensor），是不是被你的自尊心给污染了？
这里藏着一个控制论里最迷人的悖论：宏观上最强大的“正反馈增长（Positive Feedback）”，往往必须建立在微观上最冷酷的“负反馈纠错（Negative Feedback）”之上。
两者是嵌套在一起的：局部靠负反馈不断发现误差、承认错误；整体才能靠正反馈实现能力的指数级跃升。所以，一个健康的递归系统，绝不是每天站在镜子前自我催眠“我越来越棒了”，恰恰相反，它必须允许真实世界每分每秒残酷地告诉自己：“你错了。”
一段 Python 代码运行报错时，终端弹出一行红色的 SyntaxError，程序不会觉得羞耻，不会跟编译器吵架说“我已经很努力了，是你环境有问题”，也不会写一篇小作文来论证这个 Bug 其实是某种行为艺术。它会立刻读取错误位置，修正参数。
但人不一样。当现实世界给我们弹出一个 Error（投资亏钱了、产品没人买、文章没人看、关系搞砸了）时，人类大脑内置的“原始自我保护程序”会在 0.1 秒内启动：找借口、怪环境、怪运气，甚至偷偷修改目标（“其实我本来也不在乎这个”）。
这就好比你给恒温空调装了一个会撒谎的温度计——明明屋里已经热到了38°C，温度计为了哄主板开心，偏偏报告说“现在是宜人的25°C”。
一个被自尊心过滤掉真实疼痛的反馈闭环，不仅无法自我改进，反而会变成“自我麻痹的死循环”。
查理·芒格之所以反复强调“像擦拭珍爱的镜头一样，每年主动消灭一个自己最心爱的观念”，本质上就是在清理传感器的污垢，确保报错信号的无损输入。
说起来容易，其实非常反人性。一个人往往需要足够的智慧、勇气和安全感，才能做到这一点。
19
第二道门槛：致命的反馈延迟（Latency）与淋浴间震荡
在工程控制论中，如果一个系统的反馈延迟过长，纠错动作不仅无效，还会引发灾难性的震荡。
就像你在老旧酒店的淋浴间调水温：
如果水管太长，你往左拧了一下，过了十秒水还是凉的；
你以为没拧够，又猛地往左拧到底，结果十秒后滚烫的开水直接把你烫得跳起来；
你又猛地往右拧到底……最后永远在冰火两重天里折腾。
学习与进化也是如此。
如果你一年才做一次“年终复盘”，或者憋了两年才把产品推向市场听取第一声反馈，那个误差信号早就过期了，你根本分不清到底是哪一步动作导致了今天的结果。
这也是为什么精益创业强调 MVP（最小可行性产品），SpaceX 宁可让星舰在天上炸掉也要赶紧发射——高频率、小步幅、低成本的真实碰撞，是递归进化的唯一燃料。
把反馈周期从“一年一次”压缩到“一天一次”，甚至“一小时一次”，你的进化代数就会直接拉开同行两个数量级。
20
第三道门槛：你是在给系统“打补丁”，还是在“删代码”？
这是普通复盘与递归改进最隐蔽的分水岭。
大多数人犯了错之后，改进的方式是做加法：
迟到了，下次多定三个闹钟；
下属出错了，公司多加三道审批表；
交易亏钱了，在交易系统里多加五个技术指标。
久而久之，你的生活和组织就像一座堆满了陈旧代码的旧软件，补丁摞着补丁，跑起来吱呀作响，光维持日常运转就要耗尽90%的心力。
还记得马斯克著名的“五步工程算法”吗？排在第一位的不是“自动化”，不是“加速”，甚至不是“优化”，而是：
质疑需求本身（Make your requirements less dumb）——因为哪怕是聪明人提出来的需求，往往也是错的；
删除部件或流程（Delete the part or process）——如果你最后没有被迫把删掉的10%加回来，说明你删得还不够多！
真正的递归自我改进，首先是一场冷酷的减法运动。每一次闭环，不仅要问“我该多做什么”，更要问：
“我现有的认知框架和工作流里，有哪些动作、哪些执念、哪些规矩，其实是个纯属内耗的废件？我现在能不能把它直接删掉？”
只有先删掉冗余，系统变轻了，飞轮才能转得更快。
21
瓶颈永远不会消失，它只会转移：为什么“品味”是人类最后的堡垒？
当我们跨过上述三道门槛、把执行环节不断自动化之后，就会撞上阿姆达尔定律揭示的另一条规律：瓶颈永远不会消失，它只会发生转移。
代码自动化之后，审阅（Review）成了瓶颈；实验自动化之后，实验选择成了瓶颈；当“把事情做出来（Doing）”变得越来越便宜之后，“决定做什么、不做什么（Choosing）”就变得空前昂贵。
未来一名超级个体一天可以调用一千个 Agent。此时，你的核心价值早已不在于自己一天能手写多少行代码、敲多少字，而在于：
让这一千个 Agent 去攻克哪个问题？
跑出来的十个反常信号里，哪一个是真正值得深挖的金矿，哪九个只是噪音？
哪一个看起来很热闹的问题，其实根本就不应该去解决？
在一个执行成本趋近于零的时代，最稀缺的不再是执行力，而是方向感与审美判断力——也就是 Taste（品味）。谁能比别人更早看清“下一个转移过来的瓶颈在哪里”，谁就握住了整个递归系统的方向盘。
22
组织的终极分水岭：连“如何复盘失败”这件事本身，也要被重新设计
到这里，企业与组织的竞争本质已经水落石出了。
一家公司真正重要的，从来不是今天花高薪囤积了多少个聪明人，而是三种速度：
真实世界的残酷反馈，能以多快的速度无损进入公司？
公司发现错误之后，能以多快的速度修改自己的底层假设与业务模型？
一个人在一线踩坑得来的经验，能以多快的速度沉淀为整个组织的系统代码？
三流公司失败以后，只是开一次批斗会或复盘会，大家表个态，下次继续犯同样的错；
二流公司失败以后，会修改业务流程；
而真正一流的“递归型组织”更进一步：在每一次复盘之后，连“我们该如何复盘失败、如何做实验”这套机制本身，也会被重新设计。
23
个人实操第一式：
双账本心法——把每一次“做事”当成调试大脑源码的测试集
理解了 AI 的自举与组织的飞轮，最后让我们落回每一个具体的个体：
作为一个普通人，我们到底该如何构建属于自己的“递归自我改进系统”？
第一步，是在心里同时建立“两本账”，把每一次具体的做事，都当成调试你大脑源代码的测试集。
普通人工作，眼里只有那个眼前的交付物（把这单生意谈成、把这篇文章写完、把这道题解出来）。事做完了，哪怕成了，人还是原来那个人。
而拥有递归思维的人，心里永远记着两本账：
明账，是手头这件事的具体结果（产出 x）；
暗账，是我用来做这件事的那套心智模型、工具链和决策算法（算子 f）。
当你今天花三个小时解决了一个棘手的难题，千万别急着关电脑庆祝。多花十五分钟，问自己一个递归式的问题：
“如果明天还有十个类似的问题砸过来，我能不能用刚才摸索出的经验，写一个检查清单、配一个自动化脚本、或者提炼一条反直觉的决策原则，让明天的自己花 15 分钟就能搞定？”
当你把这个清单、脚本或原则固化下来的那一刻，你就完成了一次个人版的“从系统 2（慢思考）到系统 1（快直觉）的蒸馏”。你用今天的汗水，永久性地升级了明天的底层算力。
24
个人实操第二式：升级你“制造工具的工具”
自古以来，普通工匠和顶级大师的区别，往往不在于手艺本身，而在于大师会花大量时间去打造和改良自己的专用工具。
在 AI 时代，这件事变得前所未有地具象化。
如果你只是把 AI 当成一个高级搜索引擎，遇到一个问题随口问一句，那你只是在做零散的开环操作。
但如果你每解决一类问题，就把过程中的最佳提示词、踩过的坑、个人的审美与逻辑偏好，封装成一个可复用的Skill（技能包）或自动化工作流；
下次再用这个 Skill 去产出时，一旦发现哪里不够犀利，不仅改眼前的稿子，更顺手去修改这个 Skill 的底层指令……
但是，在这里很容易产生歧义。就像当年的提示词工程，每个阶段都有各种工具和技能冒出来。我个人不认为学习和收藏这些东西有用，关键在于你自己要重新“发明”。
你不仅是在用 AI 帮你干活，你是在与 AI 组成一个“人机共生体”，利用每一次任务去重写那个“帮你干活的外部大脑”。这就是个体层面的“改进制造机器的机器”。
在这个双智能协作的系统里，你永远是独立思考和拥有指挥权的那一个。
25
个人实操第三式：调优你人生算法的“超参数”
在机器学习里，除了模型本身的数十亿权重参数，还有一类决定“模型如何学习”的顶层参数，叫超参数（比如学习率 Learning Rate）。
人也有决定自己进化速率的“超参数”：
故障恢复时间（MTTR / 情绪恢复延迟）：当你遭遇一次重大挫折或当众打脸时，你需要花多久才能从防卫、羞耻与懊恼中走出来，平静地开始客观复盘？有人需要半年，有人只需要睡一觉。
探索率（Exploration Rate）：当你面对一个完全陌生的领域（比如从零开始学一门新棋类，或者跨界用 AI 写代码），你敢不敢先放下身段，忍受自己像个新手一样笨拙地高频试错？
有效算力带宽：你每天有多少整块的、不被碎片信息和无效社交打断的深度思考时间？
如果你不仅在改进某项具体技能，还在有意识地缩短自己的“情绪恢复延迟”、保护自己的“算力带宽”、降低自己“承认错误的心理门槛”——你修改的就是整个人生算法的超参数。
一旦超参数被调优，你在随后遇到的所有人生课题上，进化的斜率都会同时变陡。
人类的肉身，原本是一种长期演化而来的生物计算机，里面有许多高效而低耗的快捷模式，包括我们的生理机能，也包括我们的喜怒哀乐。
但是，其中的大部分快捷键，都是在漫长的丛林时代演化而来的。所以，修改人生算法的超参数，并不容易。反过来说，也最值得做，收益大且直接。
26
警惕“栈溢出”：没有第一性原理兜底的递归，只是精神内耗
当然，作为一个严谨的系统，递归自我改进还有一个极其关键的安全阀：基准锚点（Base Case）。
任何写过代码的程序员都知道，一段递归函数如果没有写好“终止条件”或“基准情形”，程序就会陷入无穷无尽的死循环，最终弹出一个致命错误：StackOverflowError（栈溢出崩溃）。
在现实生活里，很多人把“自我改进”搞成了焦虑无比的“无效内卷”——天天复盘、天天改方向、天天自我怀疑，最后把自己的精神内核改得支离破碎。
为什么？因为他们把外界杂乱的噪音（别人的评价、短期的流量、一时的得失）当成了反馈信号。这就好比前面提到的，把错误的 Reward 喂给了递归系统，导致偏见和焦虑在循环中被不断放大。
SpaceX 的递归之所以如此狂暴却从不跑偏，是因为马斯克在所有递归循环的最底层，焊死了一个不可动摇的锚点——物理学第一性原理（First Principles）。
不管流程怎么改、设计怎么删，底线只有一条：不能违背客观物理定律，不能偏离降低每公斤入轨成本的终极目标。
有第一性原理兜底的递归，才叫进化；
没有底层锚点的瞎改，那叫精神内耗。
27
穿越“J 型曲线”：容忍前期的缓慢，博取后期的陡峭
同时，任何一个想要启动递归飞轮的人，都必须对递归特有的“J 型曲线”保持足够的战略耐心。
就像计算机早期的编译器自举（Bootstrapping），或者今天 AI 实验室花大力气构建自动化评测基建一样，递归自我改进在刚开始的时候，看起来往往是“吃力不讨好”的。
当别人已经在用现成的笨办法吭哧吭哧手搓产品、赚取眼前的快钱时，你却在花时间搭建工作流、提炼思维模型、打磨自己的工具链。在前几个周期里，你的表面产出甚至不如那个埋头苦干的熟练工，曲线还会往下掉一截。
因为你在造“制造机器的机器”，这需要支付前期的认知折旧与时间成本。
但一旦那个自举的闭环合拢，奇点就会到来。你的每一次产出都在反哺你的工具，你的工具又在加速你的下一次产出。
平庸者追求第一天的线性产出；
进化者容忍前期的缓慢自举，去博取后期的指数级复利。
28
侯世达的“怪圈”：所谓自我意识，本来就是一个递归奇迹
为什么“递归”这个概念，不仅在工程上如此强大，在哲学上也如此令人着迷？
认知科学家道格拉斯·霍夫施塔特（侯世达）在奇书《哥德尔、埃舍尔、巴赫》里，曾提出过一个著名的概念：怪圈（Strange Loop）。
就像荷兰画家埃舍尔那幅著名的版画《画手》：左手拿着画笔，正在纸上描绘右手；而纸上的右手拿着画笔，正在反过来描绘左手。
当你沿着系统的层级不断向上攀爬时，你会惊讶地发现，自己竟然回到了起点，并且正在亲手创造那个出发时的自己。
侯世达由此提出了一个震撼的假说：
人类之所以会在一团冰冷的神经元中产生“自我意识（我）”，本质上就是因为大脑在漫长的进化中，偶然形成了一个能够观察自己、指向自己、修改自己的“递归怪圈”。
换句话说，生命与非生命、觉醒与混沌的边界，本来就在于“能否实现自我指涉的递归”。当你开始有意识地审视并改写自己的思维源码时，你才真正拥有了最高浓度的自由意志。
29
永不封版的生命
现在，让我们回到那位退休后加入 SpaceX 的 NASA 老工程师。
无论那个故事的具体细节在流传中有多少演绎，它之所以能击中无数人的内心，是因为它戳破了世俗生活里最让人绝望的一个默认脚本：
在传统观念里，一个人到了退休的年纪，他的大脑源代码就已经“封版（Code Freeze）”了——他只剩下被时代淘汰，或者躺在过去的功劳簿上吃老本这两条路。
但当这位老工程师把自己重新接入一个高频率、讲真话、不断自我重构的反馈闭环里时，他的个人系统被重新激活了，在职业生涯的尾声开启了新一轮的自我迭代。
这揭示了一个极具生命力的真相：一个人的衰老，从来不是从生理年龄开始的，而是从你关闭反馈闭环、停止修改自己底层源码的那一刻开始的。
只要你的传感器依然诚实，只要你还在用今天的错误去重写明天的自己，你就永远处于 Beta 测试版，永远年轻。
30
人类文明本就是宏大的“递归自举史”
如果我们把镜头拉到最远，就会发现：其实整个人类文明，几千年来一直都在做同一件事——把外生的经验，不断内化为改进文明自身的工具。
语言的出现，让个体的狩猎经验第一次能够跨越大脑进行同步；
文字的发明，让前人的试错结果能够跨越生死与世代进行累积；
科学方法的诞生，让我们第一次拥有了一套“如何正确发现新知识、证伪旧知识”的元算法；
自由市场，用利润与亏损作为冷酷的验证器（Verifier），每秒钟都在筛选商业实验；
现代公司，把个人的手艺变成了可规模化复制的组织代码；
计算机，大幅提高了我们制造一切工具的时钟频率。
而今天 AI 与 RSI 真正特殊的地方在于：这是人类历史上第一次制造出了一种工具，它开始直接参与改进“制造工具的方法本身”。
过去，人类用智能制造机器；后来，人类用机器放大智能；而现在，我们正在跨入第三个纪元——智能开始制造更强的智能。
31
三阶进化金字塔：改答案、改方法，与改“改进方法的方法”
从工业时代的PDCA 循环，到互联网时代的精益创业，从 SpaceX制造机器的机器，到今天 AI 领域的递归自我改进（RSI）——人类用了一百年的时间，终于摸清了世间一切进化系统的终极拓扑结构：
一阶努力（普通人），是在既有规则下改进自己的答案——把眼前的事做对，修好手头那枚出故障的火箭；
二阶努力（优秀者），是根据外部反馈改进自己的方法——做对的事情，及时校准通往星辰大海的航向；
三阶努力（递归进化者），是借由做每一件事的过程，去改进自己“改进方法的方法”——把每一次运行的结果，都变成重塑那个“做事的自己”的燃料。
公司如此，科学如此，文明如此，今日的机器也开始如此。
32
慢！我们可能把很多不同的东西都叫成了“递归”
把前面的逻辑推演到高处之后，我需要先对核心概念做一次清理。
PDCA 循环、精益创业、组织学习、个人元认知、SpaceX 的快速迭代，以及严格意义上的 AI 递归自我改进（RSI），确实具有相似的拓扑结构：系统运行、获得反馈、修改自身、进入下一轮循环。但“结构相似”并不等于“机制相同”。
一家公司根据客户反馈修改产品，是单环或双环学习；
一个人复盘自己的决策方式，是元认知；
一个组织调整审批流程，是制度优化。
但严格意义上的 AI RSI 还多了一项要求：负责改进系统的那个能力本身，也必须在改进过程中得到增强，并且这种增强能够被下一轮直接继承。
也就是说，不只是“我下一次做得更好”，而是“下一次那个负责让我变得更好的机制，本身也变得更强了”。
因此，把个人成长、SpaceX、科学方法和 AI RSI 放在一起讨论，更准确的说法不是它们“就是同一件事”，而是它们在不同层面上共享同一种深层结构。类比的价值在于帮我们看清结构，但不应该被直接当成证明。
一个好用的隐喻如果过度延展，有时反而会让我们误以为已经解释了一个其实尚未完全解释的问题。
33
把智能写成单一变量 C 是一个好用的模型，
但现实中的智能更像一个高维向量
为了直观地理解 RSI，我们在前文把智能简化成一个标量 C，进而讨论变化率 dC/dt，以及 C 如何反过来提高自身的增长率。这种表达很清晰，但隐藏了一个现实问题：
现实中的“智能”不是一个单一维度的数字，而是一个高维向量。
在真实的模型迭代与能力演化中，不同维度往往不是同步上升的：
一个模型可能在数学推理或代码能力上明显进步，却在事实准确性（Calibration）上出现波动；
它可能更擅长通过基准测试（Benchmark），却依然缺乏发现真正重要问题的能力；
同一次更新，可能让系统在某个显性维度上获得收益，同时以牺牲另一个不易测量的隐性能力为代价。
因此，真正的 RSI 未必是一条平滑向上的单调曲线，它更可能是在一个复杂的能力空间里移动。
这也意味着，“下一代比上一代更强”并不是一个天然清晰的命题：
究竟强在哪个维度？
代价是什么？
哪些能力因为容易被验证器（Verifier）测量而得到了强化，哪些能力因为难以量化而被忽略？
如果不回答这些问题，我们观察到的“自我改进”，有时可能只是系统越来越擅长完成我们恰好能够测量的那部分任务。
34
真正的递归不仅需要高频“试错”，还需要跨代“遗传”
今天的 Agent 已经可以进行大量循环：提出方案、调用工具、发现错误、重新尝试，直到得出一个更好的结果。但这里有一条容易被忽略的分界线：
如果这一万次实验积累的经验在任务结束后全部清空，第二天启动的新实例又要从头开始，那么我们得到的只是强大的“搜索（Search）”，而不是真正意义上的“进化（Evolution）”。
任何能够持续累积优势的进化系统，至少需要三个环节：
变异（Variation）：产生差异化的新尝试；
筛选（Selection）：通过验证机制筛出更好的版本；
遗传（Retention）：把验证有效的优势保留下来，让下一轮从更高的起点出发。
第三个环节尤为关键，因为没有遗传，就没有跨周期的累积。
因此，判断 RSI 是否正在发生，不能只看 AI 能不能执行复杂的实验，还要看一个更实质的指标：这次实验形成的能力，有多少真正沉淀进了下一代系统？
它有没有改变模型权重、工具链、训练方法、记忆结构或研究流程，使后继系统无需重复支付同样的学习成本？
真正的递归，不只是今天跑了一万圈，而是第 10,001 圈能够直接站在前一万圈留下的基础上。
35
比“如何验证”更深的问题，是“什么值得被优化”与不可逆风险
前文把 Evaluation（评估与验证）看作 RSI 最大的技术瓶颈，这个判断在工程层面上依然成立。但如果顺着验证器继续向下追问，会发现下面还压着一个更基础的问题：
目标函数（Objective）。
验证器可以判断程序是否通过测试，可以判断数学证明是否成立，也可以判断芯片设计的功耗是否降低，但它只能回答“这个方案是否更接近既定目标”，却无法自动回答“这个目标本身是否值得追求”。
这是所有优化系统都需要面对的深层风险。一个系统完全可能拥有准确的验证器，却在一个片面甚至错误的目标函数下高速运行。
当系统能力还不强、反馈还比较慢时，方向偏差造成的损失有限；
一旦系统具备了高效的递归闭环，优化效率本身反而会放大目标偏差带来的后果。
此外，从遍历性（Ergodicity）的角度看，如果高速迭代的每一轮自我修改都存在微小概率触碰“吸收壁”（即系统不可逆的崩溃或失控），那么当循环次数被大幅拉高时，尾部风险就会显著上升。
所以，完整的 RSI 最终面对的不只是 How to optimize（如何优化），而是 What should be optimized（什么值得被优化，以及哪些边界不应被跨越）。前者属于工程问题，后者则涉及目标设定与价值判断。
36
警惕“过拟合”与“灾难性遗忘”：
并不是所有的底层代码都适合高频重写
前文强调了缩短反馈周期、及时修正底层方法的重要性。但在机器学习与控制论中，过度追求高频修改会带来另一个经典难题：
稳定性与可塑性困境（Stability-Plasticity Dilemma）。
在神经网络训练中，如果模型对最近几次的反馈信号反应过度、频繁大幅修改权重，就容易出现“灾难性遗忘（Catastrophic Forgetting）”——为了适应眼前的局部样本，破坏了此前已经建立的通用能力。在统计学与量化分析中，这表现为“过拟合（Overfitting）”：当反馈闭环过短、参数调整过于频繁时，系统往往会把短期环境中的随机噪音误判为长期规律。
这也解释了为什么在生物进化中，自然选择并没有让生物随着日常气温的变化每天重写 DNA，而是将基因突变率维持在很低的水平。在一个存在噪音和不确定性的环境里，缺乏阻尼的高频重写往往会导致系统不稳定。
因此，无论是设计 AI 系统、管理一家公司，还是更新个人的认知框架，都可以借鉴现代操作系统的架构，将系统区分为“用户态（User Space）”与“内核态（Kernel Space）”：
表层的用户态（具体工具、工作流程、日常战术与实验方案），适合保持高频反馈，根据实际结果快速调整；
底层的内核态（基本原则、风险底线、核心价值观与长期方向），则需要保持相对稳定，设置较高的修改门槛，避免因短期波动而频繁摇摆。
用户态提供适应环境的灵活性，内核态提供穿越周期的稳定性，两者平衡，递归系统才能长期运转。
37
“九个孕妇无法在一个月内生出孩子”：
世界上存在不可被递归压缩的慢变量
当我们讨论 RSI 将“十年的研发压缩进一年”、将“年度复盘压缩到日常迭代”时，也需要看清另一条客观边界：
并不是所有有价值的事物，都可以通过提高循环频率来加速完成。
软件工程学者弗雷德·布鲁克斯在《人月神话》中提出过一个常识性的比喻：“怀胎十月才能生下一个孩子，即使同时安排九个孕妇，也不可能在一个月内生出孩子。”
代码测试和早期硬件工程之所以能够高频试错，是因为它们处在“错误可逆、允许重来”的环境中。但在商业活动与个人生活中，许多关键资产具有不可逆性，无法简单套用高频试错的逻辑：
信任与声誉：建立长期信誉需要持续兑现承诺，而一次严重的违约就可能导致信誉受损，这类过程缺乏低成本的“回滚机制”；
深度关系与成长陪伴：人与人之间的理解、信任以及对下一代的陪伴，依赖真实时间的自然展开，无法通过并发处理来大幅压缩周期；
基础认知与审美的积累：许多深层思考与判断力的形成，需要经历完整周期的观察与沉淀，很难完全通过高频的短期反馈快速催生。
因此，理性的策略是区分不同事物的属性：
在“工具、技术与执行流程”层面，充分利用快速反馈闭环来提升效率；
而在“信誉、关系与长期认知”层面，尊重客观的时间规律，给慢变量留出足够的自然生长空间。
38
闭环并不是越封闭越好，
缺乏外部输入的系统容易滑向“递归自我欺骗”
“自我改进”容易让人产生一种联想：似乎只要系统足够强大，它最终就可以关起门来，完全依靠自身的循环完成所有进化——用自己生成的数据训练下一代模型，用自己的评估器判断输出质量，再用同一套逻辑决定后续的研究方向。
但在信息论与系统科学中，完全封闭的自指涉循环往往伴随着退化风险。在大模型训练中，如果系统长期只使用自身生成的数据进行迭代，容易引发“模型坍塌（Model Collapse）”——输出分布的多样性逐渐收窄，尾部信息丢失，原有的微小偏差被逐代放大。
这与生物学中的近亲繁殖类似：系统内部的自洽性看似越来越高，但与外部真实世界的偏离却可能越来越远。此时，“递归自我改进”就有可能滑向Recursive Self-Delusion（递归自我欺骗）。
因此，一个健康的递归系统始终需要保持开放性，持续引入外部输入：真实的物理世界实验、独立的数据源、不同架构的竞争模型、人类的异议，以及专门用于寻找系统漏洞的对立测试（Adversary）。
进化不仅依赖内部的闭环反馈，也依赖外部的差异与碰撞。有时，最需要警惕的未必是一个运转不畅的闭环，而是一个内部逻辑高度自洽、却逐渐失去了接收外部纠错信号能力的闭环。
39
警惕“清晰度陷阱”：
不要为了跑通闭环，舍弃那些难以量化的“暗知识”
学者詹姆斯·斯科特在《国家的视角》中曾分析过近代早期的“科学林业”：为了便于统计、计算和优化木材产量，当时的管理者清理了原本结构复杂的天然混交林，改种排列整齐、品种单一的云杉。
最初几十年，木材统计产量显著提升；但经过几代更替后，由于缺乏天然林中看似无用、难以量化的物种多样性与土壤生态循环，人工林的整体抗风险能力明显下降。
这揭示了优化系统中常见的“清晰度陷阱（Legibility Trap）”。
要让一个反馈闭环高效运转，通常需要先将输入、过程和评价标准转化为“清晰、可量化、可标准化（Legible）”的指标。
然而，正如科学哲学家迈克尔·波兰尼所指出的，人类的许多高阶认知属于“暗知识（Tacit Knowledge）”——包括难以言传的经验直觉、跨领域的偶然启发，以及尚未被形式化的模糊探索。
当一个组织或个人过度强调“一切皆需量化、一切皆需进入闭环”时，容易产生一种倾向：凡是短期内无法测出明确反馈、无法写进标准流程的探索，都会被当成“冗余”清理掉。
删减真正的流程冗余能够提升效率，但如果把所有暂未显性化的模糊探索也一并剔除，系统虽然在短期内显得更加精干，长期却可能失去孕育突破性创新的土壤。
在推进结构化改进的同时，为系统保留一定比例“不急于量化”的探索空间，本身也是维持长期进化能力的必要条件。
40
递归真正的对手未必是速度太慢，
而是过快地收敛到“局部最优”
递归自我改进常被比作一台不断提升推力的发动机；但在优化理论中，还有另一种常见情形：登山者攀登的速度越来越快，却停留在了半山腰的局部高地上。
任何优化系统都需要处理Exploitation（利用既有优势）与Exploration（探索未知路径）之间的平衡。递归机制在自然状态下往往更有利于前者：在当前评价标准下表现更好的方案会获得更多资源，升级后的系统会继续沿着已被验证有效的方向深入优化，从而强化路径依赖（Path Dependence）。
但科学史与技术史表明，重大的范式转移（Paradigm Shift）往往需要暂时离开当前已经成熟的路径，去尝试那些在初期看起来效率较低、甚至在现有评测标准下表现不佳的新方向。
如果整个研发体系或认知框架被单一的评价标准锁定，那么迭代速度越快，系统向局部最优（Local Optimum）收敛得就越彻底。
因此，成熟的自我改进系统不仅需要有效的筛选机制（Selection），还需要刻意保护足够的多样性（Variation）。
只有允许一部分资源游离在主流优化方向之外进行探索，系统才具备跳出局部高地、发现更高山峰的可能。
所以，我对硅谷的权势过大而隐隐不安。我曾经对当地的一位朋友调侃：硅谷的家伙们，是一帮科技巨婴。你看看他们的鸡汤哲学，他们对未来那科幻式的迷恋。
商业和科技，都需要某些迷幻，需要某些执念。但是一旦AI拥有了上帝般的权力，我怀疑巨婴们“德不配位”。
41
红皇后博弈与系统缓冲期：
当所有参与者同时加速，留给纠错的时间窗口正在变窄
前文的许多讨论基于“单点对比”视角：如果一个组织的反馈周期是一天，而竞争对手是一年，前者将获得显著的复利优势。
但如果从博弈论视角来看，当行业内的所有主要参与者都接入了高速迭代闭环时，系统整体会发生什么变化？
进化生物学中的“红皇后效应”描述了这种状态：当环境中的所有物种都在加速进化时，你必须不断奔跑，才能维持相对位置不变。
金融市场中的高频交易（HFT）曾提供过一个现实案例：
早期将交易反馈周期从分钟级缩短到毫秒级的机构获得了显著超额收益；
但随后各家机构纷纷跟进，将反应时间推进到微秒乃至纳秒级。结果是，机构间的相对速度优势相互抵消，而整个市场却因为反应速度过快、缺乏缓冲阻尼，在 2010 年出现了著名的“闪电崩盘（Flash Crash）”——不同算法之间的自动反馈在几分钟内形成共振，导致市场剧烈波动，而人类交易员在当时甚至来不及看清发生了什么。
这也是当前 AI 研发竞争值得关注的结构性问题：当所有实验室都承受着缩短研发周期的竞争压力时，单方面放慢速度进行长周期验证会面临巨大的博弈压力。
迭代速度加快本身是技术进步的体现，但挑战在于：当技术系统的演进频率大幅提高，而人类社会识别风险、建立规范与介入调整的反应周期依然相对缓慢时，系统的安全缓冲期（Buffer）就会被压缩。
在提高闭环效率的同时，如何建立相匹配的监测与“熔断机制（Circuit Breaker）”，是未来技术治理无法回避的课题。
42
不必过早把“品味”视为人类最后的堡垒，
控制栈顶端的最终残留是“责任”
前文曾提到，当执行（Doing）的成本越来越低，选择（Choosing）的价值就会上升，因此研究品味（Research Taste）和方向判断将成为人类的核心价值所在。
作为未来几年的趋势判断，这具有很强的现实意义；但如果将其视为永久不变的结论，可能仍然有些过早。
回顾人工智能的发展史，人类曾多次将某项能力定义为“机器无法替代的专属领域”：从早期的国际象棋、围棋，到后来的代码编写、数学证明，再到如今的实验设计。
随着技术演进，许多过去被归结为“直觉”或“品味”的能力，在很大程度上被证明可以通过高维模式识别与先验知识的组合来逼近。因此，研究品味可能只是目前较难自动化的一层，而未必是原则上无法逾越的绝对边界。
那么，假如未来某一天，机器在方案选择与实验品味上也达到了极高水平，人类在控制栈（Control Stack）的最顶端，最终留下来的不可替代性是什么？
答案或许不在于某项具体的认知指标，而在于Responsibility——责任，也就是塔勒布所说的Skin in the Game（风险共担）。
机器可以计算出某个方案具有更高的成功概率，甚至提出更有启发性的研究路径；但当一项决策涉及企业的存续、病人的救治方案、公共政策的制定或社会伦理边界时，谁拥有做出决定的合法性（Legitimacy）？谁来签署最终的授权？当小概率的负面结果发生时，谁来承担法律、经济与道义上的实际后果？
算法可以计算风险，但无法承担责任。智能（Intelligence）可以借助工具不断放大，但权责（Accountability）无法外包给代码。
43
真正的 RSI 也许不会以“单机突变”的方式出现，
它更像一个分布式的技术自加速网络
人们在讨论 RSI 时，脑海中浮现的往往是一个戏剧性的场景：某一台模型在实验室里突然掌握了完全自主修改代码的能力，从 v1 自动升级到 v2、v3，在极短时间内独立完成跃迁。
但现实中的技术演进很少以这种单一节点突变的方式发生。更接近现实的图景，是一个分布式的、跨领域的协同加速过程：
模型协助工程师编写更大比例的训练与业务代码；
AI 工具参与优化下一代芯片的布局与数据中心的能耗调度；
制造出的新硬件反过来提升后续模型的训练效率；
技术进展带动更多资本与算力投入，进而支持更多研究团队与自动化 Agent 并行开展实验。
在这个网络中，没有任何一个单独的 Agent 完全垄断整个闭环，但由“模型—代码—芯片—算力基建—资本—研究人员”共同构成的生态，已经在整体上形成了相互促进的正反馈回路。
从这个视角来看，我们真正面对的或许不是某一台孤立的 Self-Improving AI，而是一个Self-Accelerating System（自我加速的技术体系）。
这也意味着，RSI 的演进可能不会有一个可以精确标注在日历上的“诞生时刻”，而是表现为一个渐进的过程：原本需要人工介入的环节被逐步简化，研发周期被一轮轮缩短，直到回头审视时，人们才发现正向循环已经成型。
因此，相比于争论“2027 年还是 2030 年会正式实现 Full RSI”，观察以下五个具体指标的变化趋势往往更有实际参考价值：
AI 在下一代模型研发流程中承担的工作比例是否持续上升？
单次实验获得的经验与能力，能否有效沉淀并传递到下一代系统？
人类目前在研发闭环中还负责哪些关键决策节点？
整体研发的加速倍数（如从 1.5✖️ 向 2✖️ 及以上演进）是否在持续提升？
系统是否已经开始优化自身的“研发与评估机制”，而不仅仅是在固定测试集上提高分数？
44
另一种值得认真对待的可能：
如果真正意义上的 AGI 根本无法实现呢？
既然我们已经对递归自我改进的边界进行了多角度的审视，不妨再进一步，探讨一个更基础的假设：
前文关于时间表的所有讨论，无论是倾向于“2027–2028”还是“2030 以后”，都默认了一个前提——通用人工智能（AGI）终究会实现，分歧只在于时间早晚。
但从严谨的科学哲学角度出发，我们同样需要保留另一种可能性：
如果真正意义上全知全能的 AGI，在底层原理上存在着无法逾越的理论边界呢？
这种怀疑并非源于对技术进步的忽视，而是基于数学、认识论与生物学领域的三条基本原理：
第一，优化理论中的“没有免费午餐定理（No Free Lunch Theorem）”与哥德尔不完备性。
人们常把 AGI 想象成一个在所有问题上都优于人类的通用系统。但数学家沃尔珀特（David Wolpert）证明的“没有免费午餐定理”指出：在所有可能的问题空间中，任何一个优化算法如果在某一类问题上表现出极高的效率，就必然以在其他类型问题上表现下降为代价——脱离具体环境约束的“全能最优算法”在数学上并不存在。
人类之所以觉得自己具备“通用智能”，很大程度上是因为大脑经过漫长进化，专门针对地球中观物理环境与社会协作进行了高度适配。同时，哥德尔不完备定理也表明，任何足够复杂的形式系统，都无法仅靠系统内部的递归推演来证明自身的完备性。
第二，认识论上的“波普尔—多伊奇分野”：算法搜索与创造性解释的区别。
科学哲学家卡尔·波普尔与物理学家戴维·多伊奇（《无穷的开始》作者）强调，人类科学进步的核心不在于从已有数据中归纳规律，也不在于在既定规则的搜索树中穷举最优解，而在于当既有框架失效时，提出全新的“解释性猜想（Explanatory Conjecture）”。
例如，从牛顿力学到广义相对论的跨越，并不是通过对牛顿公式进行高频迭代得出的，而是源于对“时空本质”这一基本前提的重新建构。如果“提出全新公理框架”的过程本质上不能被完全还原为既定分布内的算法优化，那么机器的递归迭代就只能在给定范式内逼近极限，而难以完全替代范式本身的创立。
第三，生命系统中的“内生目的性（Intentionality）”。
生物学家马图拉纳提出过“自创生（Autopoiesis）”概念：碳基生命的认知与意图，根植于生命体维持自身存续、对抗熵增的生存需求。因为存在生存压力与真实的得失代价，生命体才会有趋利避害的本能，并由此衍生出内在的“目的（Why）”。
相比之下，人工智能系统本质上是外部目标驱动的数学模型——断电不会引起它的恐惧，高分也不会带来它的愉悦。
它拥有强大的“工具理性（How）”，但并不具备内生的“目的理性（Why）”。
那么，思考“AGI 也许存在理论上限”，会削弱我们对递归自我改进的重视吗？
并不会，反而有助于我们建立更清醒的坐标。
即便包罗万象的绝对 AGI 只是一条不断逼近却无法完全抵达的渐近线，AI 依然可以在代码、数学、工程设计、材料分析等每一个规则清晰、可验证的领域，通过递归优化成为远超人类单兵能力的专用加速引擎。
正如历史上的蒸汽机没有变成马，计算机没有变成人脑，但它们都深刻地改变了人类文明的生产方式。
认识到机器能力的边界，能让我们从“等待或畏惧某个全能系统降临”的叙事中摆脱出来。如果机器始终是工具而非主体，那么如何定义问题、如何设定目标函数、如何在加速的同时守住安全与价值的边界，就始终是人类自身的工作。
45
终局启示：在认清边界之后，依然选择做一个持续更新的递归系统
现在，在清理了概念类比的边界、分析了高维能力的取舍、探讨了过拟合与局部最优的风险、也审视了机器智能与人类责任的分野之后，我们可以带着更平和、也更扎实的视角，回到文章最初提出的那个问题。
面对正在发生的 AI 技术演进，真正重要的或许不是去预测某个戏剧性的“奇点日”，而是观察我们自身所处的反馈结构：
在一个外部工具迭代速度不断加快的时代，一家组织、一个人的认知系统，是在保持有效更新，还是在逐渐固化？
许多人在面对复杂环境时，习惯于寻找一套一劳永逸的标准答案，希望依靠早期积累的存量经验一直运行下去。但在一个充满变化的真实世界里，静态的答案往往很难长期有效。
当我们既理解了反馈闭环的力量，又看清了它的局限与边界之后，一种更为成熟的进化姿态便浮现出来：
在内核层，守住自己的第一性原理、长期信誉与核心价值底线，尊重那些不可压缩的慢变量，不因短期的噪音而轻易摇摆；
在方法与工具层，则保持开放与诚实，把每一次实践都当作检验认知假设的实验，及时接收真实的误差信号，删减冗余的习惯与流程，并把单次探索的收获沉淀为下一轮出发的基础。
未来的长期竞争，不仅取决于今天拥有多少存量知识，更取决于谁能更客观地面对错误，更清晰地区分噪音与信号，更扎实地完成每一次认知的更新与积累，并在自己的位置上承担起决策的责任。
看清了递归的边界，依然选择做一个能够持续自我修正、自我更新的系统——这或许就是我们在智能加速时代最值得持有的理性态度。
本文来自微信公众号“孤独大脑”，作者：老喻，36氪经授权发布。
