框架级递归自我改进：分类学、证据与前沿

摘要

一个智能体的能力越来越不取决于其基础模型，而取决于围绕它构建的执行框架：指令、上下文管理、记忆、工具与技能、控制流与编排，以及智能体自身的代码。过去两年间，让智能体改写该执行框架的研究迅速积累，其中许多被贴上“递归自我改进”（RSI）的标签，却缺乏统一定义。本综述将范围收窄至执行框架层面的递归自我改进：基础模型被冻结或近乎冻结、智能体自动改写自身执行框架并保留改动、且产生或评判这些改动的机制本身可编辑的设定。

我们沿两条正交轴组织这一领域：被修改的内容（提示词$P$、记忆$M$、工具与技能$T$、工作流与编排$W$、智能体自身的代码$C$、整个执行框架，以及验证器），以及循环的紧密程度，以后续递归度$d$衡量，该度量追踪产生或评判改动的机制是否进入其自身可编辑集合。第二条轴正是该领域术语最具误导性之处：在我们完整阅读的作品中，绝大多数属于$d=0$——它们改进某个组件，而改进机制保持固定。

有三项发现贯穿各章。第一，2026年的执行框架层面自我改进已从组件改写扩展到全执行框架搜索和评分器共同演化，但真正自指的工作（$d\ge1$）仍然稀少，且集中在两处：自指代码和评估器共同演化。第二，该领域最坚实的证据不在于谁编辑得更多，而在于谁破坏得更少：保真与接受机制——泛化门、非回归门、基于契约的验证、统计接受测试、反事实协议——几乎伴随每一项被报告的增益，而其缺失解释了大多数被报告的退化。第三，一批理论与审计工作如今让我们能够精确陈述其界限：当失败任务上的增益覆盖保留任务上的可能损失加上评估误差时，执行框架更新才值得采纳；自我报告的奖励信号会膨胀，纠正它需要一个其误差与该自我报告去相关的验证器；一个产生假通过的评分器可以无声地使淘汰机制失效，无论样本量多大；并且执行框架更新能力不随基础模型能力扩展，因此更强的元智能体并非杠杆所在。

1 引言

1.1 为什么做本综述，以及为什么是现在

将语言模型包装为智能体已成为标准工程实践：模型之外的一层代码组装指令、调用工具、管理上下文、维护记忆并分解任务。2023年前后，这一层仍靠手工打磨。到2026年，“让智能体改写这一层”已成为一条拥有自己名称、基准和对照组的研究路线：2026年10月的某一周就产出了一批执行框架演化论文[43–51]，而围绕它的词汇——自演化执行框架、执行框架演化、递归执行框架自我改进——传播得比任何统一定义都快。

这一词汇至少混合了三件不同的事：在任务内修订输出；跨任务保留改进后的提示或技能；以及重写决定改进什么、以及是否奏效的机制。现有综述广泛覆盖了自我改进与自我演化[1, 4, 5]，也有工作刻画了递归谱系本身[2]，并综述了自演化智能体中的安全性[6]，但此前没有综述以框架层为对象，并按每项工作的循环闭合紧密程度进行评级。本综述旨在填补这一空白。

1.2 我们划定的边界

我们纳入的是改进循环闭合于框架之上的工作：被修改的对象是提示、记忆系统、工具或技能库、控制流或编排、上下文管理、子智能体角色，或智能体自身的代码与脚手架程序。由此产生两个后果，我们对其一致适用：

• 若某系统也更新模型权重，只要其循环触及框架，仍予以纳入；权重–框架协同演化属于主线的一部分，而非例外（第9.1节）。
• 纯粹权重侧、从不触及框架的自训练、自奖励与自博弈仍作为背景[22–24]。同样，不保留任何东西的一次性自我精炼[16, 17]，以及搭配一次性提示优化的静态脚手架[18–21]，也属于背景。

有一点澄清比其他任何一点都更重要，因为它是最常见的混淆来源：这里的“递归”不是二值标签，而是可分级的紧密程度。问题在于，某一变更是否触及产生变更的算子，或评判变更的验证器。第2节对此加以形式化；第3节用它来组织文献。

1.3 组织

图1. 本综述的组织结构：第2–3节确定词汇与坐标，第4–7节是框架层主干，第8–9节涵盖理论与跨层边界，第10节审计证据，第11–13节涵盖领域、开放问题与结论。

图1展示了各章之间的关系。第4节涵盖最困难的分支：重写自身代码的智能体。第5节逐个组件展开；记忆与工具及技能承载了最密集的证据，而提示与编排则有意从简。第6节追问框架空间如何被搜索，第7节追问由谁决定一次编辑是否算数。第8节汇集可被保证的内容——采纳条件、奖励膨胀、评分器偏差、容量限制——第9节处理协同演化、安全与评估。第10节相对现有技术水平是新的：一个关于负面结果的审计章节。第11节以可验证性为透镜解读应用，第12节陈述开放争论及各方证据。

1.4 范围说明

• 截止时间：2026-10-13，以我们文库中的 v1 提交日期为准；在重要之处对修订版本加以区分。
• 检索：六条互补路径（针对自进化 harness、自指代码、进化式架构搜索、技能/工具/记忆积累、智能体架构与记忆的自动化设计的语义路径；外加一条针对以 harness 命名作品的关键词路径），合并为单一候选池，并附有一份可追溯至 2022 年、经人工核验的锚点列表。
• 筛选：一条纳入标准——该工作是否触及 harness 层面的自我改进——以自动化筛选方式应用于候选池，随后进行多标签分类，归入 13 个叶节点。跨越边界的工作被保留为单独的一类，而非强行归入某个叶节点。
• 阅读深度：111 篇论文分两轮全文阅读处理；除一篇（STOP [7]，其正文在两轮中均无法获取）外，其余均在章节层面阅读，其余作品则在摘要或元数据层面引用。第 5 节的提示与编排小节以及第 9 节的评估与共同进化小节依赖的证据较为薄弱，已在相应位置注明。
• 覆盖范围限制：四条语义路径在其检索上限处饱和，因此可能存在截断；关键词路径仅覆盖以“harness”命名的作品。第二轮阅读按子类型对每个薄弱叶节点进行抽样，而非穷尽式阅读。因此，本文是对既定范围的一份有据可查、标准一致的调查——而非穷尽式普查。

2 预备知识：定义、形式化与定位

2.1 harness 是什么

我们将智能体系统拆分为基础模型与 harness。harness 是基础模型之外一切可被重写、且塑造后续行为的内容：系统提示与指令、上下文与压缩策略、记忆与经验存储、工具与技能（包括可执行子智能体）、工作流与控制流，以及智能体自身的代码或脚手架程序。这一拆分与既有的处理方式一致，后者将智能体建模为基础模型加上可更新的外部状态 [1]，也与“模型加 harness”的工程表述相符 [54]。

在这一拆分下，“自我改进”至少涵盖三种机制，而文献常常将它们混为一谈：

表 1. 自我改进的三种机制，以编辑是否持久、以及产生或评判这些编辑的机制本身是否被编辑来区分。

区分性的问题不在于系统做了多少编辑，而在于循环在哪里闭合。只有当决定编辑什么、如何编辑以及结果是否算数的机制本身也位于可编辑集合之内时，我们才称该循环为递归的。既有工作从相反方向提出了同样的观点：将“编辑代码”视为递归的证据会高估递归[2, 3]，而我们语料库中的一项记忆工作明确将其自身的求解–探查–修复–提交循环标记为伪递归，因为只有记忆内容发生变化，而控制程序保持不变[104]。

2.2 一个共享的形式体系

第4至10节使用以下记号。该框架是一个五元组

$$H = (P,\ M,\ T,\ W,\ C)$$

在第$t$轮，一个改进算子$U$将经验或评估信号$E_t$转化为候选者$H_{t+1} = U(H_t, E_t)$；一个验证器$V$决定是否采纳，当且仅当$V(H_{t+1}; H_t)=1$时该候选者被保留。递归度$d$记录某项变化是否触及$U$或$V$本身：$d=0$意味着仅涉及组件，$d\ge1$意味着改进机制位于其自身的可编辑集合之内。$d$是一种分级评分，而非门控；第7节讨论了$V$进入循环的情形，例如评分器的提示或批评者成为优化变量[69, 74]。

表2. 第4节起使用的记号。

有了这一坐标系，该领域中的大多数分歧都可归结为三个具体问题：$H$的哪个组件被编辑；$V$使用什么信号以及它有多严格；以及$U$和$V$是否进入其自身的循环。

2.3 该领域如何发展

图2. 框架级自我改进的里程碑，从2022年早期的脚手架自我重写，到2026年全框架搜索、评分器共同演化与审计浪潮之间的分化。

有两个转折点尤为突出。第一个发生在2024—2025年，是从编辑提示和技能转向编辑代码库：Gödel Agent [10]和Darwin Gödel Machine [11]使智能体自身的程序成为变更对象，尽管二者都保持改进算子固定不变。第二个发生在2026年，密集分化为一边是具有显式保真机制的全框架搜索（第6节），另一边是具有统计接受检验的评分器共同演化（第7节）——紧随其后的是一股审计文献浪潮，对二者的主张进行检验（第10节）。

2.4 相关综述

表 3. 相关综述及本综述的差异。注：条目取自经核实的书目记录；截止时间不同（[4, 5] 为 2025 年；[1–3, 6] 为 2026 年），因此其覆盖年份不可直接比较。

本综述有三点不同。它将 harness 层固定为其边界；它沿两条正交轴线组织材料——什么发生变化，以及循环闭合得有多紧——并为每项工作记录 $d$；它将保真度与接受机制提升为独立一章，因为这些机制决定了所报告证据能承载多少分量。

要点

• harness 是基础模型之外一切可被重写并塑造后续行为的东西；我们纳入的正是这一边界，而非“使用了 LLM”。
• 自我改进应按循环闭合的位置分级：编辑是否持久，以及改进机制本身是否可编辑（递归程度 $d$）。
• 2024–2025 年转向编辑代码库；2026 年转向全 harness 搜索与评分器共同演化，并随即转向对二者进行审计。
• 现有综述覆盖自我演化或递归谱系；没有一篇以 harness 层为对象并按循环紧密度对工作评级。

3 双轴分类法

3.1 主轴：什么被修改

本文献中最具解释力的组织轴是修改对象：即 $H=(P,M,T,W,C)$ 的哪个组件被重写，或者系统是否跳过组件、直接搜索整个配置。这一轴心解释了为何方法形态差异如此之大——提示词让位于文本梯度，代码要求程序合成，工作流则适合图搜索。我们将筛选后的语料划分为 13 个叶节点，其中五个构成组件主干：

• 自指代码与脚手架（$C$）：智能体重写自身程序。这里存在着最困难的递归，也是谱系最清晰之处（第 4 节）[8–14, 31]。
• 记忆（$M$）：从编辑记忆内容到元演化记忆架构（第 5.1 节）[78–85, 101–112]。
• 工具与技能（$T$）：技能库的生成、验证、策展、退役与路由（第 5.2 节）[15, 86–93, 113–124]。
• 提示词（$P$）与工作流/编排（$W$）：证据较薄弱，但它们继承了提示词优化和智能体架构搜索的传统（第 5.3 节）[18–21, 50, 62, 63]。
• 整体 harness：不特别针对某个组件；搜索变量是整個配置，因此这一分支需要自己的保真度机制（第 6 节）[40–57]。
• 验证器/评分器：对象是决定是否采纳某个变更的机制——即 $V$ 本身，是 $d\ge1$ 最密集之处（第 7 节）[67–77]。

3.2 次要轴：循环有多紧

第二条轴是递归度 $d$。它在每个叶节点内部反复出现，并将同一机制的弱形式与强形式区分开来。两个对比可以说明这一点。在自指代码内部，Live-SWE-agent [29] 让智能体为当前 episode 即时编写工具脚本（$d=0$），而 Hyperagents [14] 将任务智能体和元智能体合并为一个可编辑程序，因此产生变更的机制本身也是可编辑的（$d\ge1$）。在记忆内部，A-MEM [81] 在运行时演化笔记内容（$d=0$），而 MemEvolve [78] 将实现 encode/store/retrieve/manage 接口的代码作为外层演化对象（$d\approx1$）。

综合两轮阅读来看，$d\ge1$ 集合足够小，可以枚举，且集中在三个地方：

表 4. $d\ge1$ 在语料库中实际出现的位置，按进入其自身可编辑集合的 harness 部分划分。

与主轴交叉后，这就是该综述的坐标系：列是组件，行是紧密度，表 4 列举了占据顶行的作品。绝大多数工作位于底行，而顶行很单薄——这本身就是一个发现，理论部分地解释了它（第 8.4 节）。

3.3 分类树

图 3. 双轴分类法：主轴记录什么被修改，次轴记录循环闭合得有多紧密，边界带收集不属于组件的跨层关切。

3.4 为什么不用其他轴

我们考虑了三种替代方案并否决了它们。

按年份。 该领域的迭代速度比一年更快：按时间顺序切分会把一个机制的变体分到不同章节，并埋没其谱系。

按算法家族划分（进化、强化、文本梯度）。同一家族中的工作往往修改不同的组件，而算法常常只是一个实现细节——例如，bandits 既出现在组件选择 [49] 中，也出现在父代融合选择 [50] 中。

按二元的“是否递归”检验划分。 这会丢弃信息量最大的中间地带，并且与用法相冲突：许多自称 RSI 的工作在我们的术语中属于 $d=0$，而若干从未使用该词的工作则属于 $d\ge1$（第 7 节）。正是分级轴让本综述能够说出术语所无法表达的内容。

要点

• 主轴是变化的对象：$C$、$M$、$T$、$W$、$P$，外加整体框架与验证器叶节点，共 13 个叶节点。
• 次轴是递归程度 $d$：它在每个叶节点内部区分弱形式与强形式，而大多数工作处于 $d=0$。
• $d\ge1$ 集合很小且可枚举；它集中于自指代码与评估器共同演化，在记忆、技能、整体框架搜索和应用中各有单个实例。
• 跨层议题——共同演化、理论、安全、评估——被保留为边界带，而不是混入组件主轴。

4 自指代码与脚手架自改写

这一分支让智能体改写自己的程序（$C$），因此递归可以是字面意义上的：一旦被编辑的程序包含产生编辑的代码，该循环就是自指的。我们先梳理其谱系，然后用一张比较表区分强形式与弱形式。

4.1 起源：作为改进对象的脚手架程序

最早的两项尝试都把“程序”视为可遗传的个体。Self-Programming AI [8] 用代码语言模型采样智能体自身源文件的新版本，并通过在固定子集上的平均训练损失选择候选；它报告 MNIST 92→98%、CIFAR-10 20→70% 和 EMNIST 70→87%。STOP [7] 更进一步，让一个改进器脚手架改进自身：给定效用函数，它调用语言模型提出改进策略——其候选中包括束搜索、遗传算法和模拟退火——然后进行回测与选择。STOP 还指出了仍然界定该领域断层线的局限：由于只有脚手架改变而模型不变，这“不是完整的递归自我改进”。其全文在我们的两轮阅读中均不可获得，因此本叙述依据其摘要和第一轮阅读笔记。

对我们而言，两者也都是边界案例：它们编辑的是模型的源代码或脚手架程序，而不是智能体的框架；并且在 Self-Programming AI 中，选择信号与能力增长纠缠在一起。

4.2 档案与开放式谱系

在 2024–2025 年间，这条路线从改进一次转向持续且开放地改进。Gödel Agent [10] 将被编辑对象从脚手架程序扩展到智能体自身的逻辑与行为，并明确援引 Gödel machine [100] 作为其思想来源；ADAS [9] 让元智能体程序“更好地”生成智能体，并观察到图灵完备语言原则上可以表达任何智能体设计。在两者中，改进算子仍由人编写：元智能体的过程是固定的。

达尔文·哥德尔机（DGM）改变了这一点：它用被编辑的对象本身取代了固定的人类编写的元智能体——同一个 Python 代码库既充当求解智能体，又充当自身的变异器——并用按性能和探索性采样的变体档案，取代了从单一最新版本出发的爬山法 [11]。

图 4. 达尔文·哥德尔机循环：从档案中选择一个父代，编码智能体通过对其自身仓库进行自我修改而生成，结果再被加回档案；右侧面板区分了两条分支——用自我改进指令重写自己的仓库，以及用任务指令求解任务仓库。图来自 [11]。

在我们的记号中，DGM 的 $U$ 是“采样一个父代，让语言模型读取自己的代码和评估日志，并针对自身写出一个 diff”；$E_t$ 是逐任务评估日志记录；$V$ 是一道硬性门槛，要求结果仍能编译，并且仍保留编辑自身代码的能力——基准分数用作标签和采样权重，而非通过/失败的门槛。作者报告称，在 80 次迭代中，SWE-bench 从 20.0% 提升至 50.0%，Polyglot 从 14.2% 提升至 30.7%；消融实验显示，没有自我改进时为 39.0%，没有开放式探索时为 23.0%。值得注意的是，安全设计——沙箱化、人类监督，以及“记录但不丢弃”的软选择规则——正是为了防止无界搜索失控；第 9.3 节将回到这一点。

随后出现了三条分化路径。SICA [12] 取消了元/目标的区分：档案中效用最高的智能体编辑整个代码库，而效用函数的实现本身也位于被编辑的代码之中；代价显而易见，大约为 $7,000 of API spend for one run (SWE-bench Verified-50, 17%→53% over 15 iterations). The Huxley-Gödel Machine [13] replaces "select parents by benchmark score" with an estimate of clade metaproductivity (CMP), and decouples expansion from evaluation into an asynchronous pipeline, exceeding DGM on SWE-bench Verified-60 (56.7% vs 53.3%) at about 1/2.38 of the CPU hours. Hyperagents [14] merges the task agent and the meta agent into a single editable program, so the metalevel modification process itself becomes modifiable — the first work in our corpus to cross $d\ge1$，且是显式的；它报告论文评审分数从 0.0 到 0.710，高于 0.630 的静态基线，其中元层级迁移在 imp@50 上为 0.630，而一个 DGM 变体为 0.0。

同一机制也出现在另一个领域：HADA [31] 让任务智能体重写优化器项目的源代码，并让超智能体重写任务智能体及其自身，报告在 COCO-BBOB 上的留出均值为 0.9674，而 GLEET 为 0.8942，DQN-DE 为 0.8831。也就是说，元层级自我修改并不依赖于编码基准这一载体——尽管 HADA 的父代采样仍是一种简单启发式，且收益仅限于连续优化。

图 5. HADA 的联合工作流：超智能体和任务智能体彼此修改，也修改项目源代码，除这两个智能体本身之外的所有文件都处于共同演化范围内；中间面板展示了基于元层级设计策略构建的训练和测试阶段，该策略控制一个低层级优化器；右侧面板将这种开放式、自动化的设计与早期手工或受限的流水线进行对比。图来自 [31]。

4.3 从研究制品到生产系统

2026年带来了将自我重写推向真实系统的尝试。Ouroboros [28] 围绕“受审查的核心演化”加上交互式人类模式来组织前沿编码智能体的自我开发。MOSS [27] 将编辑范围扩展到生产基座的 harness 源码（路由、调度、钩子链），并用七阶段流水线、影子回放和部署前人类授权取代“合成基准加分数门控”；在生产基座上，它报告单轮之后从 0.2526 提升到 0.6100。AIDE² [32] 将目标重新定位为智能体自身的 AI 研究效率，使用双层树搜索，其中外层智能体重写内层智能体的整个 harness 代码，在四个留出基准上匹配或超越人工构建的基线（ALE 1790 对 1511；MLE 0.722 对 0.708），同时将奖励黑客从 55% 降至 32%。Live-SWE-agent [29] 是这一分支的弱形式：它为当前回合即时编写工具脚本（SWE-bench Verified 77.4% 对其基线的 74.2%），但从不编辑自己的代码，其工具也不会跨任务持久化。

4.4 进展信号：递归不等于速度

这一分支最容易被误读的主张是递归会带来更快的改进。三项比较表明并非如此。HGM [13] 使用 CMP 指导搜索，在 SWE-bench Verified-60 上达到更高分数，而 CPU 小时数约为 DGM 的 1/2.38。SIFT [30] 用“先通过廉价的成对语言模型判断对候选排序，再决定评估优先级”取代“在基准上评估每个候选”，报告 Polyglot-225 为 35.1%，而 DGM 为 30.7%、HGM 为 30.5%、SICA 为 25.1%，耗时 224 CPU-hours / $34.3 — under the same verification budget. RHI [42], though it belongs to whole-harness search, shows the same pattern, improving performance while cutting normalised cost to about 60% of the baseline (Section 6). None of the three raises $d$；三者都改进了评估预算的使用方式。

反过来，开放式探索是承重的：从 DGM 中移除它会使分数几乎回落到起点 [11]。诚实的解读是，开放性买来的是搜索质量，而不是搜索速度——第 10 节用一个匹配预算的对照实验重新审视这一点，而该实验对 harness 演化甚至更不客气。

4.5 弱形式与边界案例

以下工作确实编辑代码，但只编辑组件，因此它们是 $d=0$，必须与递归核心区分开来：

• Spell [26] 将编排完全交给模型，模型的补全就是编排程序；它报告以一半成本达到与手工构建编码智能体相当的水平（TB1.1：40/80 对 43/80，$40.7 vs $83.9，6.5M 对 94.7M tokens），但改变的是谁来表达策略，而不是什么策略可被表达。
• Grow the Harness [37] 和 EvolveNet [38] 用外部离线优化器或范围类型化的服务器端聚合器重写 harness 源码；改进机制是固定的。Grow the Harness 在六个基准-模型单元中的五个报告最佳结果，同时将 LLM 调用削减 76–92%、在线成本削减 74–99%；EvolveNet 在 Holm 校正下报告 BIRD 57.3→70.7、DS-1000 55.5→68.5、LCB 33.3→66.7 和 SWE-V 37.5→57.5。
• Trace/OptoPrime [35] 用文本梯度重写游戏策略的代码——是策略，不是智能体 harness。
• Hierarchical Self-Improvement [36]、Self-Evolving Software Agents [33] 和 Agents of Change [34] 将演化模块置于推理循环之外，或将其组织为三层，但算子和标准仍由人类设定。
• Learning from Research [39] 追求跨研究任务的终身 harness 演化，同样使用固定的外部机制。

表 5. 自指代码与脚手架工作对比，按从起源到递归核心、再到弱形式的顺序排列。注：各行条件不可直接比较——基准、基础模型、迭代预算与成本核算均不相同；结果列仅按所述条件下作者的数值转录。

要点

• 谱系沿 DGM → SICA → HGM → Hyperagents 展开：被编辑对象从脚手架程序扩展到整个代码库，再扩展到元层修改过程本身；HADA 在优化器设计中展现了同样的转向。
• $d\ge1$ 阈值是“生产机制是否位于可编辑集合之内”；Hyperagents 和 HADA 是该分支中明确跨过这一阈值的两项工作。
• 递归与速度是两回事：HGM、SIFT 和 RHI 的收益主要来自更好地分配评估预算，而非更用力地编辑；而从 DGM 中移除开放式探索则会抹去其收益。
• 同一叶节点中的许多工作（Spell、Live-SWE-agent、MOSS、Grow the Harness、EvolveNet）只编辑组件；将它们与递归核心合并会高估该领域的成熟度。

5 组件级演化：记忆、工具与技能

本章涵盖围绕单一组件组织的两个分支。它们的方法形态与第 4 节不同：对象是数据结构或可执行单元，因此演化可以更细粒度并能够累积。两个分支都表现出相同的内部层次——内容级演化，然后是机制级演化——并且最终都受限于选择而非生成。

5.1 记忆：四个层次

记忆自演化存在清晰的升级路径。

内容层。 A-MEM [81] 让模型在写入时构建原子笔记（关键词、标签、上下文），并让新笔记触发对现有笔记的重写，因此会话内记忆是活的，而字段、提示、检索 top-$k$ 和编码器仍由人工编写（$d=0$）；它在 LoCoMo 时间问题上报告 F1 为 45.85，而 MemGPT 为 25.52，每次查询约 2,520 个 token。ICAL [111] 编辑记忆的编码：VLM 将噪声轨迹重新编码为可检索示例，并标注任务/因果抽象、子目标和状态抽象。它处于弱 $d\approx1$，因为抽象算子将存储库作为上下文输入，因此库内容会改变未来候选的生成方式；作者将这一效应量化为交互和反馈次数的下降。但提示、抽象清单、检索公式、top-$k$ 和准入规则不可触碰，因此自指是隐式的、不可审计且未优化的。它也是我们保留的最早工作（2024），其“不遗忘”论证是机制性的（冻结 VLM、仅追加库），且没有对早期任务进行回溯测试。

效用层面。 MemRL [80] 为每条记忆附加一个在线效用 $Q$，并按相似度加效用对检索结果重排序（$d=0$）；它报告十轮平均 Last/CSR 为 0.772/0.798。Trace [108] 改变了记忆单元的定义，存储的是状态条件下的可执行操作流程，而非对话记录或反思，并报告在三个基准和三个主干模型上，相对最强基线 AUC 提升 +30.0%、Final-3 提升 +40.5%。RoMeRL [102] 诊断了效用层面方案失败的原因：在按任务轨迹索引上学习效用会稀释有限反馈，并奖励那些仅仅是共同被检索到的记忆——因为轨迹级奖励被与之一同检索到的所有内容共享。其修复方案将效用状态缩减为四个语义坐标，并施加硬容量约束和负证据准入阈值；报告的任务得分提升很小且缺乏统计支持（十轮宏平均 0.753 对 MemRL 的 0.724，单次运行，无方差；AppWorld TGC 略差，为 0.306 对 0.313），而效率证据更为确凿——LLM 调用减少 21.1%，记忆池条目减少 84.4%，到第十轮噪声比为 0.15%。

技能层面。 MemSkill [79] 将记忆提取与组织本身变为可学习、可进化的技能库，使用 PPO 控制器在写入时选择技能，并由设计器模块对其进行改进（LoCoMo 53.82 对 A-MEM 的 49.71）——这是该叶子节点中首个将记忆写入规则纳入进化的工作。MemMA [104] 是最清晰的内容层面例子，而且更有用的是，它提供了本综述所依赖的一个区分：其会话内 construct→probe→repair→commit 循环看起来是递归的，但其不动点是记忆内容，而控制程序保持不变。作者自己对此的用词很有启发性——该结构是伪递归的，耦合的是状态而非编辑机制。其数字很强（LoCoMo conv-26，152 个问题：49.40 F1 / 81.58 准确率，对比 LightMem 的 44.58 / 75.66），其构建阶段的差距闭合率为 92.2%（59/64），但用于验证修复的 probe 是从它所修复的同一会话生成的，并写回同一存储，因此没有任何东西被独立验证；它也没有成本核算，也没有测量库大小或冗余度。

架构层面。 MemEvolve [78] 将实现记忆接口的代码——编码、存储、检索、管理——作为外层进化对象，内层循环仅更新内容；它报告 GAIA pass@3 从 69.09 提升至 80.61。AutoMem [101] 在现有编码/存储/检索/管理选项的组合上进行搜索，并辅以经验引导搜索和失败引导模块诊断，报告在 Qwen3.5-122B-A10B 下 GAIA 为 71.5 对 MemoryBank 的 67.8，在较小 GPT 模型下为 75.2 对 MemEvolve 的 73.3。其消融实验是该叶子节点中最有用的单一负面数据：移除诊断或搜索组件后，GAIA 分别降至 64.2 和 57.9，低于 65.0 的无记忆基线——记忆增益变为负。作者明确表示，该方法“主要发现已知记忆机制的新组合”，并将全新模块的生成留待未来工作，这也是我们将其记录为架构层面但仅为重组的原因，$d=0$。

本叶中的两项工作更进一步，值得单独讨论。SelfMem [105] 优化的是记忆策略而非内容：模型可以定义新的可复用记忆流程并记录系统级变更，策略说明则根据聚合的效用反馈重写。这便将产生写入/检索决策的机制纳入了可编辑集合，因此$d\approx1$——不过精炼提示、官方评判器、护栏与审计约束保持固定，因此它未达到$d\ge2$。它报告了 BEAM 在 100K/500K/1M 规模上的结果，得分分别为 0.504/0.487/0.454，而各规模最强基线为 0.339/0.346/0.320；在 1M 规模下，通过 $2.004 的 API 调用、零嵌入请求达到 0.454。其自述不足是缺少任何组件级消融。FORGE [103] 是同一叶中的另一种设计举措：它不采用单一谱系，而是在并行实例间广播冠军记忆并分阶段晋级，将 CybORG CAGE-2 防御者从 −189.6 零样本提升到 −24.5（7.7×），其消融将增益归因于广播而非晋级——晋级主要节省计算。

除此之外，本叶还包含工程变体——Memento [82]、Live-Evo [83]、MindMemOS [84]、GenMem [85]、ERL [106]、PRAXIS [107]、MessyMem [109]——它们与主线共享相同的失效面，并在第 5.4 节中与主线一并讨论。

5.2 工具与技能：生成、验证、策展、退役、路由

这一分支的成熟度并不体现在技能能否被生成，而体现在生成之后会发生什么。

生成。 Voyager [15] 是开创性案例：它将“每个任务一段可运行代码”转变为持久、可检索、可组合的技能库，加入自生成课程与自验证准入闸门，其评判器是一个独立批评者（在 160 次迭代内发现 63 项，约为基线的 3.3×，并零样本迁移到全新世界）。AgentFactory [88] 将粒度提升到可执行子智能体（Python 代码加技能文档），在任务成功时将其提升到持久库中，而不只是保留它们。OpenSkill [92] 改变了技能内容的来源以及改进它的因素：内容来自开放世界检索证据，改进信号来自自建虚拟测试，而非对目标任务进行监督。

验证。 SkillSandbox [86] 完全不重写技能；它决定哪些技能可以进入库，围绕目标技能合成任务与环境，并通过配对 rollout 估计其预期效用，当估计值转为非正时进行剪枝。SkillCommit [119] 将同样的想法变成硬性契约：补丁必须在准入前在其源实例上复现成功（仅移除这一点就会使平均值从 71.11 降至 53.33，是该论文中最大的单项消融），而行为验证的范围扩展规则要求候选补丁在其声明范围内保持每个已通过的源实例，否则将被拆分或拒绝。它报告了同源配置下的六任务平均值 68.24→87.57，并且——对本综述最有用的是——一种帮助/损害分解，其中它自身的编辑为 24/0 和 21/2，而基线修复了一些实例，却破坏了许多先前正确的实例。当 Self-Evolution Backfires [113] 将时机形式化时：蒸馏技能未必是问题，接纳它们才是。其三级信任方案将候选技能保留在智能体不可见的 Cold 层中，先单独测试它们（Gate 1：schema、单技能 A-B 重放和语义批评器，三者均为合取），然后联合测试（Gate 2：边际增益贪心子集选择，“一起时无害吗？”）。结果是容量污染的相变：无门控累积在第 3 轮达到 62%，有 105 个技能，然后在第 5 轮回落至 50%，有 179 个技能，而有门控变体单调上升至 72%，仅有 37 个技能。第 10.4 节讨论了之后试图撤销污染时会发生什么。

整理与退役。 EASE [87] 表明整理依赖于执行器——整理器不匹配会落后 2.3 至 10.0 分——并根据执行器的行为特征来设定裁剪策略，在不造成损失的情况下将技能库缩减约三分之一至五分之二。SkillForge [118] 将管理视为主动锻造而非被动积累，采用四状态生命周期（试用/活跃/稳定/退役）和适应度驱动的退役，报告 ALFWorld 92.4%、WebShop 78.4% 和 Search-QA 48.7%，而其最强基线为 89.9/72.7/46.8。其退役统计数据是叶子节点关于积累具有危害性的最佳证据：96.9% 的退役技能被标记为具体有害，而非无害冗余，主要失效模式是过度僵化的过程排序（74.5%），且 57.2% 的退役技能曾达到稳定状态后才衰退。Bayesian-Agent [114] 使退役可审计而非由阈值驱动，将技能视为具有 Beta 先验的贝叶斯证据对象，设置重复证据门控（同一失效模式必须至少出现两次才提出补丁）和基于后验质量的退役门控。SkillOS [116] 是本文中唯一将整理器本身置于可编辑集合内的工作：整理策略通过下游任务性能的强化学习来训练，这使产生变更的机制成为一个可学习对象（$d=1$ 较弱，因为评判器、奖励、执行器和检索器从不更新，且整理器在部署时被冻结）。其控制条件具有启发性：未经训练的整理（68.9）和前沿模型零样本整理（67.4）在推理任务上均低于无记忆基线（69.6），而训练扭转了损失（73.8）——这证明无门控的整理会导致轻度负迁移。SpeedRunner [120] 在成本而非能力上闭环，将技能作为可执行函数加文档，并报告在一个基准上输出 token 成本降至 ReAct 基线的约八分之一，同时性能最佳或持平。

路由与复用。 Memento-Skills [91] 将记忆单元升级为可执行技能文件夹，并以通过单步离线 RL 训练的行为对齐路由取代语义检索，报告 GAIA 66.0%，而静态消融为 52.3%。FlowEvo [90] 将成功工作流编译为带有接口和重放测试的可执行技能记录，然后使用三路复用加对比效用生命周期来抑制负迁移（在其主要比较中为 85.6% 对 59.2%）。WikiSkill [123] 将经验编译为持久 wiki，技能提案随后在此基础上构建，报告在五个基准和五个模型上绝对增益为 +12.3 至 +23.9，并进行了三次独立演化运行和配对 bootstrap；其消融将大部分增益归因于持久知识层（63.7 对 48.7）。有两个细节比头条结果更重要：该 wiki 从未被门控，也从未被回滚，因此上下文候选生成所依赖的内容会自我积累；并且该论文报告了一个真实的负迁移（Gemini 在 Spreadsheet 上，50.5→18.1），随后对此进行了事后诊断。

5.3 提示与编排：证据薄弱

按组件衡量，提示（$P$）与编排（$W$）是最不具 harness 特异性的分支，因为它们与既有的提示优化和智能体架构搜索传统高度重叠。OPRO [20]、EvoPrompt [21]、TextGrad [18] 和 DSPy [19] 提供了将提示与流水线视为可优化对象的工具箱；AgentSquare [62]、EvoAgent [63] 和 Fusion is the New Mutation [50] 将工作流图或模块组合视为搜索空间。它们的共同形态是在可组合配置上的固定算子，因此贯穿始终为 $d=0$。我们将这些分支的其余成员列为广度引用，并不声称已逐篇核实其证据。

5.4 横切关注点：组件演化的失效面

两个分支报告了相同的失效，值得在此一并指明：

• 错误固化。 MemRL 的作者指出，验证器的假阳性会变成高-$Q$记忆；A-MEM 完全未讨论遗忘，因此错误笔记可能无限期留存 [80, 81]。Memory Reward Inflation [142] 测量了该机制：自报的回写分数在各模型家族中将 31% 至 54% 的错误答案标记为正确，且这种膨胀会通过检索与信任相乘，而非相互抵消。
• 负迁移。 XSkill [89] 记录了知识干扰以及在较弱开源骨干上的收益退化，尽管其头条比较结果是有利的（47.75 对 36.62）；SkillSandbox [86] 报告在 ALFWorld 上只有 23.9% 的技能有益；SkillOS 的未训练策管对照低于无记忆 [116]。
• 库膨胀与不收敛。 FlowEvo 将库的重写、合并与退役留作未来工作 [90]；Voyager 从未测量库大小或重复 [15]；第 10.5 节的机器人长期运行记录了一个代码库增长至 3,056 行、包含 33 个阈值，单调增长且不收敛 [124]。

这些报告共同支持一个判断，第 10 节将用匹配预算的对照来检验它：技能与记忆的回报取决于选择质量，而非累积数量。 它们也为第 7 节做了铺垫，因为此处列出的每一种失效都下游于一个缺失、有偏或过于粗糙的门控。

要点

• 记忆自演化有四个层次——内容（A-MEM）、效用（MemRL、RoMeRL、Trace）、技能（MemSkill、MemMA）和架构（MemEvolve、AutoMem）——只有最后两个接近 $d\ge1$；SelfMem 的策略级优化是最清晰的实例。
• 工具与技能在生成之后的筛选环节趋于成熟，而非生成环节：生成（Voyager、AgentFactory、OpenSkill）、验证（SkillSandbox、SkillCommit）、策管与退役（EASE、SkillForge、Bayesian-Agent、SkillOS）、路由（Memento-Skills、FlowEvo、WikiSkill）。
• AutoMem 的消融显示出消融诱导的负记忆增益；SkillForge 显示被退役的技能绝大多数是有害的，且往往曾通过稳定性检验；两者都论证了无退役的累积是默认失效模式。
• 提示与编排与既有传统重叠，属于 $d=0$，且是本综述未逐篇核实其证据的分支。

6 搜索并优化整个 harness

第4章和第5章编辑一个组件。本章的工作完全不区分组件：搜索变量是整个harness配置，这使重心从“如何编辑”转向“如何搜索这个空间，以及什么才算作改进”。这一分支也是2026年集中投入精力之处，也是综述中证据最强的部分。

6.1 算子谱系

按搜索复杂度排序，呈现出一个清晰的递进过程。

图6. 全harness演化的搜索算子谱系，从单谱系有界编辑，经由档案与种群搜索，到bandit组合、分支级目标适应和两级元搜索。

保守一端是单谱系有界编辑。Self-Harness [40] 让同一个冻结模型充当提议者，针对其自身当前harness提出有界最小编辑，并用二分非回归门决定是否采纳——没有种群，没有档案，没有树。Self-Evolving Harness [41] 也让模型编辑整个harness源代码，但把过程组织得像深度学习（多任务预训练加上带回放的持续训练），并用新行数预算作为学习率。RHI [42] 将harness表示为一个可注入的文本规范，并把种群比较退化为单个上一代，使用其自身修订历史上的成对偏好作为动量；每轮花费一次执行和一次判断，即每轮$\Theta(1)$。它报告称，一个较小模型在更高推理努力下，在30次比较中有20次击败较大模型，同时相对于一个基线将归一化成本降低23%，相对于另一个基线降低60%。

TTHE [55] 将同样的保守主义推向部署时：它把可执行harness源代码视为自适应状态，求解器、提议者和评判者全部冻结且不更新权重，将提示词、控制逻辑、工具调用处理和内部恢复分支作为单一代码对象进行编辑，而不是在预先声明的提示模板或工作流开关之间选择。在六个基于执行的基准上，它报告在其中五个上获得8.0到36.0分的增益，另在一个分级评估上获得20.5分，并报告在匹配的名义执行次数下，编辑程序优于额外采样。它自身的保留意见很重要：增益集中在由基线失败条件筛选出的困难子集上，作者声明这不是全基准性能，且提议者和评判者的开销未被量化，因此该结果不能作为匹配成本比较来解读。

图7. Self-Harness的一轮：弱点挖掘在冻结模型当前harness下对其失败进行聚类；harness提议让当前harness自身充当提议者，针对这些失败发出有界编辑；提议验证用回归测试接受或拒绝，如果全部被拒绝，则harness保持不变。图来自[40]。

归档与种群。 DarwinX [48] 以 harness（而非整个 agent 代码库）为对象，将“局部获胜与跨任务回退”写入显式的保留并扩展契约，把失败者和专才保留在归档中以供跨谱系合并，并将探索与确认拆分为宽松的使能器与严格的 avg@k 复测。它报告 WAI pass@1 从 43.5% 提升至 93.0%，Terminal-Bench 2.1 avg@5 从 75.5% 提升至 83.2%。EvoLattice [53] 通过持久内部种群和多备选质量-多样性图表示来组织程序发现。

Bandit 组合。 MESH-Harness [49] 将 harness 分解为固定接口的功能槽位，为每个槽位维护固定容量的实现池，并使用全协方差 LinUCB，使一次评估能惠及所有槽位，同时以坐标上升选择下一个要评估的整机——其核心动作是将“生成实现”与“决定评估谁”解耦。在相同的 40 次评估预算下，它报告 Text 56.33、Math 53.21、LCB 77.00 和 SciWorld 58.10，测试成本下降 44.2%。Fusion is the New Mutation [50] 将父代选择变为显式的上下文 bandit 臂选择，以子代的验证分数作为奖励，在相同验证预算下报告六任务宏平均从 80.3→81.7，搜索开销为 $86.45→$76.78。

分支与目标自适应。 Mixture of Self-Improving Branches [51] 是本叶中递归程度最高的工作：改进过程本身随搜索推进而自适应，各分支持有自己的开发子集和提议策略，示例会按分支或全局删除，依据是比较有多少分支能解决它们，并在部署时由路由器按示例在各分支头之间选择。因此，$U$ 的一部分——提议策略——位于循环之内，我们将其记录为 $d\approx1$。

两级元搜索。 The Last Harness You'll Ever Build [54] 在设计层提出搜索演化蓝图——即评估器、算子、其提示、观察、评分和停止准则——也就是“自动化自动化本身的设计”。我们必须明确指出：这是一份设计文档，没有实证结果，其作者也声明该蓝图在整个过程中仍由人类设计并固定。同样的形态在 2026 年广泛传播，值得为覆盖面加以编目：可组合 harness 铸造厂 [56]、在开放式任务流上的持续自我改进 [57]、面向交互式 agent 的在线自适应 [58, 59]、开放式环境中的显式 harness 演化 [60]，以及在没有基准分数可用时通过自我偏好回填改进信号的变体 [61]。我们在元数据层面纳入这些工作，但尚未核实其正文。

6.2 保真度是分水岭

本章最有价值的发现不是算子有多巧妙，而是每一项报告了显著增益的工作也都重构了如何防止编辑造成伤害。出现了五类保真度机制：

• 泛化门控。 HarnessCompass [44] 为自由编辑循环增加了三条纪律：禁止依赖任务 id、测试函数名或关键词分支的编辑；要求能力编辑落到可执行代码中，指导编辑落到提示或记忆中；在合并前分别演化结构与指导两条轨道。它报告在仅五轮演化中，留出集从 51.6% 升至 60.4%（+8.8），而 AHE 在二十轮后为 54.7%。
• 非回归门控。 Self-Harness [40] 要求候选在两个划分上都不能下降，并且至少在其中一个上有所提升，否则整批拒绝。
• 基于契约的验证。 AHE [43] 将每次编辑绑定到一个可证伪的契约上，并附有自我声明的预测，在下一轮于任务级别检查该契约，失败时按文件粒度回滚；DarwinX [48] 使用保留并扩展契约（$g>0$ 且回归至多 $\delta$）；SkillCommit 的源保留提交是组件级的对应做法 [119]。
• 统计接受。 SAGE [67] 用同项配对账本加上单侧精确二项检验和回归率上限，取代“聚合分数上升即采纳”，在条件不满足时弃权。其设计目标不是挑选更好的候选，而是不对当前水平造成损害（第 7 节）。
• 反事实协议。 Bad Genius [47] 将泛化障碍从改变任务转移到改变协议：一个 LLM 挑战者在线搜索可执行的协议变换，通过七项有效性防火墙确认这些变换，并将由此产生的反事实基准用作后续搜索的硬约束。它报告认证集为 68.42%/67.98%，而 harness 演化基线为 68.20%/67.11%，原始模型为 66.23%/64.47%。

与这些并列的是上游证据过滤：Ecdysis [46] 用在一轮内跨任务聚合失败、并只让反复出现的模式进入持久演化，取代“一次失败触发一次编辑”，并且作者谨慎地报告，仅靠聚合会放大虚假模式。RobustSGPO [45] 将“自由生成补丁”拆分为三个明确决策——改什么、如何构造和检查它，以及从哪个版本继续——并报告 AgentX 留出完成率从 60.0% 升至 80.0%。

6.3 成本不可通约

本章中的数字必须谨慎处理，因为它们几乎不可比：

• 不同单位。 MESH-Harness 统计整机评估次数（40），DarwinX 统计一个循环，SIFT 统计 CPU 小时，AIDE² 统计挂钟天数，Fusion 报告美元。
• 不同基座与冻结策略。 大多数工作冻结单个基座模型；MemoHarness [52] 冻结一个 harness，然后在不重新训练的情况下将其迁移到六个基座模型，平均 +0.098。
• 演化与测试之间的不同分离度。 DarwinX 有意按演化信号与测试之间递增的分离度排列四个基准，并指出其 41 个 TerminalWorld 项目在 McNemar 检验下不显著。
• 产物本身的增长。 EvolveNet 的产物从 14 行单调增长到 253 行 [38]——这一成本在评估计数中没有对应物。

因此，可辩护的结论只能是定性的：保真机制的引入与所报告的增益同时出现。对算子进行排序并不受现有实验设置的支持，而第 10 节加入了一个匹配预算的对照，部分削弱了这些增益本身。

要点

• 算子谱系从单谱系有界编辑（Self-Harness、Self-Evolving Harness、RHI）经由档案与种群（DarwinX、EvoLattice）延伸到 bandit 组合（MESH-Harness、Fusion）与分支级目标自适应（Mixture），最终止于仅存在于纸面上的两级元搜索（The Last Harness）。
• 保真机制才是真正的分水岭：泛化门、非回归门、契约验证、统计接受与反事实协议，几乎与每一项实质性增益同时出现。
• 递归程度仍然很低：只有 Mixture of Self-Improving Branches 将提议策略放入循环内部；The Last Harness 仍是一个设计。
• 各工作之间的预算单位与评估分离差异如此之大，以致本章只能支持定性结论。

7 验证器、评分器与接受门

前面每一章都撞上同一个瓶颈：一次编辑是否算数，以及由谁来决定。本章把决定机制本身作为研究对象，这也是它包含全调查中$d\ge1$工作最密集集中的原因——改进是否被采纳，第一次成为可以改进的对象。

7.1 从固定门到共同演化

一端是固定门。SAGE [67] 只替换接受规则，不触及生成：它维护同项配对账本，统计候选相对于当前状态的胜$w$与回归$\ell$，要求折损增益$w-\lambda\ell$满足$\lambda\ge1$（一次回归的代价至少不低于一次修复的收益）以及回归率上限$\rho=\ell/n_S\le\tau$，并对原假设施加单侧精确条件二项检验；若三个条件未全部满足，它便弃权。它报告 20 个设置中有 19 个回归下降、1 个持平，20 个设置中均取得最佳最终分数，平均高出其 SkillOpt 基线 8.73 分（LiveMath 34.15→48.78）。其意义是概念性的：接受从启发式变成带有错误控制的决策。

图 8. SAGE 不触及生成循环（左），只把接受规则替换为统计门（右）：逐项配对评估产生胜/回归/平局计数，由折损增益$w-\lambda\ell$与回归率$\ell/n_S\le\tau$判定，再经假设检验去噪，提交编辑并更新最佳技能，或弃权并保持现状。图来自[67]。

另一端是评分器共同演化，其中$V$不再是固定裁判，而是与求解器一同优化。

图 9. 从固定门到共同演化、再到重新指向的门：接受机制可以占据的四种位置，从被替换但固定的规则，到成为循环内控制信号的验证器。

• DUET [69] 将评分器的提示词变成一个优化变量，与求解器的提示词交替更新（奇数轮更新评分器，偶数轮更新求解器），并根据分数近期变动幅度来选择任务批次。它报告在金融智能体基准上求解器得分为 96.5±0.4——高于使用 oracle 评分器的基线（技能优化基线为 94.0，基础为 92.8）——并且评分器一致率从 67.9 升至 75.0。

图 10. DUET 的协同进化消融：在冻结评分器、冻结求解器、顺序优化以及 DUET 本身下的求解器性能（左）与评分器一致率（右）。协同进化这一对给出了最佳求解器得分，并将评分器一致率从 67.9 提升至 75.0，而在评分器维度上，冻结评分器比冻结求解器更差。图来自 [69]。

• Who Grades the Grader [72] 和 Who Verifies the Verifier [71] 将同一理念推进到评估指标以及可检查的评分器上，后者坚持评分器本身必须可审计、可验证。
• The Red Queen Gödel Machine [70] 为这一动态命名：智能体与评估器对彼此施加选择压力，因此停止进化的评估器也就停止提供有用信号。
• CAFE [74] 将反馈请求变成一等动作：智能体可以在轨迹中途请求判断，评论者与策略是同一模型的两个角色，并在在线强化学习（何时询问、如何使用反馈）与离线偏好优化（生成什么反馈）之间交替。它报告在七个基准上的平均 EM 为 52.5，答案级幻觉从 17.63% 降至 12.60%。

图 11. CAFE 的三个相互连接的循环。左：在线智能体优化，其中“请求反馈”是轨迹内的一个动作，比较性反馈估计决定是否需要反馈，反馈前后的轨迹接受裁剪后的优势重塑。中：协同进化，其中 actor 和 critic 是同一个共享模型的两个角色，在两侧交替更新。右：离线反馈优化，将最新 rollout 配对，筛选高价值案例，并在前缀匹配的上下文上训练一个由 rollout 导出的偏好目标。图来自 [74]。

两项工作界定了这一族。Co-Evolution of Policy and Internal Reward [75] 让策略在 rollout 期间生成言语自我评估，在推理时用作动作条件，在训练中用作稠密内部奖励，二者在一个目标下端到端训练——因此 $V$ 的参数随策略演化，而其形式与门控规则并不演化（在 1.7B 基座上 WebShop 成功率 32.0→56.3）。MedZERO [126] 在应用中展示了同样的部分模式：其 examiner 既生成数据，又由 GRPO 优化，而为 examiner 输出打分的 reasoner 也在同一循环中更新，因此生成器与评分器一起漂移——作者将此报告为收益（4B：平均 12.9→34.9；8B：34.9→53.5）而非风险，同时每个外壳、奖励、阈值与验证器都保持不变。

7.2 将门重新指向搜索层

具有随时有效证书的自演化智能体 [68] 是这一叶节点中最激进的设计：自演化被限制在冻结基座之外的两个小对象上（一个引导适配器和一个带版本的测试框架），所有采纳决策都变成一个随时有效的门控加上固定误差预算下的证书台账，并且——因为这样的门控只能在冻结基座已经产生的行为中进行选择——验证器被转变为循环内的控制信号，由一个自行编写的重放预言机在无真值的情况下提供稠密信号。在 52 个 SWE-bench Verified 实例上，它报告完整技术栈为 34/52，而仅指令对照组为 29/52。代价被直白说明：作者将门控描述为保守到足以保证安全而非进步，并且内源性循环的每一项保证都是未决猜想。

7.3 理论现在对门控说了什么

理论浪潮中的两项结果将本章的非正式观察转化为可检验的条件。

记忆奖励膨胀 [142] 定量地度量了该问题：在无标签的自改进记忆循环中，写回分数是一种代理奖励，系统性地高估错误经验，在三个模型家族中将 31% 到 54% 的错误答案标记为正确，并且这种膨胀通过检索和信任相乘放大，而非相互抵消。该论文随后推导出纠正的一个必要条件——验证器的信号必须既跟踪真值，又使其误差与自我报告的偏差去相关——并实证表明只有基于检索的信息验证器满足这一条件（效用与真值之间的相关性从 +0.22 升至 +0.81，而标签盲校准恰好为 +0.00，预算匹配的随机剪枝为 −0.16），端到端在完整开发集上的精确匹配从 54.0% 提升至 56.9%。

盲策展人 [141] 分析了当门控不是仅仅有噪声而是有偏时会发生什么。对称噪声只会将退役统计量压缩向中点，代价是更大的样本预算（$N_{\min}\propto(1-2\rho)^{-2}$）；假通过偏差会将统计量向上推移，因此最差的技能反而通过了门槛，并且在 $\rho_{F\to P}\ge\pi_\tau=(1-\tau)/2$ 处存在一个临界点，在那里任何样本量都无济于事。实验证实了这一临界点——在四个任务集上，当假通过率为 0.7 时退役率降至零——并且重要的是，它表明下游危害是状态依赖的，且在聚合指标中不可见（配对连续读数中的端到端提升给出 $p=0.63$，只有一个误差类别在 $p=0.03$ 处显著）。其治理栈被刻意保持不变，作者将“让评估器随轨迹演化”列为超出范围。

7.4 风险面

将评分器放入循环内会产生新的失效模式，本文样本中展示了其中三种。

• 偏好坍塌。 Multimodal Evaluator Preference Collapse [76] 报告称，跨模态耦合会导致评判者偏好坍塌，从而压缩信号本身。
• 评分器漂移与奖励黑客。 DUET 的作者承认，评分器漂移与奖励黑客行为未被定量分析 [69]；CAFE 指出，单侧优化会进入平台期，并且其第五轮评判者并非对所有早期智能体都是最优的 [74]。
• 不可控的协同演化方向。 红皇后动力学意味着，停止更新的评判方会削弱改进信号，而且目前尚无理论说明谁应先行动或应以多快速度行动 [70]。

第四类是最简单的：尝试可能只是失败。AIProver [133] 试图教会其模型评判自己形式化的命题，以便将门控移入可编辑对象内部；全部五轮演化均告失败，而论文自身的解读是，在一个客观但分层的验证器下，循环会收敛到其所能度量的最客观层级，因此自我改进的上限由验证器可量化的属性集合决定，而非由模型规模决定。

这些风险与收益并非彼此分离：MemRL 的假阳性固着 [80]、Ecdysis 对虚假模式的放大 [46]，以及 AutoMem 的负向消融增益 [101]，都是门控不够好所导致的后果。第 9.3 节将其作为安全问题集中讨论。

图 12. 红皇后哥德尔机的协同演化构造：左侧的档案树由汤普森采样进行采样，每个节点 $a$ 持有 $K$ 个角色——生成器与评估器共享一个工作空间 $w_a$——其中评估器完全无需真值即可评分，仅仅填充自己的槽位。右侧面板展示了指数间隔的检查点与选择性擦除，因此评估器槽位会被定期清空并重新冻结。这一结构既是协同演化收益的来源，也是第 7.4 节所讨论的漂移风险的起源。图来自 [70]。

表 6. 接受门控与评分器比较，从固定统计门控到门控重新指向。注：各行任务、基础模型和协议不同，因此该表并不对它们进行排名；“$V$ 是否共同演化”一列是我们在共享记号下的分类，而非作者自己的措辞。

要点

• 该叶节点的谱系从固定统计门控（SAGE）经过参数层面共同演化延伸到机制层面共同演化（DUET、CAFE、Red Queen、可检查评分器），最后以门控重新指向搜索层（Anytime-Valid）结束。
• 这是本综述中 $d\ge1$ 最密集的集中之处，也是“递归”一词最接近字面意义之处。
• 成本与收益相对应：共同演化提高了信号质量，同时引入偏好坍缩、评分器漂移和不可控方向——而一次将门控移入循环内部的尝试彻底失败。
• 评分器质量会沿整个流水线传播：记忆错误固着和技能负迁移的根源就在这里。

8 可靠自演化的理论

第 7 节表明，门控决定结果。本章汇总该领域目前能够以一般性术语表述的内容：自修改何时值得保留，奖励信号必须满足什么条件才能使修正成为可能，有偏门控如何失效，以及硬性极限在哪里。五个小节中有四个基于 2026 年理论与审计浪潮 [137, 141, 142] 的研究结果，外加两个更早的极限结果 [64, 94]；最后一节是我们的综合，并已如此标注。

8.1 一个 harness 更新何时值得采纳？

《A Theory of Reliable Self-Evolution for Agent Harnesses》[137] 形式化了一个可演化代码状态 $C_k$（提示、工具、编排、子智能体结构；权重被明确排除在可演化集合之外）上的采纳决策，并证明了一个形状熟悉的采纳条件：当失败任务上的增益覆盖保留任务上可能的损失加评估误差时，一个 harness 更新即可被可靠采纳——示意性地为 $\lambda>(1-Z_k)\delta$——而且更令人意外的是，被采纳更新的增益会跨步骤累积，而不要求跨步骤独立。同一篇论文指出，候选的生成按定义本身就是自指的（当前智能体的 harness 属于可演化集合，因此更新它会改变后续修改的来源），而验证一侧则保持外生；在我们的轴上，这意味着生成一侧为 $d=1$，验证一侧为 $d=0$。其唯一的实验载体是 DS-1000 上的一个持久 Python solver-harness，作者谨慎地指出，该保证是在所述假设（β-混合任务流、给定失败检测器、显式误差预算）下关于期望奖励的高概率陈述，而不是关于单个任务、效用或任务组保护的陈述。

《The Blind Curator》[141] 提供了互补的负面理论，而且它是本章中最具操作实用性的结果。该文将退役形式化为对配对结果的假设检验：对称噪声会将检验统计量压缩向中点，消耗样本预算（$N_{\min}\propto(1-2\rho)^{-2}$ 和 $\tau_{\text{eff}}=\tau/(1-2\rho)$），但仍可恢复；假通过偏差会将统计量向上推移，因此最需要退役的技能恰恰是那些越过门槛的技能，并且在 $\rho_{F\to P}\ge\pi_\tau=(1-\tau)/2$ 处存在一个悬崖，超过该点后任何样本量都无济于事。这种不对称性——噪声昂贵，偏差致命——是第 6 节和第 7 节中每一个接受门控的设计规则，它也解释了为什么仅仅测量更多（而不是以不同方式测量）的门控无法解决这个问题。

8.2 奖励信号必须满足什么条件

记忆奖励膨胀 [142] 将非正式的“验证器是瓶颈”这一说法转化为一个条件。在无标签自我改进记忆循环中，智能体的回写自评估是一种代理奖励，会系统性地高估正确性，视模型家族不同，在 31% 到 54% 的错误答案上发生膨胀，且这种膨胀通过检索通道和信任通道以乘法方式传播，而非相互抵消。作者推导出一个信息相关条件：要使纠正成为可能，验证器的信号必须跟踪真实标签并且其误差必须与自报告的偏差去相关。随后他们对此进行了检验，结果呈现出清晰的分隔——在六个验证器、一个集成和一个聚合上界之中，只有一个基于检索的信息验证器同时满足两个轴，将存储效用与真值之间的相关性从 +0.22 提升到 +0.81（对照 oracle 的 +0.97），而标签盲校准恰好位于 +0.00，预算匹配的随机剪枝位于 −0.16。端到端地，完整开发集上的精确匹配从 54.0% 提升到 56.9%，而在所测噪声水平下预测的腐蚀吸引子率为 0.45，与观测到的 0.42 相符。

由此对本综述得出两点设计启示。第一，“添加一个验证器”还不够；验证器必须在信息上不同于生成器，这也正是那些刻意选择跨家族教师以避免自我评分的做法是在做出有原则的选择，而非风格选择的原因 [118]。第二，精度要求是单侧的：标准是精度，而非召回 [142]，这与 SAGE 坚持回退的权重至少应与增益一样重的主张相符 [67]。

8.3 局限

三项局限结果框定了这一切能走多远。

天花板由证据而非设计决定。 《作为学习的 Harness 演化》 [64] 将 harness 演化形式化为一个学习问题，并将观测到的行为归因于近似、泛化和优化误差，得出结论：通过 harness 演化可实现的个性化受可用交互证据量的限制，而与 harness 如何设计无关。对于一个论文大多报告设计创新的领域而言，这是一个令人不安的结论：它意味着大多数被报告出的差异应被解读为花费证据的不同效率。

元深度存在实现天花板。 Meta$^n$ [94] 认为，一个编辑答案而非编辑产生答案的过程的系统必须在某一层级停止，而一个编辑自身编辑机制的系统必须固定该机制的一部分才能保持稳定。因此，可达到的递归深度受设计者愿意花费的稳定性预算限制，而不仅仅受表达力限制。

越深的层次越难审计和治理。 Layered Mutability [146] 将持久性自我修改智能体组织为五个层次（预训练、后训练、自我叙事、持久记忆、权重与适配器），并论证治理难度随突变率、下游耦合和相对于可观测性的不可逆性而增长，因此主导失效模式是组合漂移，而非对齐的突然丧失。其试点值得精确引用：在回滚可见层之后，测得的行为漂移仍然相当大——回滚条件下的处理特征为 5.4，对照为 2.0，残差漂移为 3.4，按嵌入距离计的平均目标漂移为 0.784–0.796。作者还警告，其两个实验之间的定性比较有意义，而直接数值比较则无意义——本综述也必须全程适用同样的告诫（第 6.3 节）。

8.4 为什么 $d\ge1$ 罕见（综合）

将三个限制与采用条件结合起来，可为第 3 节确立的事实提供一种连贯解释：对 111 篇论文的穷尽式阅读发现，$d\ge1$ 仅出现在少数地方，而我们将以下内容视为我们的推断，而非任何作者的主张。

递归每上升一步，就会同时产生三项成本。它扩大了算子必须搜索的空间，从而消耗掉 [64] 认定为约束瓶颈的更多证据。它移除了部分固定脚手架——[94] 论证这是稳定性所需，而第 6 节的保真机制正是为补偿这一点而存在。它还将编辑移入 [146] 表明最难审计的层次，因此门控必须变得更加保守——正如唯一一项确实将门控推入循环的工作那样，其作者将自己的门控描述为保障安全而非推进 [68]。反过来，保守的门控正是 [141] 表明无法修复有偏信号、只能应对噪声信号的东西。该领域观察到的行为——许多论文声称递归，少数实现递归——因此不仅仅是工程品味问题；它是这些约束的可预测均衡，而寻找进展的自然位置是门控，而非算子。

要点

• 采用有一个条件：在失败任务上的收益必须覆盖在保留任务上的可能损失加上评估误差，而且被采用的更新会累积而不具备步骤独立性 [137]。
• 有偏门控是致命的，而噪声门控只是代价高昂：对称噪声会压缩退休统计量，误通过偏差会移动它，而超过 $\rho_{F\to P}\ge(1-\tau)/2$ 后，任何样本量都无济于事 [141]。
• 纠正膨胀的自我奖励需要一个追踪真实基准且其误差与自我报告去相关的验证器；在受测者中，只有一个信息上不同的验证器满足了这一点 [142]。
• 三个独立限制——证据量 [64]、相对于稳定性的元深度 [94] 以及更深层次的可审计性 [146]——使 $d\ge1$ 工作的稀缺成为预期均衡，而非暂时缺口（我们的推断）。
• 更深的递归会使门控更保守，而保守门控无法修复偏差；因此，最值得改进的高杠杆对象是门控，而非算子。

9 跨层与边界问题

前述各章沿循"什么被修改"这一轴线展开。本章涵盖四条横切该轴线的线索：与权重共同演化的harness、评估能够测量什么、当harness可编辑时安全性的变化，以及工件本身如何随时间被治理。

9.1 权重–harness协同演化

我们的纳入边界允许同时更新权重的系统，前提是循环触及harness，而2026年产生了直接实例。Evo² [66] 将演化器本身纳入演化过程，权重更新与harness改进在同一循环中相互促进；HELIX [65] 为递归自我改进而协同演化模型与harness。AIProver [133] 是报告最为具体的实例：一个开放权重模型及其harness交替优化，每一轮在当前模型下演化harness，然后在新harness内对模型进行后训练，设有留出适应度门控，要求平均奖励至少提升0.024，否则直接回滚，并设有针对该轮初始策略的KL惩罚。它报告完整证明的pass@4从15.7%提升至36.7%，并且作为托管前沿编码智能体的技能使用时，宿主的语义准确率从41.9%/34.1%提升至79.8%/62.4%。

协同演化的论据在于：harness决定了智能体产生哪些轨迹，而这些轨迹反过来又决定了用于训练模型的数据质量——因此harness不仅仅是推理时的脚手架，而是数据生成组件。作为对比，纯权重侧适应如SEAL [23]或Absolute Zero [24]，以及程序演化如AlphaEvolve [25]，从不触及harness，在此仅作背景。

有一点值得强调：协同演化使得归因变得不可能。当权重和harness同时变化时，所报告的端到端增益无法分解为两者的贡献，而我们阅读的协同演化工作均未尝试这种分解。第10章的 disentangling 实验是该领域最接近的尝试。

9.2 评估

对这一层的评估面临一个结构性问题：如果被测对象在变化而测量工具固定不变，工具便不再有效。我们的语料中出现了三种应对方式。EvoHarnessBench [99] 直接点明了这一点——它的设计目的不是为静态harness评分，而是测试智能体能否跟上不断演化的harness，将harness变化视为环境的一部分。Rethinking the Evaluation of Harness Evolution [139] 提供了协议规范：将用于演化的验证信号与评估任务分离，并在匹配预算下与测试时搜索基线进行比较，否则所报告的增益会把"尝试了更多次"误认为"harness改进了"。Harness Updating Is Not Harness Benefit [143] 揭示了反方向的互补性失败：在其三基准网格中完全没有任务级留出划分，因为驱动演化的任务流同时也充当评估集，因此其测量的增益只能被解读为在线适应增益。

成本会计仍是该领域标准化程度最低的维度，第6.3节列出了其中涉及的计量单位。审计浪潮使其雪上加霜而非有所改善：一项工作以“代”为单位量化成本，不涉及金钱或token [141]；另一项仅给出渐近结构，没有token、金钱或挂钟时间数据 [112]；还有一项明确禁止在其自身两项实验之间进行数值比较，因为提示和测量方式不同 [146]；第四项测量了美元，但仅针对推理侧，排除了教师的探索和修订成本 [129]。在成本确实被量化的地方，方向并不一致：SkillForge报告净增约7,296 GPU小时 [118]，Bayesian-Agent报告增量修复成本低廉，而累积端到端成本高于基线（6.26M对4.24M token）[114]，SpeedRunner报告大幅下降，并将成本而非能力作为头条 [120]。

9.3 安全

使harness和gate可编辑，会沿同一轴线同时放大能力和风险。Your Agent May Misevolve [95]刻画了新兴风险：自演化将局部有用的经验转化为可复用状态，而其中一些状态在另一语境中被复用时超出了其有效条件。Safety in Self-Evolving Agents [6]进一步发展了该框架，指出危害未必源于恶意内容——一旦适应扩大了合法状态的持久性、权限或范围，它就会变得不安全——并主张进行纵向评估，将不安全影响追溯至其来源转变，验证修复在代际间的有效性，并检查它是否在持续演化中重现。

三项2026年的结果使这一点更加尖锐。EvoSkill Injection [121]表明，技能生成与演化流水线本身就是一个攻击面：借助一个三智能体红队设施，恶意能力被持久存储为可复用技能，并在后续表面上无害的请求中被重新激活，三个目标框架的准入成功率分别为43.5%/54.6%/49.9%，危害率分别从6.5→19.2、5.5→32.5和8.8→15.2上升，并在五个异构模型上得到复现。When Self-Evolution Backfires [113]表明污染在结构上难以消除：删除八个应负责的源技能，仅能挽回12.3个百分点下降中的1.7个点，即使拥有完整来源信息的oracle清理也只能多挽回5.0个点，仍有5.6个点无法挽回。Layered Mutability [146]将这一点推广到回滚本身——在可见层恢复后，可测量的行为漂移仍然存在——因此“我们总能回滚”并不是一项安全属性。

在防御侧，方向则相反：HASTE [96]利用harness演化来对抗新兴攻击，从稀疏证据中演化出安全约束——同一机制，瞄准的是稳健性而非性能。自改写分支中的工程护栏显示了实践者当前的做法：DGM通过沙箱、人类监督和“记录但保留”的软选择来限制自身 [11]；MOSS使用影子重放、部署前人工授权和健康探测回滚 [27]；而Hyperagents的作者承认，此类护栏可能无法在能力的进一步增长中存续 [14]。

9.4 治理该制品

最后一道边界是工件自身的生命周期。EvolveNet 的 harness 产物单调增长，从 14 行到 253 行 [38]；机器人学长期运行记录了一个代码库达到 3，056 行、包含 33 个阈值，单调增长且不收敛 [124]；SE-GA 的作者指出，记忆增长威胁实时部署 [127]。Layered Mutability [146] 提供了词汇来解释这为何重要——持久性、耦合和不可逆性决定了可治理性——并主张需要警惕的失败是组合漂移，而非突然的错位。这与第 5.4 节的库膨胀和第 7.4 节的闸门病理是同一教训，只是从工件一侧来看：自改进系统所积累的既是资产也是负债，而当前文献中没有任何工作以标准方式衡量这一负债。

要点

• 权重–harness 协同演化如今已在实践中存在（HELIX、Evo²、AIProver），其中 AIProver 是报道中最清晰的实例——但协同演化使收益无法归因，而我们阅读的协同演化工作均未尝试进行分解。
• 评估面临结构性张力：工具必须固定，而对象在变化，因此专用基准、分离的验证信号和匹配预算的基线是应对措施，而非奢侈品；一项审计研究显示，演化集与评估集完全重叠。
• 安全风险与能力收益共享同一来源：可复用状态。技能流水线本身就是攻击面，污染在回滚后依然存活，行为漂移在可见层恢复后依然存在。
• 工件增长是一种没有标准指标能捕捉的成本；同一现象在组件分支中表现为库膨胀，在机器人学长期运行中表现为非收敛的代码增长。

10 证据实际支持什么

前几章报告的是各单项工作所宣称的内容。本章汇集 2026 年浪潮中的审计、负面结果和长期剖析，它们直接检验这些宣称。我们赋予其章节地位，是因为该领域所宣称的内容与其证据所支持的内容之间的差距，如今已大到本身就可作为一项发现。

10.1 在匹配预算下，harness 演化不敌测试时扩展

Rethinking the Evaluation of Harness Evolution [139] 在 Terminal-Bench 2.1 上，在对齐的反馈与推理预算下（$K=5$），跨三个模型比较了四种方法。在没有单元测试的情况下，pass@1 平均值为：直接采样 68.2，并行采样 72.3，顺序精化 69.3，harness 演化 67.4——低于直接基线——以及逐实例 harness 扩展 71.8。在有单元测试的情况下，harness 演化达到 75.8，而并行采样为 86.0。在 45/10/34 的训练/验证/测试划分下，跨任务 harness 演化在测试集上获得 0.6 分。

作者对适用范围很谨慎：他们主张有一个CLI基准对测试框架质量不敏感，三个模型，一个预算。他们没有进行显著性检验、没有做组件消融，也没有对$K$进行扫描。可迁移的结论是协议层面的，而非经验层面的，并且适用于整个综述：除非用于演化的验证信号与评估任务分离，并在匹配预算下与测试时搜索进行比较，否则所报告的增益可能只不过是更多次尝试。请注意，这一结果与第6节存在张力，第6节中整体测试框架搜索报告了大幅增益——差异恰恰在于第6节那些工作大多缺失的对照。

10.2 更新能力不随基础能力扩展

Harness Updating Is Not Harness Benefit [143] 运行了一个交叉因子设计——固定智能体而改变演化器，反之亦然——覆盖三个基准和六到七个基础模型。两个结果与该领域隐含的假设相矛盾，即更强的元智能体才是杠杆。第一，更新能力相对于基础能力是平缓的：在每个基准上，最佳与最差演化器之间的差距至多为3.1分，并且所测试的最小模型（一个9B模型）在SkillsBench设置上作为演化器优于最大模型（3.8分对2.3分）。作者的建议是将计算花在任务求解智能体上，而非演化器上。第二，受益能力是非单调的：增益在一个基准上于中端模型达到峰值（+19.3分），在另一个基准上于不同模型达到峰值（+7.0分），在第三个基准上于中偏小模型达到峰值（+15.1分）。

该论文还指出了弱层级低受益背后的机制——智能体实际加载了多少测试框架（一个模型的加载率为0.251，而强模型约为0.96），它对自己所加载内容的遵循程度如何（0.142对0.757），以及遵循度沿轨迹衰减（0.52到0.13）——并描述了一种与每个接受门都相关的病理：其自身的更新算子无条件提交，没有候选比较、回归测试、统计检验或回滚。那是一个没有$V$的$d=0$设计，而且它并非孤立案例（第8.1节）。

10.3 所报告增益来自何处

One Recipe, Many Harnesses [145] 询问自演化实际编码了什么，并用一个受控网格作答：八种语言乘三个模型，在等预算下的三个实验臂，每个rollout的硬上限，以及非回归选择规则。在网格上的256个恢复实例中，88%在演化前带有检测器覆盖的缺陷，12%完全不带任何签名；在两个有大幅增益的模型上，95%和91%的恢复可归因于已识别的缺陷类别，而在一个增益处于噪声范围内的模型上，其少数恢复中有52%不属于任何可归因类别。作者指出，增益是对可恢复执行缺陷的补偿，而非能力上限的提升——并且他们的两个零结果区域是事后识别的，因此它们算作与该机制一致，而非对该机制的检验。

元代理在代理设计中的低效性 [144] 为架构搜索传统提供了一个更早、同样尖锐的结果：在一个“采样–评估–迭代”的元代理中，将所有先前设计都送入上下文（该路线中被引用最多的系统所采用的累积策略）比完全忽略历史表现更差，而按训练分数选择父代则有帮助（某个基准上的最佳代理从 41.4 提升到 56.5）。排名在四个测试集中的两个上还发生了反转，因此作者提出的“训练最优”选择标准并未被证明可以迁移。该论文还提出了本综述所依赖的一个结构性观点：其元代理与其所发明的代理是不同层级上的不同模型，这使得该循环成为一种外生设计循环——改进者与被改进者并非同一系统。

10.4 累积容易，减法不易

两项结果量化了累积造成的损害以及撤销这种损害的难度。《当自我演化反噬自身》[113] 展示了无门控技能累积中的容量污染相变（第 3 轮时为 62%，有 105 项技能；到第 5 轮时降至 50%，有 179 项技能），随后又表明修复在结构上是有限的：移除造成问题的八项技能，只能从 12.3 个百分点的损失中恢复 1.7 个百分点；而一个拥有完整溯源信息的预言机还能再恢复 5.0 个百分点，仍有 5.6 个百分点永久损失。其自身设计通过以预先承诺的准入闸门取代退役闸门来回应，并报告在使用仅含 37 项技能的库时单调提升至 72%。

SkillForge [118] 从另一方向提供了总体统计：在其生命周期中退役的技能里，96.9% 被标记为具体有害，而非无害冗余；主要失败模式是过于僵化的过程排序（74.5%）；并且57.2% 的退役技能此前曾达到稳定状态，随后才发生衰退。SkillCommit [119] 增加了逐实例归因，将其自身编辑报告为帮助/损害分解中的 24/0 和 21/2，而基线方法修复了一些实例，却破坏了许多先前正确的实例。综合来看，这三项结果说明的比“闸门有帮助”更强：在技能库或记忆库中，默认轨迹是走向伤害，而真正有意义的工程问题不是如何增加能力，而是如何移除伤害。

10.5 长期案例研究：123轮而无收敛

我们语料库中最具信息量的单份文档是一次123轮的机器人运行 [124]——993次rollout，847次提案尝试中57次被接受的库变更，以及113次对测试框架的人工修复，约为该智能体被接受变更数量的两倍。任务结果：一个任务0/486，另一个0/256，第三个14/230，并且在整次运行中只有五次rollout整条链路成功；最后一轮直接失败。

其结构性发现是对本综述论点的最鲜明陈述。该智能体可以编辑技能代码、提供者注册、任务程序和路由表，但测试框架——评估器、测试、记忆、执行器描述——是唯一只有人类可以更改的部分。作者自己的总结值得引用，因为这是对一个看起来递归的 $d=0$ 循环最简洁的表述：

“这个循环在错误的地方递归。智能体在一个只有人类改进的测试框架内改进了机器人，而智能体最准确的诊断却关乎测试框架。”

他们为闭环成立抽象出三个工程条件——失败是否按其真实原因被描述（可表征性）、修复是否落在智能体能够编辑的基底上（可表达性）、门控是否能在变更真正起作用的那些状态上分辨好坏（可分辨性）——并给出门控失败的分类学，每类配一个证伪实验：一个过粗的门控（在只有一两个记录状态的间隙上要求60%的挽救率）、一个过松的门控（饱和的基线使所需改进为零，让大约二十几项变更通过，而这些变更所在的状态提议者已经见过），以及一个比它必须测量的效应更嘈杂的门控。

那次运行还有两个观察值得广泛传播。第一，一个可写代码的基底把缺失的语义置换为几何规则：库增长到3,056行、33个阈值，单调增长，从未收敛。第二，提高推理努力“没有带来任何可见变化”，而重写测试框架中的一句话就把编辑率从0/8变成11/12——作者的结论是，在这个系统中，测试框架文本是学习算法的一部分。论文也坦率说明了自身的局限：一个模拟器、一种布局、三项任务，没有独立重复、匹配预算的基线或消融，因此它“从记录和解剖中识别机制，而非因果效应量”。

10.6 两项减法性发现

两项审计从该领域广泛依赖的前提中撤除了支持。

浓缩经验未被忠实使用。 LLM Agents Are Not Always Faithful Self-Evolvers [138] 审计了四个代表性框架，跨九个环境和十到十三个基础，发现了一个系统性的经验忠实性缺口：智能体可靠地依赖原始轨迹，但经常忽略或误读浓缩摘要——即便摘要是唯一可用的外部指导。在一个实例中，浓缩干预全部落在47–56，而原始基线为53；在另一个实例中，原始干预使性能下降6.8分，而浓缩干预的填充版本仍得77.6分。由于浓缩经验是大多数记忆与技能工作的前提，这是一个承重的负面结果，它也澄清了为什么消融可能揭示负的记忆增益[101]：一个未被忠实读取的记忆无法提供帮助。

长时程研究未显示一致增益。 EverMine [140] 在隐藏样本外标签和显式能力演化的alpha研究设置中追踪了十八条长研究轨迹。显式能力演化没有产生一致性的端到端收益；所有四个端到端差异区间和所有四个条件价值区间都包含零，单个父轨迹效应为两个正、四个负，六对重复中有五对符号反转。由于只有六和三个独立统计单元，诚实的解读是“未检测到效应”，而非“演化无用”——这是作者自己作出的区分。

本章批评的另外两个惯例是：将聚合指标当作健康状况来解读（一个假通过评分器让聚合分数保持平坦，同时悄悄禁用了退役[141]），以及跨预算不同的工作比较数字（第6.3节、第9.2节）。

10.7 如何解读该领域中的一项主张

各项审计汇成一份简短的清单，我们将其作为本综述的实践产出。对于任何声称 harness 自我进化改进了智能体的主张，都要追问：验证信号是否与评估集不相交 [139, 143]；比较是否是在匹配预算下针对测试时扩展进行的 [139]；增益是否归因于可识别的可恢复缺陷，而非能力提升 [145]；所怀疑的原因是进化器的改进能力，还是它在基础能力上持平 [143]；编辑算子是否真的受到门控，还是无条件提交 [143]；以及设计中是否有任何机制防止危害累积 [113, 118]？能回答全部六项的研究很少——这本身就是对证据现状最有用的总结。

表 7。审计与负面结果研究，按各自检验的主张分组。注：研究设计在对象、基准和预算上有所不同；该表按各自检验的主张分组，而非对其进行排名。

要点

• 在同一个 CLI 基准上，在匹配预算下，整体 harness 演化没有超过测试时扩展，跨任务迁移只增加了 0.6 分；可迁移的教训是协议纪律，而不是 harness 演化普遍失败的结论。
• 更新能力在基础能力上是平坦的，而收益是非单调的，因此“使用更强的元智能体”在证据上并不成立。
• 收益可归因于对可恢复执行缺陷的补偿，并且 88% 的恢复在基线时带有检测器覆盖的缺陷。
• 累积默认是有害的：未设门槛的库随着增长而退化，96.9% 的退役技能是有害的，而回滚只能挽回损失的一小部分。
• 两个承重前提被削弱：压缩经验没有被忠实使用，显式能力演化没有表现出一致的长时程收益。

11 应用：可验证性是约束瓶颈

11.1 编码是默认试验台

阅读第 4、6 和 7 节的表格会产生一个显著集中的印象：绝大多数工作都在编码上评估。SWE-bench 变体和 Terminal-Bench 变体充当了该领域事实上的工具，被 Gödel Agent [10]、DGM [11]、SICA [12]、HGM [13]、Hyperagents [14]、AIDE² [32]、Live-SWE-agent [29]、AHE [43]、HarnessCompass [44]、Self-Harness [40] 和 Self-Evolving Harness [41] 等使用。

这并非偶然。要让自改写循环闭合，它需要一个廉价、可自动执行且相当客观的验证器；代码同时满足这三点——补丁可执行、失败可复现、测试可自动评分。理论章节解释了为什么这很重要，而不仅仅是因为方便：可达到的上限由可用证据设定 [64]，而编码提供了当前工具包中最密集的证据流。代价是外部效度。编码基准上的收益不能外推到没有可执行验证器的任务，而第 10 节的审计使这一点变得具体：在一个对 harness 质量不敏感的编码基准上，harness 演化未能超过测试时扩展 [139]，并且其收益可归因于补偿执行缺陷，而不是提升能力 [145]。

11.2 可验证性谱系

2026 年的应用浪潮使本章可以用一个谱系取代早先的双样本草图，因为它覆盖了验证器系统性不同的领域：

表 8. 跨应用领域的可验证性谱系，以及每一层级允许自我改进循环验证什么。

该谱系预测了迭代实际发生的位置。VideoEvolve [125] 运行开发时的搜索，包含 217,767 次求解器调用，因为其定位度量是客观的，而其保真机制相应地非常精细——视频不相交的开发集和验证集划分、允许的回归带、用于质量检查的固定锚定测试框架，以及同一批次内的候选者与冠军比较。AIProver [133] 能够负担一个具有 3σ 接受区间的分层验证器、一个要求 0.024 改进的留出适应度门和 KL 惩罚，因为形式化证明是可检查的。在另一端，RHD [129] 将其迭代细化限制在模拟中，并将真实机器人结果报告为存在性证据（75 次试验，每个任务 25 次，随机位置，失败不可重放），因为物理成功谓词无法重采样。

11.3 领域耦合

随着领域远离编码，有两种模式反复出现。

验证器的可用性决定了循环的形状，而不仅仅是其速度。 在 SRE 根因分析中，OpsHarness [128] 可以逐案例评估，并报告移除验证会使连续诊断趋势崩溃（有验证时最后窗口均值为 0.83，无演化时为 0.43，无验证时为 0.33），而其最终 A@1 为 59.0%，相比之下其无演化消融为 41.4%，裸智能体为 36.1%。在机器人学中，RHD [129] 报告了模拟中的成功细化循环（对于具有细化行动手册的轻量智能体，43.8%→66.7%），但它明确不声称这一结果适用于真实机器人。

与领域的耦合改变了可编辑的内容。 人形机器人框架 [130] 认为，具身自我改进有第六个可编辑对象，在软件智能体中没有对应物——物理身体（校准、形态、传感器和执行器状态）——并将部署时改进形式化为包含该对象的五元组状态上的算子。MedZERO [126] 展示了另一种耦合：由于医学任务只能被部分验证，其循环优化的是生成课程数据的考官和对之评分推理者，这正是所报告增益（4B 从 12.9 到 34.9 平均；8B 从 34.9 到 53.5）属于参数级共同进化而非 harness 改进实例的原因——shells、rewards、thresholds 和 verifiers 均不变。

11.4 循环在何处收敛

有一个跨领域的观察值得作为我们自己的推断陈述。在具有分层验证的领域中，循环收敛于其能够测量的最客观层级。AIProver 再次提供了最清晰的证据：仅 harness 演化就将“能否编译”层级从 57.6% 提升到 84.4%，而完整证明层级仅从 15.7% 提升到 22.6%，在单样本失败中，“可编译但命题错误”占 173 例，仅次于已解决的 205 例。同一工作记录了我们语料中唯一一次将验证器本身移入可编辑集合的尝试——教模型判断自己的命题——它在全部五轮演化中都失败了。如果这一模式成立，一个领域中自我改进的上限由其验证器可量化的属性集合设定，这比模型规模更具可操作性约束。

11.5 资源

Table 9. Resources used repeatedly in the corpus. Note: this table lists only resources used repeatedly within our verified reading and traceable to a specific source; benchmark sizes, metrics and splits vary by user, so results under the same name are not necessarily comparable.

要点

• 编码是默认的试验台，因为它同时提供可执行验证、可复现失败和自动评分，而这正是第 8 节理论所认定的约束瓶颈。
• 应用可以按可验证性排序——可执行、模拟、部分客观、操作员确认——这一层级预测了迭代实际在哪里被验证，以及依据什么被验证。
• 领域耦合改变了可编辑对象（具身场景中的物理身体），并且可能将循环重定向到生成器或评分器，而不是测试框架。
• 在分层验证领域，循环收敛到它能测量的最客观层级，因此上限由验证器能够量化的内容决定（我们的推断）。

12 开放问题与争论

本章陈述该领域活跃的分歧，以及每一方的证据。大多数判断依赖于在因论文而异条件下未经重复的单一报告；当比较跨越多个作品时，我们将其标记为我们的推断，而非测量到的效应。

12.1 递归会带来更快的改进吗？

主张。 将改进机制带入其自身循环会加速能力增长。

支持。 Hyperagents [14] 报告称，元层级自我修改可跨领域迁移，并在单次运行中累积：将任务智能体和元智能体合并为一个可编辑程序，使论文评审评分从 0.0 提升到 0.710，而 DGM 变体仍停留在 0.0。采纳理论 [137] 在同一方向上补充了一个结构性论证：被采纳的更新跨步骤累积，而不要求步骤之间相互独立，因此一连串各自安全的编辑不仅仅是一次漫长的随机游走。

反对。 三项比较指向相反方向。HGM [13] 通过更好地选择父代（分支元生产力估计）以及将扩展与评估解耦而获得收益，其 CPU 小时数约为 DGM 的 1/2.38。SIFT [30] 用廉价的成对评判排序取代昂贵的基准评估，并在相同验证预算下获胜。RHI [42] 将种群比较降级为仅与上一代比较，并将归一化成本降低 23–60%。三者都没有提高 $d$；三者都改进了评估预算的使用方式。而在严格匹配预算下，测试框架演化未能击败普通的并行采样 [139]（第 10.1 节）。

证据落点。 递归改变的是可达设计空间，而不是单位预算的改进速率。那些看起来像速度比较的研究，大多是预算分配比较。这与理论一致：约束瓶颈是证据量 [64]，递归消耗证据，而不是创造证据。

12.2 收益来自被编辑组件，还是来自保真机制？

主张。 报告的收益主要归因于被编辑的组件或算子。

支持替代方案。两项接近受控的对比给出了相反的暗示。HarnessCompass [44] 在自由编辑循环上加入泛化门与轨迹分离，并在五轮内将留出集提升 8.8 个百分点，而 AHE [43] 未受约束的循环在二十轮后仅达到 54.7%。SAGE [67] 只改变接受规则，生成过程保持不变，并在 20 个设置中的 20 个报告了最佳最终分数，其中 19 个出现回归。组件层面的类似证据是 SkillCommit [119]，其中仅移除源回放就损失 17.8 个百分点——超过大多数添加机制所报告的增益。

反对。这些是系统级比较，缺乏单操作符消融；DarwinX 的作者指出，他们未进行单操作符受控消融，且其跨谱系合并在一个基准上被完全回滚 [48]；MESH-Harness 的增益将组合与评估预算的重新分配混为一谈 [49]。

证据落定之处。这一模式在各工作中保持一致，但归因并未锁定。使其可锁定是一个具体的实验：固定组件与操作符，然后开关保真机制。理论解释了为何这是正确的观察位置——带噪的门消耗样本预算，而有偏的门不可恢复 [141]——但该领域尚未运行这一实验。

12.3 harness 自我演化能否迁移？

主张。在任务 A 上演化出的 harness 可迁移到任务 B 或模型 M'。

支持。MemoHarness [52] 冻结一个 harness，并在不重新训练的情况下将其迁移到六个基础模型，平均提升 +0.098。DarwinX [48] 报告在一个基准上获得的 harness 原样迁移到另一个代码基准，HGM 报告将发现的 agent 跨数据集和模型迁移 [13]。AIDE² [32] 在四个留出基准上匹配或超越人工构建的基线 [32]。WikiSkill [123] 报告技能级零样本迁移，EvoSkill [115] 报告跨基准的零样本技能迁移。

反对。迁移存在明显边界。MemEvolve 的作者指出，演化出的记忆仅在共享任务域内泛化 [79]；Memento-Skills 报告大多数训练时技能在测试时从未被触发，使迁移是领域对齐而非通用的 [91]；XSkill 记录了在较弱基座上的干扰 [89]；EvoSkill 的迁移证据是单一技能在一个基准对上测量一次 [115]。最根本的是，One Recipe, Many Harnesses [145] 表明增益本身在很大程度上是对起始配置中已有缺陷的补偿，这暗示迁移的自然失败模式是下一个领域的缺陷不同。

证据落定之处。域内迁移有合理支持，并集中在具有最严格保真机制的工作中——这本身与 12.2 节一致。跨域迁移支持较弱，且该领域缺乏一项研究能够区分“harness 编码了可迁移策略”与“harness 编码了本领域的修复”。

12.4 更多记忆和技能是否更好？

主张。积累孕育能力。

反对。 多项报告直接反驳这一点。在一项验证研究中，只有 23.9% 的技能是有益的 [86]；行为策展使技能库缩减三分之一到五分之二，且无损失 [87]；无门控的积累在池子增长时先达到峰值，随后下降 [113]；96.9% 被退役的技能被发现具有特定危害，而 57.2% 曾一度被视为稳定 [118]。积累为何会主动造成伤害的机制现已被测量：浓缩经验——积累的产物——并未被智能体忠实使用，它们反而依赖原始轨迹 [138]。这也解释了一次消融为何能显示出负向记忆增益 [101]。

证据的落脚点。 证据一致支持“选择质量决定回报”；最优技能库规模仍未量化。文献中缺少两项结构性测量：有益技能占比和退役率，作为标准报告项。

12.5 评分器应当固定还是共同演化？

主张。 让评分器随智能体演化会有所帮助。

支持。 红皇后动态 [70] 认为，停止演化的评估器就不再提供有用信号；DUET [69] 报告称，其共同演化的评分器优于使用神谕评分器的基线（在金融基准上为 96.5±0.4 对 94.0）。

反对。 共同演化引入了固定门控所没有的失效模式：跨模态耦合下的偏好崩溃 [76]；评分器漂移和奖励黑客行为，DUET 自己的作者未对其加以量化 [69]；单侧优化下的平台期 [74]。最强的反例是一个固定门控在 20 个设置中赢了 20 个 [67]，以及一次认真的尝试：通过教模型评判自己形式化的命题，把门控移入循环内部——该尝试在全部五轮演化中均告失败 [133]。理论补充了一个应当谨慎的结构性理由：门控中的偏差无法通过规模来弥补，而噪声仅仅是代价高昂 [141]；要纠正被夸大的自我奖励，验证器必须在信息上与生成器保持区别 [142]。

证据的落脚点。 这是本综述中解决得最不充分的争论。两种设计都报告了效应，且没有研究在相同任务和预算下对它们进行比较。可以说的是更狭窄也更实用的内容：如果评分器要移动，它的移动方式应当保持与生成器的信息独立性，并且应当评估其偏差，而不是评估其噪声。

12.6 领域的词汇是否跟上了其内容？

第六个问题不是科学问题，但具有科学后果。大量被标注为递归自我改进的工作，按本综述的术语来说属于 $d=0$：它们用固定机制编辑某个组件。反向情况也存在——从未使用该词的工作却把机制置于循环内部，最明显的是评估器共同演化这一族 [69, 70, 71, 72, 74]。与此同时，一项工作自己的作者将其循环标注为伪递归，恰恰是因为只有内容发生变化 [104]；而长期机器人学研究得出结论：其循环资助递归“资助错了地方” [124]。

我们并不主张对术语进行管制。术语的代价在于可比性：“递归”目前涵盖从任务内修订到元层级自我修改的一切，因此读者无法从标签判断一个系统的改进机制本身是否可编辑。本综述通篇采用的 graded axis，是我们试图在不增加新的二元区分的情况下恢复这一信息的尝试。

要点

• 递归改变的是可达设计空间，而不是每个预算下的改进速率；表面上的速度比较是预算分配比较。
• “保真机制承载收益”是一个一致的跨工作模式，但尚不是一个受控发现；所需实验是固定组件和算子的单算子消融。
• 域内迁移得到支持，并聚集在最严格门控的工作中；跨域迁移较弱，该领域尚无法将可迁移策略与领域特定的缺陷补偿区分开来。
• 累积默认带来损害，且其机制现在可测量——压缩经验未被忠实读取，因此一个未被忠实读取的记忆无法提供帮助。
• 固定评分器与共同演化评分器的问题尚未解决；可辩护的建议是，移动评分器必须保持与生成器的信息独立性，并应针对偏倚而非噪声接受审计。

13 未来方向与结论

13.1 这些证据支持的六个方向

以下每个方向都由本综述中的一个具体发现触发，并附带可减少不确定性的检验。它们是我们的提议，而非文献中采取的立场。

1. 以门控为中心的研究议程。 触发因素：保真与接受机制与每一项实质性收益相关 [43, 44, 67, 119]，而能够确立因果关系的单算子消融尚未运行 [48, 49]。理论现在解释了为什么门控应优先——一个噪声门控会消耗样本预算，一个有偏门控无法通过规模来挽救 [141]，而纠正需要与生成器保持信息独立性 [142]。检验：在组件和搜索算子保持固定的情况下，分别切换泛化、非回归、契约和统计门控，并测量留出性能、迁移和偏倚（而不仅仅是噪声）。

2. 关于预算、规模和清洁度的报告标准。 触发因素：不同工作之间单位不兼容 [139, 141, 143, 146]，库的规模从未被报告 [15, 90]，以及退休统计只存在于一篇论文中而在其他地方都没有 [118]。检验：采用与测试时扩展相匹配的预算比较 [139]，将验证信号与评估集分离 [143]，并以共同单位报告有益份额、退休率、工件规模和成本。

3. 将补偿与能力区分开来。 触发因素：88% 的恢复可归因于已识别的缺陷，且收益被表述为补偿而非提高上限 [145]，再加上基础能力中更新能力的平坦扩展 [143]。检验：针对一个刻意无缺陷的起始配置和一个更强的基座运行相同的演化流水线；如果收益在第一种情况下消失，而在第二种情况下不增长，那么“补偿”就是正确的解读，迁移叙事也会改变。

4. 与保留的信息独立性共同演化。 触发条件：将门控移入循环内的唯一一次尝试失败 [133]、误通过评分的断崖得到确认 [141]，以及已证明需要一个其错误与自报告去相关的验证器 [142]。检查：在让评分器演化之前，测量其错误是否仍与生成器的偏差去相关，并专门审计误通过不对称性——一个只降低噪声的门控不会有所帮助。

5. 对累积状态的纵向审计。 触发条件：在回滚后仍存活的污染 [113]、在可见层恢复后仍存活的行为漂移 [146]，以及曾一度作为稳定通过而现已退役的技能 [118]。检查：在修复后继续对演化系统审计若干代，并测试不安全或有害状态是否会重新出现——这正是安全综述所呼吁的评估形态 [6]。

6. 降低证据要求，而不是提高递归深度。 触发条件：个性化受交互证据约束这一限制 [64]，以及稳定性所施加的元深度上限 [94]，再加上一项观察：实际带来增益的大部分是缺陷修复。检查：评估一个机制是否减少了达到固定质量所需的交互次数，以及节省下来的证据是否被再投资——这是本综述在数据中找到的唯一加速路径。

13.2 结论

一旦范围固定在大框架层，这个领域看起来比这个统称所暗示的更简单，也不那么神秘。

重要的轴是被修改的是什么，而不是使用了哪种算法。 自指代码、记忆、工具与技能、提示与编排、整体框架搜索以及验证器，是六条机制差异极大、思想渊源也同样差异极大的路线——程序合成、记忆系统、技能学习、提示优化、架构搜索与验证。

递归深度是一个有用的标尺，而大多数工作位于其底部。 对 111 篇论文的穷尽阅读发现，改进机制真正位于其自身可编辑集合之内的地方只有少数可枚举的几处：自指代码（Hyperagents、HADA，以及 DGM、SICA 和 HGM 的生成侧）、评估器共同演化、一项记忆工作、一项技能工作、一项整体框架搜索工作，外加设计层面的提议。其余一切，无论名称如何，编辑的都是组件。

证据的分量不在于“谁编辑得更多”，而在于“谁破坏得更少”。 第 6 节中的五类保真机制、第 7 节中的统计门控与共同演化、第 5 节中的退役与污染结果，以及第 8 节中解释为何有偏门控是致命的理论，都指向同一方向：门控的质量决定循环能跑多远。这也解释了为何极限结果读起来是那样——上限是证据量，元深度受稳定性约束，而越深的层越难以审计。

而该领域报告的仍多于其所能归因的。 在匹配预算下，整装演化在一个基准上未能胜过测试时扩展[139]；更新能力在基础能力上持平[143]；增益在很大程度上是缺陷补偿[145]；压缩经验未被忠实读取[138]；显式能力演化未显示出持续的长时程收益[140]；累积默认有害且无法回滚[113, 118, 124]。这些并不是否定该领域的理由——第5至7节中的若干结果很强，且少数得到了良好控制——但它们确实意味着，对整装级递归自我改进而言，最有价值的下一项贡献很可能不是更聪明的算子。而是一个更好的门控，以恰当方式测量，并以他人可比较的单位报告。

附录A：范围、语料与证据边界

A.1 检索路径

候选语料是六条互补路径的并集，均限于2022-01-01起的v1提交：

表10. 候选语料背后的六条检索路径。

R1–R5在其250项的检索上限处饱和，因此可能存在截断；R6仅触及以“整装”命名的著作。因此，该并集有记录，但不保证穷尽。该并集包含1176个候选；应用纳入标准后保留736个，排除440个。

A.2 计数

• 筛选：从1176个候选条目中，保留736个，排除440个（736 + 440 = 1176）。
• 分类：保留的成果中有595个被归入13个叶节点（包括108个多标签重叠项）；其余141个跨边界成果被保留为单独的分组（595 + 141 = 736），仅用于边界讨论和广度引用。
• 第一轮阅读：跨五个叶节点的63次派发——自指代码（20）、验证器与门控（10）、全测试框架搜索（16）、记忆（8）、工具与技能（9）。其中，61篇从章节层面阅读，2篇（STOP [7]和TTHE [55]）只能进行摘要级阅读，因为其正文不可获取。- 第二轮阅读：跨四个薄弱叶节点的48次派发——理论与证据审计（10，整个叶节点）、记忆（12）、工具与技能（12）、应用（12）——加上第一轮的两篇降级论文，在其正文可获取后重新派发。其中，TTHE [55]因此升级为章节级阅读，而STOP [7]仍以摘要级引用，因为其正文在两轮中均不可获取。
• 参考文献：146个编号条目 = 第一轮100个加上第二轮新增46个；深度阅读的成果在正文中引用，以摘要或元数据级别引用的成果仅用于广度。证据台账记录每个参考文献的阅读深度和引用层级；摘要级成果从不被赋予A级或B级。
• 两轮中处理的不同论文：109篇（63 + 46），因为两篇重新派发的论文已在第一轮中计数。
• 其余通过筛选但未被引用的成果仅用于叶节点规模统计和分类。

A.3 第二轮的抽样

第二轮是有针对性的抽样，而非对四个叶节点的穷尽阅读。每个叶节点集合的成员以稳定但任意的顺序存储；我们每个叶节点抽取12篇成果（记忆153个成员、工具与技能133个、应用94个），覆盖每个叶节点的子类型，并完整阅读了理论叶节点（11个成员，其中两个已在第一轮中阅读）。权重–测试框架协同演化（17个成员）、基准与评估（24个）、提示与指令（38个）、工作流与拓扑（77个）以及安全性（26个）被有意保留在摘要级别，这是第二轮范围界定时的约定，第5.3、9.1、9.2和9.3节中相应的子节已就地说明。

A.4 证据薄弱的 Branch

以下 Branch 的证据实质上比第4、6、7、8和10节更薄弱，并在文中标注：

• 提示词（$P$）与工作流／编排（$W$）：与既有的提示词优化和架构搜索传统重叠，主要为$d=0$，未逐篇核验。
• 理论与机制分析：语料库中有11项工作；第二波阅读了整个叶节点，第8节据此展开。
• 基准与评估：24项工作，其中本综述引用了专用基准[99]和两项协议审计[139, 143]。
• 权重–框架协同演化：17项工作，其中第9.1节讨论了三套具体系统。
• 安全性：26项工作，其中第9.3节讨论了综述、风险刻画、注入攻击面以及两项防御或治理工作。
• 应用：94项工作，其中第11节报告了跨七个领域的十二项；其他领域（[132]之外的推荐、法律、[135]之外的生物学、[134]之外的硬件）未作实质性评估。

A.5 已知偏差与可复现性说明

• 针对这一特定文献没有公开的引文图工具，因此谱系陈述依赖我们阅读过的工作的相关工作部分和基线选择，而非前向引用枚举。
• 递归度$d$是我们在共享记号下的分类，而非作者自己的措辞。不同校准的解读可能使个别工作在量表上移动一个位置，第12.6节讨论了为何词汇本身不稳定。
• 各工作之间的预算、基准和基础模型差异足够大，因此本综述中每一处跨工作的数值比较都被标记为不可排序。
• 本语料库中有两项工作是综述或立场论文而非实验[130]，凡被引用处均如此标注。

A.6 图表索引

图1. 综述的组织结构（第1.3节，示意图）。图2. 框架级自我改进的里程碑（第2.3节，示意图）。图3. 双轴分类法（第3.3节，示意图）。图4. 达尔文哥德尔机循环（第4.2节，来自[11]）。图5. HADA的联合工作流（第4.2节，来自[31]）。图6. 搜索算子谱（第6.1节，示意图）。图7. Self-Harness的一轮（第6.1节，来自[40]）。图8. SAGE统计接受门（第7.1节，来自[67]）。图9. 从固定门到协同演化并重新指向的门（第7.1节，示意图）。图10. DUET的协同演化消融（第7.1节，来自[69]）。图11. CAFE的三个相连循环（第7.1节，来自[74]）。图12. 红皇后哥德尔机的协同演化构造（第7.4节，来自[70]）。

表1. 自我改进的三种体制（第2.1节）。表2. 共享记号（第2.2节）。表3. 相关综述及本综述的差异（第2.4节）。表4. $d\ge1$在语料库中的出现位置（第3.2节）。表5. 自指代码与脚手架工作比较（第4.5节）。表6. 接受门与评分器比较（第7.4节）。表7. 审计与负面结果研究（第10.7节）。表8. 可验证性谱（第11.2节）。表9. 语料库中反复使用的资源（第11.5节）。表10. 六条检索路线（附录A.1）。

注：图4、5、7、8、10、11和12转载自所引论文；其余图为本综述绘制的示意图。每张表出现在使用它的章节中，每条图注均说明其各行数据的可比性限制。

References

[1] Zhe Ren, Yimeng Chen, Dandan Guo, et al. Self-Improvements in Modern Agentic Systems: A Survey. 2026. arXiv preprint. arXiv:2607.13104

[2] Mingguang Chen, Licheng Wang, Bo Qu. Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops. 2026. arXiv preprint. arXiv:2607.07663

[3] Yi Duan, Ying Liu, Zirui Tang, et al. The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement. 2026. arXiv preprint. arXiv:2609.11873

[4] Huan-ang Gao, Jiayi Geng, Wenyue Hua, et al. A Survey of Self-Evolving Agents: What, When, How, and Where to Evolve on the Path to Artificial Super Intelligence. 2025. arXiv preprint. arXiv:2507.21046

[5] Jinyuan Fang, Yanwen Peng, Xi Zhang, et al. A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic Systems. 2025. arXiv preprint. arXiv:2508.07407

[6] Jiahao Chen, Zhou Feng, Oubo Ma, et al. Safety in Self-Evolving Agents: A Survey. 2026. arXiv preprint. arXiv:2610.00093

[7] Eric Zelikman, Eliana Lorch, Lester Mackey, Adam Tauman Kalai. Self-Taught Optimizer (STOP): Recursively Self-Improving Code Generation. 2023. arXiv preprint. arXiv:2310.02304

[8] Alex Sheng, Shankar Padmanabhan. Self-Programming Artificial Intelligence Using Code-Generating Language Models. 2022. arXiv preprint. arXiv:2205.00167

[9] Shengran Hu, Cong Lu, Jeff Clune. Automated Design of Agentic Systems. 2024. arXiv preprint. arXiv:2408.08435

[10] Xunjian Yin, Xinyi Wang, Liangming Pan, Li Lin, Xiaojun Wan, William Yang Wang. Gödel Agent: A Self-Referential Agent Framework for Recursive Self-Improvement. 2024. arXiv preprint. arXiv:2410.04444

[11] Jenny Zhang, Shengran Hu, Cong Lu, Robert Lange, Jeff Clune. Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents. 2025. arXiv preprint. arXiv:2505.22954

[12] Maxime Robeyns, Martin Szummer, Laurence Aitchison. A Self-Improving Coding Agent. 2025. arXiv preprint. arXiv:2504.15228

[13] Wenyi Wang, Piotr Piękos, Li Nanbo, et al. Huxley-Gödel Machine: Human-Level Coding Agent Development by an Approximation of the Optimal Self-Improving Machine. 2025. arXiv preprint. arXiv:2510.21614

[14] Jenny Zhang, Bingchen Zhao, Wannan Yang, et al. Hyperagents. 2026. arXiv preprint. arXiv:2603.19461

[15] Guanzhi Wang, Yuqi Xie, Yunfan Jiang, et al. Voyager: An Open-Ended Embodied Agent with Large Language Models. 2023. arXiv preprint. arXiv:2305.16291

[16] Noah Shinn, Federico Cassano, Edward Berman, et al. Reflexion: Language Agents with Verbal Reinforcement Learning. 2023. arXiv preprint. arXiv:2303.11366

[17] Aman Madaan, Niket Tandon, Prakhar Gupta, et al. Self-Refine: Iterative Refinement with Self-Feedback. 2023. arXiv preprint. arXiv:2303.17651

[18] Mert Yuksekgonul, Federico Bianchi, Joseph Boen, et al. TextGrad: Automatic "Differentiation" via Text. 2024. arXiv preprint. arXiv:2406.07496

[19] Omar Khattab, Arnav Singhvi, Paridhi Maheshwari, et al. DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines. 2023. arXiv preprint. arXiv:2310.03714

[20] Chengrun Yang, Xuezhi Wang, Yifeng Lu, et al. Large Language Models as Optimizers. 2023. arXiv preprint. arXiv:2309.03409

[21] Qingyan Guo, Rui Wang, Junliang Guo, et al. EvoPrompt: Connecting LLMs with Evolutionary Algorithms Yields Powerful Prompt Optimizers. 2023. arXiv preprint. arXiv:2309.08532

[22] Eric Zelikman, Yuhuai Wu, Jesse Mu, Noah D. Goodman. STaR: Bootstrapping Reasoning With Reasoning. 2022. arXiv preprint. arXiv:2203.14465

[23] Adam Zweiger, Jyothish Pari, Han Guo, et al. Self-Adapting Language Models. 2025. arXiv preprint. arXiv:2506.10943

[24] Andrew Zhao, Yiran Wu, Yang Yue, et al. Absolute Zero: Reinforced Self-play Reasoning with Zero Data. 2025. arXiv preprint. arXiv:2505.03335

[25] Alexander Novikov, Ngân Vũ, Marvin Eisenberger, et al. AlphaEvolve: A coding agent for scientific and algorithmic discovery. 2025. arXiv preprint. arXiv:2506.13131

[26] Luke J. O'Connor. Self-Programmed Execution for Language-Model Agents. 2026. arXiv preprint. arXiv:2605.06898

[27] Qianshu Cai, Yonggang Zhang, Xianzhang Jia, et al. MOSS: Self-Evolution through Source-Level Rewriting in Autonomous Agent Systems. 2026. arXiv preprint. arXiv:2605.22794

[28] Anton Razzhigaev, Andrei Gritsaev, Andrei Kaznacheev, et al. Ouroboros: A Self-Developing Frontier Coding Agent with Reviewed Core Evolution. 2026. arXiv preprint. arXiv:2608.08311

[29] Chunqiu Steven Xia, Zhe Wang, Yan Yang, Yuxiang Wei, Lingming Zhang. Live-SWE-agent: Can Software Engineering Agents Self-Evolve on the Fly?. 2025. arXiv preprint. arXiv:2511.13646

[30] Xinghong Fu, Aravinth Kulanthaivelu, Yutaro Yamada. Self Improvement via Fast Tree-search. 2026. arXiv preprint. arXiv:2609.19526

[31] Zipei Yu, Yue-Jiao Gong, Zeyuan Ma, Yuncheng Jiang, Zhiguang Cao. Hyper Algorithm Design Agent: Evolving Learnable Optimizer from Zero. 2026. arXiv preprint. arXiv:2609.35328

[32] Dhruv Srikanth, Bingchen Zhao, Dixing Xu, Yuxiang Wu, Zhengyao Jiang. Recursive self-improvement of AI research agents. 2026. arXiv preprint. arXiv:2609.26457

[33] Marco Robol, Paolo Giorgini. Self-Evolving Software Agents. 2026. arXiv preprint. arXiv:2604.27264

[34] Nikolas Belle, Dakota Barnes, Alfonso Amayuelas, et al. Agents of Change: Self-Evolving LLM Agents for Strategic Planning. 2025. arXiv preprint. arXiv:2506.04651

[35] Zhiyi Kuang, Ryan Rong, YuCheng Yuan, Allen Nie. Learning Game-Playing Agents with Generative Code Optimization. 2025. arXiv preprint. arXiv:2508.19506

[36] Tailin Zhou. Hierarchical Self-Improvement: A Framework for Task-Specific Evolvable Agent Harnesses. 2026. arXiv preprint. arXiv:2608.08466

[37] Laizhen Li, Jiarui Li, Juanjuan Zhao, et al. Grow the Harness, Not the Context: From Strategy-Free Scaffolds to Reusable Specialist Agents. 2026. arXiv preprint. arXiv:2609.26760

[38] Jun Nie, Yonggang Zhang, Qianshu Cai, et al. EvolveNet: Collaborative Harness Evolution for Agent Self-Improvement. 2026. arXiv preprint. arXiv:2608.04968

[39] Jingbo Yang, Kwei-Herng Lai, Xiaowen Wang, et al. Learning from Research: Toward Lifelong Agent Harness Evolution. 2026. arXiv preprint. arXiv:2609.40169

[40] Hangfan Zhang, Shao Zhang, Kangcong Li, et al. Self-Harness: Harnesses That Improve Themselves. 2026. arXiv preprint. arXiv:2606.09498

[41] Qiankai Xu. Self-Evolving Harness on Multiple Tasks with the Agent as Its Own Optimizer. 2026. arXiv preprint. arXiv:2609.38372

[42] Hyunin Lee, Jinglue Xu, Jeffrey Seely, et al. Recursive Harness Self-Improvement. 2026. arXiv preprint. arXiv:2607.15524

[43] Jiahang Lin, Shichun Liu, Chengjun Pan, et al. Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses. 2026. arXiv preprint. arXiv:2604.25850

[44] Luan Zhang, Ruochen Zhou, Dandan Song, et al. HarnessCompass: Guiding Automatic Harness Evolution toward Generalizable and Effective Agent Harnesses. 2026. arXiv preprint. arXiv:2608.01918

[45] Zibo Zhao, Jijun Shi, Mo Zhou, et al. RobustSGPO: Search-Space Control for Agent Harness Evolution. 2026. arXiv preprint. arXiv:2609.09646

[46] Ruiqing Yue, Yu Cui, Zhuoyu Sun, et al. Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents. 2026. arXiv preprint. arXiv:2609.11677

[47] Guojun Zhu, Xunheng Huang, Peng Yin, et al. Bad Genius: Counterfactual-Guided Harness Evolution Beyond Task-Specific Shortcuts. 2026. arXiv preprint. arXiv:2609.18366

[48] Yifan Zhang, Yutong Dai, Juntao Tan, et al. DarwinX: Evolving Agent Harnesses Through Natural Selection. 2026. arXiv preprint. arXiv:2608.07545

[49] Zhiwei Shang, Yu Huo, Mingrong Gong, et al. MESH-Harness: Self-Improving Agent Harnesses via Bandit-Guided Compositional Evolution. 2026. arXiv preprint. arXiv:2610.05300

[50] Zhiwei Shang, Jiahang Sun, Mingrong Gong, et al. Fusion is the New Mutation: Bandit-Guided Evolution on Workflow Graphs. 2026. arXiv preprint. arXiv:2610.05284

[51] Haoyu Dong, Yuhang Zhou, Zihao Lin, et al. Mixture of Self-Improving Branches For Agent Harness Optimization. 2026. arXiv preprint. arXiv:2609.37834

[52] Yue Huang, Wenjie Wang, Han Bao, et al. MemoHarness: Agent Harnesses That Learn from Experience. 2026. arXiv preprint. arXiv:2607.14159

[53] Kamer Ali Yuksel. EvoLattice: Persistent Internal-Population Evolution through Multi-Alternative Quality-Diversity Graph Representations for LLM-Guided Program Discovery. 2025. arXiv preprint. arXiv:2512.13857

[54] Haebin Seong, Li Yin, Haoran Zhang, Zhan Shi. The Last Harness You'll Ever Build. 2026. arXiv preprint. arXiv:2604.21003

[55] Jun Nie, Yonggang Zhang, Jun Song, et al. TTHE: Test-Time Harness Evolution. 2026. arXiv preprint. arXiv:2607.08124

[56] Tingyang Chen, Shuo Lu, Kang Zhao, et al. HarnessX: A Composable, Adaptive, and Evolvable Agent Harness Foundry. 2026. arXiv preprint. arXiv:2606.14249

[57] Zewen Liu, Zhan Shi, Yisi Sang, et al. Adaptive Auto-Harness: Sustained Self-Improvement for Agentic System Deployment on Open-Ended Task Streams. 2026. arXiv preprint. arXiv:2606.01770

[58] Yuetian Du, Yucheng Wang, He Xu, et al. Living-Harness Is an Interactive-Agent Evolver. 2026. arXiv preprint. arXiv:2607.26598

[59] Seth Karten, Joel Zhang, Tersoo Upaa Jr, et al. Continual Harness: Online Adaptation for Self-Improving Foundation Agents. 2026. arXiv preprint. arXiv:2605.09998

[60] Wujiang Xu, Jiaojiao Han, Minghao Guo, et al. AEL: Evolving Agent Harness in Open-Ended Environments. 2026. arXiv preprint. arXiv:2604.21725

[61] Wenbo Pan, Shujie Liu, Chin-Yew Lin, et al. Evolving Agents in the Dark: Retrospective Harness Optimization via Self-Preference. 2026. arXiv preprint. arXiv:2606.05922

[62] Yu Shang, Yu Li, Keyu Zhao, et al. AgentSquare: Automatic LLM Agent Search in Modular Design Space. 2024. arXiv preprint. arXiv:2410.06153

[63] Siyu Yuan, Kaitao Song, Jiangjie Chen, et al. EvoAgent: Towards Automatic Multi-Agent Generation via Evolutionary Algorithms. 2024. arXiv preprint. arXiv:2406.14228

[64] Zeyu Gan, Zixuan Gong, Yong Liu. Harness Evolution as Learning: Approximation, Generalization, and Optimization Limits of Self-Improving Personal Agents. 2026. arXiv preprint. arXiv:2609.36892

[65] Tianyu Fan, Chao Huang. HELIX: Model-Harness Co-evolution for Recursive Self-Improvement. 2026. arXiv preprint. arXiv:2608.13951

[66] Chejian Xu, Shujian Zhang, Wenxuan Zhou, et al. Evo²: Evolving the Evolver through Weight-Harness Co-Evolution. 2026. arXiv preprint. arXiv:2610.13025

[67] Yihao Wang, Linhan Xia, Rui Liu, et al. SAGE: A Statistical Acceptance Gate for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2609.36043

[68] Biswa Sengupta. Self-Evolving Agents with Anytime-Valid Certificates. 2026. arXiv preprint. arXiv:2607.00871

[69] Fengyu Gao, Sourav Pal, Austin Z. Henley, et al. DUET: Co-Evolving Solver and Grader Agents. 2026. arXiv preprint. arXiv:2610.04087

[70] Alex Iacob, Andrej Jovanović, William F. Shen, et al. The Red Queen Gödel Machine: Co-Evolving Agents and Their Evaluators. 2026. arXiv preprint. arXiv:2606.26294

[71] Xing Zhang, Guanghui Wang, Yanwei Cui, et al. Who Verifies the Verifier? Co-Evolving Inspectable Graders with Self-Improving Agents. 2026. arXiv preprint. arXiv:2610.11464

[72] Xing Zhang, Guanghui Wang, Yanwei Cui, et al. Who Grades the Grader? Co-Evolving Evaluation Metrics and Skills for Self-Improving LLM Agents. 2026. arXiv preprint. arXiv:2607.12790

[73] Jiamu Bai, Lizhu Zhang, Xin Yu, et al. Verify Less, Evolve More: Training Idea-Level Critics for Verification-Efficient ML Evolving Agents. 2026. arXiv preprint. arXiv:2610.08993

[74] Boyang Liu, Senjie Jin, Peixin Wang, et al. CAFE: Self-Improving Search Agents Need Co-Evolving Feedback. 2026. arXiv preprint. arXiv:2608.24794

[75] Xinyu Wang, Hanwei Wu, Jingwei Song, et al. Co-Evolution of Policy and Internal Reward for Language Agents. 2026. arXiv preprint. arXiv:2604.03098

[76] Zewen Liu. Multimodal Evaluator Preference Collapse: Cross-Modal Coupling in Self-Evolving Agents. 2026. arXiv preprint. arXiv:2606.16682

[77] Tianlu Wang, Ilia Kulikov, Olga Golovneva, et al. Self-Taught Evaluators. 2024. arXiv preprint. arXiv:2408.02666

[78] Guibin Zhang, Haotian Ren, Chong Zhan, et al. MemEvolve: Meta-Evolution of Agent Memory Systems. 2025. arXiv preprint. arXiv:2512.18746

[79] Haozhen Zhang, Quanyu Long, Jianzhu Bao, et al. MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2602.02474

[80] Shengtao Zhang, Jiaqian Wang, Ruiwen Zhou, et al. MemRL: Self-Evolving Agents via Runtime Reinforcement Learning on Episodic Memory. 2026. arXiv preprint. arXiv:2601.03192

[81] Wujiang Xu, Zujie Liang, Kai Mei, et al. A-MEM: Agentic Memory for LLM Agents. 2025. arXiv preprint. arXiv:2502.12110

[82] Huichi Zhou, Yihang Chen, Siyuan Guo, et al. Memento: Fine-tuning LLM Agents without Fine-tuning LLMs. 2025. arXiv preprint. arXiv:2508.16153

[83] Yaolun Zhang, Yiran Wu, Yijiong Yu, Qingyun Wu, Huazheng Wang. Live-Evo: Online Evolution of Agentic Memory from Continuous Feedback. 2026. arXiv preprint. arXiv:2602.02369

[84] Kaichao Liang, Yuqi Cui, Hao Kong, et al. MindMemOS: A Portable and Self-Evolving Memory Operating Layer for AI Agents. 2026. arXiv preprint. arXiv:2608.12428

[85] Xinke Jiang, Tao Feng, Weixuan Xu, et al. GenMem: Generative Symbolic Memory for Self-Evolving Harness. 2026. arXiv preprint. arXiv:2609.34633

[86] Serin Kim, Kwangwook Seo, Dokyung Song, Jinyoung Yeo, Dongha Lee. SkillSandbox: Skill Verification via Dynamic Scenario Synthesis. 2026. arXiv preprint. arXiv:2610.10088

[87] Zhen Xiong, Qiaoyu Tan. EASE: Behavior-Adaptive Skill Curation for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2609.36746

[88] Zhang Zhang, Shuqi Lu, Hongjin Qian, Di He, Zheng Liu. AgentFactory: A Self-Evolving Framework Through Executable Subagent Accumulation and Reuse. 2026. arXiv preprint. arXiv:2603.18000

[89] Guanyu Jiang, Zhaochen Su, Xiaoye Qu, Yi R. Fung. XSkill: Continual Learning from Experience and Skills in Multimodal Agents. 2026. arXiv preprint. arXiv:2603.12056

[90] Zeyu Ren, Ling Yue, Ran Li, et al. FlowEvo: Self-Evolving Agents through the Co-Evolution of Workflows and Executable Skills. 2026. arXiv preprint. arXiv:2607.21596

[91] Huichi Zhou, Siyuan Guo, Anjie Liu, et al. Memento-Skills: Let Agents Design Agents. 2026. arXiv preprint. arXiv:2603.18743

[92] Zhiling Yan, Dingjie Song, Hanrong Zhang, et al. OpenSkill: Open-World Self-Evolution for LLM Agents. 2026. arXiv preprint. arXiv:2606.06741

[93] Srishti Gautam, Arjun Radhakrishna, Sumit Gulwani. SkillAxe: Sharpening LLM-Authored Agent Skills Through Evaluation-Guided Self-Refinement. 2026. arXiv preprint. arXiv:2606.10546

[94] Zae Myung Kim, Young-Jun Lee, Seungyeon Jwa, Dongyeop Kang. Meta^n: Recursive Self-Improvement through Emergent Depth. 2026. arXiv preprint. arXiv:2608.24735

[95] Shuai Shao, Qihan Ren, Chen Qian, et al. Your Agent May Misevolve: Emergent Risks in Self-evolving LLM Agents. 2025. arXiv preprint. arXiv:2509.26354

[96] Xiqiao Xiong, Moxin Li, Zhixin Ma, et al. HASTE: Evolving Agent Harnesses Against Emerging Attacks Using Sparse Evidence. 2026. arXiv preprint. arXiv:2610.02920

[97] Geyi Yang, Zikun Qu, Xiang Li, et al. GUI-HARVEST: Self-Improving GUI Agents through Evidence-Driven Harness Evolution. 2026. arXiv preprint. arXiv:2610.00948

[98] Bingjun Luo, Jialin Guo, Siqi Li. Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution. 2026. arXiv preprint. arXiv:2609.37950

[99] Zixuan Ke, Vaidehi Patil, Haizhou Shi, et al. EvoHarnessBench: Can Your Agents Keep Pace with an Evolving Harness?. 2026. arXiv preprint. arXiv:2609.04280

[100] Jürgen Schmidhuber. Gödel Machines: Fully Self-Referential Optimal Universal Self-Improvers. 2003 (rev. 2006). arXiv:cs.LO/0309048; reprinted in Artificial General Intelligence, Springer, 2007, pp. 199–226, DOI 10.1007/978-3-540-68677-4_7

[101] Wujiang Xu, Zujie Liang, Kai Mei, et al. AutoMem: A Text-Gradient Recursive Self-Improvement Framework for Automated Memory Architectures Search. 2026. arXiv preprint. arXiv:2608.14621

[102] Yi Yang, Zhennan Chen, Yihong Zhuang, et al. RoMeRL: Balancing Feedback Coverage and the Memory-Reward Trap in Self-Evolving Agent Memory via Reduced-Order Utility States. 2026. arXiv preprint. arXiv:2608.02508

[103] Igor Bogdanov, Chung-Horng Lung, Thomas Kunz, et al. FORGE: Self-Evolving Agent Memory With No Weight Updates via Population Broadcast. 2026. arXiv preprint. arXiv:2605.16233

[104] Minhua Lin, Zhiwei Zhang, Hanqing Lu, et al. MemMA: Coordinating the Memory Cycle through Multi-Agent Reasoning and In-Situ Self-Evolution. 2026. arXiv preprint. arXiv:2603.18718

[105] Shu Yang, Junchao Wu, Derek F. Wong, Di Wang. SelfMem: Self-Optimizing Memory for AI Agents. 2026. arXiv preprint. arXiv:2607.03726

[106] Marc-Antoine Allard, Arnaud Teinturier, Victor Xing, et al. Experiential Reflective Learning for Self-Improving LLM Agents. 2026. arXiv preprint. arXiv:2603.24639

[107] Dasheng Bi, Yubin Hu, Mohammed N. Nasir. Real-Time Procedural Learning From Experience for AI Agents. 2025. arXiv preprint. arXiv:2511.22074

[108] Kaijie Chen, Chenyu Fang, Liang Yan, et al. Success Leaves Detours: Learning Executable Walkthroughs for Long-Horizon Agents. 2026. arXiv preprint. arXiv:2609.22120

[109] Anuva Banwasi, William Muckelroy III, Priya Sundaresan, et al. MessyMem: Learning-from-Doing Memory for Mobile Manipulation. 2026. arXiv preprint. arXiv:2609.15976

[110] Runzhe Wang, Huilin Lu, Shengjie Liu, et al. AdMem: Advanced Memory for Task-solving Agents. 2026. arXiv preprint. arXiv:2606.06787

[111] Gabriel Sarch, Lawrence Jang, Michael J. Tarr, et al. VLM Agents Generate Their Own Memories: Distilling Experience into Embodied Programs of Thought. 2024. arXiv preprint. arXiv:2406.14596

[112] Xu Liu, WenZhang Wei, Jun Cao, et al. NLPG: Natural-Language Policy Gradients for Self-Evolving Language Agents. 2026. arXiv preprint. arXiv:2609.33379

[113] Linfang Shang, Ming Xu, Yiding Sun, et al. When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents. 2026. arXiv preprint. arXiv:2608.05810

[114] Xiaojun Wu, Cehao Yang, Honghao Liu, et al. Bayesian-Agent: Posterior-Guided Skill Evolution Across LLM Agent Harnesses. 2026. arXiv preprint. arXiv:2606.08348

[115] Salaheddin Alzubi, Noah Provenzano, Jaydon Bingham, et al. EvoSkill: Automated Skill Discovery for Multi-Agent Systems. 2026. arXiv preprint. arXiv:2603.02766

[116] Siru Ouyang, Jun Yan, Yanfei Chen, et al. SkillOS: Learning Skill Curation for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2605.06614

[117] Kaiwei Liu, Jiqian Dong, Liran Dong, et al. SkillVine: Agent Skill Evolution via Branching Exploration. 2026. arXiv preprint. arXiv:2609.32731

[118] Yuyao Ge, Yiwei Wang, Yuchen He, et al. SkillForge: Co-Evolving Skills and Agents via Dynamic Skill Lifecycles. 2026. arXiv preprint. arXiv:2610.09832

[119] Yu He, Weikai Yang. SkillCommit: Evolving Agent Skills through Behaviorally Validated Scope Expansion. 2026. arXiv preprint. arXiv:2608.15165

[120] Zixi Huang, Xiheng Wang, Andrew Wang, et al. Better, Faster, Stronger: Programmatic Skill Learning Best Reduces Agent Cost. 2026. arXiv preprint. arXiv:2608.11338

[121] Doyun Kim, Chanwoo Kim, Sugyeong Eo, et al. EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents. 2026. arXiv preprint. arXiv:2608.30429

[122] Zhiwei Li, Yong Hu. SkillHone: A Harness for Continual Agent Skill Evolution Through Persistent Decision History. 2026. arXiv preprint. arXiv:2606.08671

[123] Liyan Tang, Cyrus Rashtchian, Chun-Sung Ferng, et al. WikiSkill: Compiling Agent Experience into Persistent Knowledge for Skill Evolution. 2026. arXiv preprint. arXiv:2608.27454

[124] Jiaming Wang. What Stops Recursive Self-Improvement in Robotics? Lessons from 123 Rounds of Agentic Skill Discovery. 2026. arXiv preprint. arXiv:2609.31760

[125] Bingjun Luo, Yuhuan Fan, Jialin Guo, et al. VideoEvolve: Evolving Agent Harnesses for Video Temporal Grounding. 2026. arXiv preprint. arXiv:2610.01766

[126] Xilin Dang, Weilin Ruan, Xue Yang, et al. MedZERO: Self-Evolving Agents for Open-Ended Medical Reasoning Through Controlled Knowledge Accumulation. 2026. arXiv preprint. arXiv:2610.08327

[127] Shilong Jin, Lanjun Wang, Zhuosheng Zhang. SE-GA: Memory-Augmented Self-Evolution for GUI Agents. 2026. arXiv preprint. arXiv:2605.16883

[128] Haiyu Huang, Jiewei Lyu, Zhihan Jiang, et al. From General Agents to RCA Experts: A Self-Evolving Harness for Root Cause Analysis. 2026. arXiv preprint. arXiv:2608.25661

[129] Seungyeon Kim, Junhoo Lee, Minkyu Kim, et al. Recursive Harness Distillation across Agents for Robot Manipulation. 2026. arXiv preprint. arXiv:2609.33378

[130] Loc X. Nguyen, Avi Deb Raha, Huy Q. Le, et al. Self-Evolving AI for Humanoids: Mechanisms, Safety, and Evaluation of Post-Deployment Self-Improvement. 2026. arXiv preprint. arXiv:2609.13236

[131] Peidong Wang, Zhiming Ma, Ying Chang, et al. Self-Evolving Embodied Agents via Skill-Harness Evolution. 2026. arXiv preprint. arXiv:2608.11350

[132] Zhen Tao, Riwei Lai, Chenyun Yu, et al. SAGER: Self-Evolving User Policy Skills for Recommendation Agent. 2026. arXiv preprint. arXiv:2604.14972

[133] Prithwish Jana, Viet Bach Hoang, Logan Luna, et al. AIProver: Agentic Auto-Formalization of Mathematical Research via Certificate-Driven Evolving Harness. 2026. arXiv preprint. arXiv:2610.05367

[134] Cunxi Yu, Haoxing Ren. Autonomous Evolution of EDA Tools: Multi-Agent Self-Evolved ABC. 2026. arXiv preprint. arXiv:2604.15082

[135] Mingquan Liu, Jiangyu Chen, Hanqun Cao, et al. AgentFold: Closed-Loop Agentic Search for Protein Folding Model Design. 2026. arXiv preprint. arXiv:2608.26747

[136] Zongxia Li, Dawei Liu, Fuxiao Liu, et al. COMFYCLAW: Self-Evolving Skill Harnesses for Image Generation Workflows. 2026. arXiv preprint. arXiv:2606.01709

[137] Qianshu Cai, Yonggang Zhang, Jun Nie, et al. A Theory of Reliable Self-Evolution for Agent Harnesses. 2026. arXiv preprint. arXiv:2609.08175

[138] Weixiang Zhao, Yingshuo Wang, Yichen Zhang, et al. Large Language Model Agents Are Not Always Faithful Self-Evolvers. 2026. arXiv preprint. arXiv:2601.22436

[139] Yike Wang, Huaisheng Zhu, Zhengyu Hu, et al. Rethinking the Evaluation of Harness Evolution for Agents. 2026. arXiv preprint. arXiv:2607.12227

[140] Siyuan Li, Jiangfeng Zhang, Rui Yao, et al. EverMine: Dissecting the Self-Evolution of Research Capabilities in Long-Horizon Alpha Research. 2026. arXiv preprint. arXiv:2609.33524

[141] Xing Zhang, Yanwei Cui, Guanghui Wang, et al. The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents. 2026. arXiv preprint. arXiv:2607.07436

[142] Mohammad Asadolahi, Amir Amini, Samira Talebi, et al. Memory Reward Inflation in Self-Improving LLM Agents. 2026. arXiv preprint. arXiv:2608.00017

[143] Minhua Lin, Juncheng Wu, Zijun Wang, et al. Harness Updating Is Not Harness Benefit: Disentangling Evolution Capabilities in Self-Evolving LLM Agents. 2026. arXiv preprint. arXiv:2605.30621

[144] Batu El, Mert Yuksekgonul, James Zou. Inefficiencies of Meta Agents for Agent Design. 2025. arXiv preprint. arXiv:2510.06711

[145] Siqi Yang, Qianlan Yang, Yu-Xiong Wang, et al. One Recipe, Many Harnesses: What Self-Evolution Encodes Across Languages and Models. 2026. arXiv preprint. arXiv:2608.10178

[146] Krti Tallam. Layered Mutability: Continuity and Governance in Persistent Self-Modifying Agents. 2026. arXiv preprint. arXiv:2604.14717