ハーネスレベルの再帰的自己改善：分類体系、証拠、フロンティア

要旨

エージェントの能力は、ますますその基盤モデルではなく、その周囲に構築されたハーネス——指示、コンテキスト管理、記憶、ツールとスキル、制御フローとオーケストレーション、そしてエージェント自身のコード——に依存するようになっている。過去2年間、エージェントがそのハーネスを書き換えることを可能にする研究が急速に蓄積されてきたが、その多くは共通の定義を持たないまま「再帰的自己改善」(RSI)とラベル付けされている。本サーベイはその範囲をハーネスレベルの再帰的自己改善に絞る。すなわち、基盤モデルが凍結またはほぼ凍結されており、エージェントが自身のハーネスを自動的に書き換えてその変更を保持し、それらの変更を生成または判定する仕組み自体が編集可能であるような設定である。

我々はこの分野を2つの直交する軸に沿って整理する。何が変更されるか(プロンプト$P$、記憶$M$、ツールとスキル$T$、ワークフローとオーケストレーション$W$、エージェント自身のコード$C$、ハーネス全体、および検証器)と、ループがどれほど tight かであり、これは変更を生成または判定するメカニズムが自身の編集可能集合に入るかどうかを追跡する再帰度$d$によって測定される。この第2の軸こそ、この分野の用語が最も誤解を招くところである。我々が全文を読んだ研究のうち、大多数は$d=0$であり、改善の仕組みが固定されたままコンポーネントを改善するものである。

3つの知見が各章を横断する。第一に、2026年におけるハーネスレベルの自己改善は、コンポーネントの書き換えからハーネス全体の探索へ、そしてグレーダーの共進化へと拡大しているが、真に自己言及的な研究($d\ge1$)は依然として乏しく、自己言及的なコードと評価器の共進化という2箇所に集中している。第二に、この分野で最も確固たる証拠は、誰がより多く編集するかについてではなく、誰がより少なく壊すかについてである。忠実性と受容の仕組み——汎化ゲート、非回帰ゲート、契約ベースの検証、統計的受容テスト、反事実プロトコル——は、報告されるほぼすべての向上に伴っており、その不在が報告されるほとんどの回帰を説明する。第三に、理論と監査の一連の研究により、今や我々は限界を正確に述べることができる。ハーネスの更新は、失敗するタスクでの向上が保持されるタスクでの起こりうる損失と評価誤差を補うときに採用する価値がある。自己報告の報酬シグナルは膨張し、それを補正するには、その誤差が当該自己報告と無相関である検証器が必要である。偽合格のグレーダーは、どのようなサンプルサイズであっても引退を静かに無効化しうる。そしてハーネス更新能力は基盤モデルの能力に比例して拡大しないため、より強力なメタエージェントが梃子になるわけではない。

1 はじめに

1.1 なぜ本サーベイを、そしてなぜ今か

言語モデルをエージェントで包むことは標準的なエンジニアリング実践となっている。モデルの外側のコード層が、指示を組み立て、ツールを呼び出し、コンテキストを管理し、記憶を維持し、タスクを分解する。2023年頃、この層はまだ手作業で磨き上げられていた。2026年までには、「エージェントにこの層を書き換えさせる」ことは、独自の名称、ベンチマーク、対照群を備えた研究路線となっている。2026年10月のたった1週間で、ハーネス進化に関する論文の一群[43–51]が生まれ、その周辺の語彙——自己進化ハーネス、ハーネス進化、再帰的ハーネス自己改善——は、共有された定義よりも速く広まった。

その語彙は、少なくとも三つの異なるものを混ぜ合わせている。すなわち、タスク内で出力を修正すること、改善されたプロンプトやスキルをタスクをまたいで保持すること、そして何を改善すべきか、またそれが機能したかどうかを決定する仕組みそのものを書き換えることである。既存のサーベイは自己改善と自己進化を広く扱っており[1, 4, 5]、再帰のスペクトル自体をマッピングした研究[2]や、自己進化するエージェントにおける安全性を調査した研究[6]もあるが、ハーネス層を対象とし、各研究をそのループがどれだけ緊密に閉じているかで評価した先行レビューは存在しない。本サーベイはこのギャップに対処する。

1.2 我々が引く境界

我々は、改善ループがハーネス上で閉じる研究を含める。すなわち、変更される対象がプロンプト、メモリシステム、ツールやスキルのライブラリ、制御フローやオーケストレーション、コンテキスト管理、サブエージェントの役割、あるいはエージェント自身のコードやスキャフォールディングプログラムであるものである。これには二つの帰結が伴い、いずれも一貫して適用する：

• モデルの重みも更新するシステムであっても、そのループがハーネスに触れる限りは含める。重みとハーネスの共進化は例外ではなく本流の一部である（9.1節）。
• ハーネスに一切触れない、純粋に重み側の自己訓練、自己報酬、自己対戦は背景として扱う[22–24]。何も保持しない一回限りの自己洗練[16, 17]や、一度きりのプロンプト最適化を伴う静的スキャフォールディング[18–21]も同様である。

一つの明確化が何よりも重要である。なぜなら、それが最も一般的な混乱の源だからである。ここでの「再帰的」とは二値のラベルではなく、段階的に評価できる緊密さである。問題は、ある変更が変更を生み出す演算子に到達するか、あるいはそれらを判定する検証器に到達するかである。2節でこれを形式化し、3節でこれを用いて文献を整理する。

1.3 構成

図1. サーベイの構成：2〜3節で語彙と座標を定め、4〜7節がハーネス層の背骨であり、8〜9節が理論と層をまたぐ境界を扱い、10節がエビデンスを監査し、11〜13節が領域、未解決の問い、結論を扱う。

図1は各章の関係を示す。4節は最も困難な分枝、すなわち自身のコードを書き換えるエージェントを扱う。5節は構成要素ごとに見ていく。メモリとツール・スキルが最も密度の高いエビデンスを担い、プロンプトとオーケストレーションは意図的に薄く扱う。6節はハーネス空間がどのように探索されるかを問い、7節はある編集が意味を持つかどうかを誰が決定するかを問う。8節は保証できる事柄——採用条件、報酬のインフレ、評価者のバイアス、容量の限界——を集め、9節は共進化、安全性、評価を扱う。10節は最先端に対して新たなものであり、負の結果に関する監査章である。11節は応用を検証可能性の観点から読み解き、12節は未解決の議論をそれぞれの側のエビデンスとともに述べる。

1.4 範囲に関する注記

• カットオフ: 2026-10-13、当ライブラリにおけるv1投稿日による。改訂版は重要な箇所で区別している。
• 検索: 6つの相補的ルート（自己進化するハーネス、自己言及的コード、進化的アーキテクチャ探索、スキル・ツール・メモリの蓄積、エージェントアーキテクチャとメモリの自動設計のための意味的ルート、加えてハーネス名を持つ著作を対象とするキーワードルート）を統合して単一の候補プールとし、さらに2022年まで遡る手作業で確認したアンカーリストを加えた。
• スクリーニング: 包含基準は1つ——その研究がハーネスレベルの自己改善に触れているか——であり、プールに対して自動スクリーニングとして適用し、その後13のリーフへのマルチラベル分類を行った。境界を横断する研究は、リーフに無理に押し込めず、別個のバケットとして保持した。
• 読解の深さ: 2回の全文読解ウェーブにわたって111本の論文を処理した。1本（STOP [7]、本文がいずれのウェーブでも取得できなかったもの）を除くすべてをセクション単位で読み、残りの研究はアブストラクトまたはメタデータのレベルで引用している。第5節のプロンプトとオーケストレーションのサブセクション、および第9節の評価と共進化のサブセクションは、該当箇所に注記したとおり、より薄い証拠に基づいている。
• カバレッジの限界: 4つの意味的ルートは検索上限で飽和したため、切り捨てが生じている可能性がある。キーワードルートは「harness」と名付けられた著作にしか到達しない。第2読解ウェーブでは、薄い各リーフを網羅的ではなくサブタイプごとに抽出した。したがってこれは、定義された範囲について、基準に整合した文書化されたサーベイであり、網羅的な全数調査ではない。

2 予備知識：定義、形式化、位置づけ

2.1 ハーネスとは何か

我々はエージェントシステムをベースモデルとハーネスに分割する。ハーネスとは、ベースモデルの外側にあり、書き換え可能で、その後の振る舞いを形作るすべてのものである：システムプロンプトと指示、コンテキストと圧縮ポリシー、メモリと経験のストア、ツールとスキル（実行可能なサブエージェントを含む）、ワークフローと制御フロー、そしてエージェント自身のコードまたはスキャフォールディングプログラム。この分割は、エージェントを基盤モデルと更新可能な外部状態としてモデル化する既存の扱い[1]、および「モデル＋ハーネス」というエンジニアリング上の言い回し[54]と一致する。

この分割の下で、「自己改善」は少なくとも3つのレジームを包含し、文献はしばしばこれらを混同している：

表1. 自己改善の3つのレジーム。編集が持続するかどうか、およびそれらを生産または判定する機構自体が編集されるかどうかによって区別される。

区別するための問いは、システムがどれだけ編集するかではなく、ループがどこで閉じるかである。何を、どのように編集するかを決め、その結果が妥当かどうかを判断する仕組みそのものが、編集可能な集合の内側にあるときにのみ、私たちはそのループを再帰的と呼ぶ。先行研究も別の方向から同じ点を指摘している。「コードを編集する」ことを再帰の証拠とみなすのは再帰を過大評価することになり[2, 3]、私たちのコーパスにある記憶に関する研究の一つは、自らのsolve–probe–repair–commitサイクルを明示的に疑似再帰的と名付けている。なぜなら、変化するのは記憶の内容だけで、制御プログラムは一定のままであるからだ[104]。

2.2 共有された形式化

第4節から第10節では以下の記法を用いる。ハーネスは5つ組である

$$H = (P,\ M,\ T,\ W,\ C)$$

ラウンド$t$において、改善演算子$U$は経験または評価シグナル$E_t$を候補$H_{t+1} = U(H_t, E_t)$に変換する。検証器$V$が採用を決定し、候補は$V(H_{t+1}; H_t)=1$である場合にのみ保持される。再帰度$d$は、変化が$U$または$V$自体に到達するかどうかを記録する。$d=0$はコンポーネントのみを意味し、$d\ge1$は改善の仕組みがそれ自身の編集可能な集合の内側にあることを意味する。$d$は段階的な評定であり、ゲートではない。第7節では、評価者のプロンプトや批評家が最適化変数になる場合のように、$V$がループに入る設定について論じる[69, 74]。

表2. 第4節以降で使用される記法。

この座標系を用いると、この分野におけるほとんどの意見の相違は、3つの具体的な問いに還元される。$H$のどのコンポーネントが編集されるのか、$V$がどのシグナルを用い、それがどれほど厳格なのか、そして$U$と$V$がそれ自身のループに入るのかどうか、である。

2.3 分野はどのように発展したか

図2. ハーネスレベルの自己改善におけるマイルストーン。2022年の初期のスキャフォールド自己書き換えから、2026年のハーネス全体の探索、評価者の共進化、監査の波への分裂まで。

2つの転換点が際立っている。第一は、2024年から2025年にかけて、プロンプトやスキルの編集からコードベースの編集への移行である。Gödel Agent [10]とDarwin Gödel Machine [11]は、エージェント自身のプログラムを変更の対象としたが、両者とも改善演算子は固定したままであった。第二は、2026年における、明示的な忠実性の仕組みを伴うハーネス全体の探索（第6節）と、統計的受理検定を伴う評価者の共進化（第7節）への密接な分裂であり、それにほぼ直ちに、両者の主張を検証する監査文献（第10節）が続いた。

2.4 関連するサーベイ

表 3. 関連サーベイと本サーベイの違い。注：項目は検証済みの書誌レコードから引用している。締め切り時期が異なるため（[4, 5] は 2025 年、[1–3, 6] は 2026 年）、対象年は直接比較できない。

本サーベイを際立たせる点は三つある。ハーネス層を境界として固定していること、二つの直交する軸——何が変わるか、ループがどれだけ Tight に閉じるか——に沿って資料を整理し、各研究について $d$ を記録していること、そして忠実性と受理の仕組みを独立した章に昇格させていることである。この仕組みが、報告された根拠がどこまで耐えうるかを決めるからである。

要点

• ハーネスとは、基盤モデルの外側にあり、書き換え可能で、その後の振る舞いを形作るすべてのものである。我々が含めるのは「LLM を使う」ことではなく、この境界である。
• 自己改善はループがどこで閉じるかで評価すべきである。すなわち、編集が持続するか、そして改善の仕組み自体が編集可能か（再帰度 $d$）である。
• 2024–2025 年はコードベースの編集が中心であり、2026 年はハーネス全体の探索とグレーダの共進化、そして直ちにその両方の監査が中心となった。
• 既存のサーベイは自己進化または再帰のスペクトラムを扱っているが、ハーネス層を対象とし、ループの Tightness で研究を評価するものはない。

3 二軸の分類法

3.1 主軸：何が変更されるか

この文献において最も説明力の高い組織化の軸は改変の対象である。すなわち、$H=(P,M,T,W,C)$のどの構成要素が書き換えられるのか、あるいはシステムが構成要素を飛ばして構成全体を探索するのか、という点である。この軸は、なぜ手法の形がこれほど大きく異なるのかを説明する——プロンプトはテキスト勾配に道を譲り、コードはプログラム合成を要求し、ワークフローはグラフ探索を促す。我々はスクリーニング済みコーパスを13のリーフに分類し、そのうち5つが構成要素の背骨を形成する：

• 自己言及的コードとスキャフォールディング（$C$）：エージェントが自身のプログラムを書き換える。ここに最も困難な再帰が存在し、系譜が最も明確である（第4節）[8–14, 31]。
• メモリ（$M$）：メモリ内容の編集からメモリアーキテクチャのメタ進化まで（第5.1節）[78–85, 101–112]。
• ツールとスキル（$T$）：スキルライブラリの生成、検証、キュレーション、廃止、ルーティング（第5.2節）[15, 86–93, 113–124]。
• プロンプト（$P$）とワークフロー／オーケストレーション（$W$）：証拠はより薄いが、プロンプト最適化とエージェントアーキテクチャ探索の伝統を受け継いでいる（第5.3節）[18–21, 50, 62, 63]。
• ハーネス全体：特定の構成要素ではなく、探索変数は構成全体であり、それゆえこの分枝は独自の忠実性機構を必要とする（第6節）[40–57]。
• 検証器／グレーダー：対象は、変更を採用するかどうかを決定する機構、すなわち$V$そのものであり、$d\ge1$が最も濃密に現れる場所である（第7節）[67–77]。

3.2 副軸：ループの緊密さ

第二の軸は再帰度$d$である。これはすべてのリーフ内で再帰し、同一機構の弱い形と強い形を分ける。二つの対比がこの点を示す。自己言及的コードにおいて、Live-SWE-agent [29]はエージェントが現在のエピソードのためにその場でツールスクリプトを書くことを可能にする（$d=0$）のに対し、Hyperagents [14]はタスクエージェントとメタエージェントを一つの編集可能なプログラムに統合し、変更を生み出す機構自体が編集可能となる（$d\ge1$）。メモリにおいて、A-MEM [81]は実行時にノート内容を進化させる（$d=0$）のに対し、MemEvolve [78]はencode/store/retrieve/manageインターフェースを実装するコードを外側の進化対象とする（$d\approx1$）。

両方の読解の波を通じて、$d\ge1$集合は列挙できるほど小さく、三つの場所に集中している：

表4. $d\ge1$ がコーパス内で実際に現れる場所を、それ自身の編集可能な集合に入るハーネスの部分ごとに示したもの。

主軸と交配させることで、これが本サーベイの座標系となる。列はコンポーネント、行は緊密さであり、表4は最上行を占める研究を列挙している。研究の大部分は最下行に位置し、最上行は薄い。このこと自体が一つの知見であり、理論が部分的に説明するものである（8.4節）。

3.3 分類ツリー

図3. 二軸の分類法。主軸は何が変更されるかを記録し、副軸はループがどれほど緊密に閉じるかを記録し、境界帯はコンポーネントではない層横断的な関心事を集める。

3.4 なぜ他の軸ではないのか

我々は三つの代替案を検討し、却下した。

年別。 この分野は一年よりも速く反復する。時系列で分割すると、一つのメカニズムの変種が異なる章に分かれ、系譜が埋もれてしまう。

アルゴリズムファミリー別（進化的、強化学習、テキスト勾配）。同一ファミリー内の研究でも異なるコンポーネントを改変することが多く、アルゴリズムはしばしば実装上の詳細にすぎない。たとえばバンディットは、コンポーネント選択[49]と親融合の選択[50]の両方に現れる。

バイナリの「再帰的か否か」テスト別。 これは最も情報量の多い中間領域を捨ててしまい、実際の用法とも矛盾する。RSIと自称する多くの研究はわれわれの用語では$d=0$であり、逆にその語を一度も使わないいくつかの研究は$d\ge1$である（第7節）。段階的な軸があるからこそ、本サーベイは用語だけでは言えないことを述べられるのである。

要点

• 第一の軸は何が変化するかである：$C$、$M$、$T$、$W$、$P$、さらにハーネス全体と検証器のリーフを加えた計13のリーフ。
• 第二の軸は再帰度$d$である：各リーフ内で弱い形と強い形を分離し、ほとんどの研究は$d=0$に位置する。
• $d\ge1$の集合は小さく列挙可能であり、自己言及的なコードと評価器の共進化に集中し、記憶、スキル、ハーネス全体の探索、応用にそれぞれ単発の事例がある。
• 層をまたぐ関心事——共進化、理論、安全性、評価——はコンポーネントの背骨に混ぜず、境界帯として保たれる。

4 自己言及的なコードと足場の自己書き換え

この分岐では、エージェントが自身のプログラムを書き換える（$C$）ことを許すため、再帰は文字通りになりうる。編集されるプログラムが編集を生み出すコードを含むようになれば、ループは自己言及的になる。われわれはその系譜をたどり、続いて比較表で強い形と弱い形を分ける。

4.1 起源：改良の対象としての足場プログラム

最初期の二つの試みはいずれも「プログラム」を遺伝する個体として扱う。Self-Programming AI [8]は、コード言語モデルを用いてエージェント自身のソースファイルの新しい版をサンプリングし、固定された部分集合での平均訓練損失によって候補を選択する。報告されているのはMNIST 92→98%、CIFAR-10 20→70%、EMNIST 70→87%である。STOP [7]はさらに進み、改良器たる足場が自身を改良することを許す。効用関数を与えられると、言語モデルを呼び出して改良戦略——候補にはビーム探索、遺伝的アルゴリズム、シミュレーテッドアニーリングが含まれる——を提案させ、その後バックテストして選択する。STOPはまた、この分野の断層線を今日なお規定する限界も述べている。足場だけが変化しモデルは変化しないため、これは「完全な再帰的自己改善ではない」というのである。その全文は二度の読解の波のいずれにおいても入手できなかったため、本稿の記述は要旨と第一波の読解ノートに従う。

両者はわれわれにとっても境界事例である。両者が編集するのはエージェントのハーネスではなく、モデルのソースや足場プログラムであり、またSelf-Programming AIでは選択の信号が能力の増大と絡み合っている。

4.2 アーカイブと開かれた系譜

2024年から2025年にかけて、この流れは一度改良する段階から、継続的かつ開かれた形で改良する段階へと移る。Gödel Agent [10]は編集対象を足場プログラムからエージェント自身の論理と振る舞いへと広げ、Gödel machine [100]をその知的源として明示的に掲げる。ADAS [9]はメタエージェントプログラムにエージェントを「より良く」させ、チューリング完全な言語は原理的にあらゆるエージェント設計を表現しうるという所見を添える。両者とも、改良演算子は人間が書いたままである。メタエージェントの手続きは固定されている。

Darwin Gödel Machine（DGM）は、固定された人間の書いたメタエージェントを編集対象そのものに置き換えることで、この状況を変える——単一のPythonコードベースが、問題解決エージェントとしても、自身のミューテータとしても機能する——そして、単一の最新バージョンからの山登り法を、性能と探索に基づいてサンプリングされる変種のアーカイブに置き換えることによって[11]。

図4. Darwin Gödel Machineのループ：親がアーカイブから選択され、コーディングエージェントが自身のリポジトリ上での自己修正によって生成され、その結果がアーカイブに戻される。右パネルは2つの分岐を示す——自己改善命令によって自身のリポジトリを書き換えること、およびタスク命令によってタスクリポジトリを解くことである。図は[11]より。

我々の記法では、DGMの$U$は「親をサンプリングし、言語モデルに自身のコードと評価ログを読ませ、自身に対する差分を書かせる」ことであり、$E_t$はタスクごとの評価ログ記録であり、$V$は結果が依然としてコンパイル可能であり、かつ自身のコードを編集する能力を依然として保持していることを要求するハードゲートである——ベンチマークスコアは合否の基準としてではなく、ラベルおよびサンプリング重みとして機能する。著者らは80回の反復でSWE-benchが20.0%→50.0%、Polyglotが14.2%→30.7%となったことを報告しており、アブレーションでは自己改善なしで39.0%、オープンエンドな探索なしで23.0%であることが示されている。特筆すべきは、安全性の設計——サンドボックス化、人間による監督、および「記録するが破棄しない」というソフト選択ルール——が、まさに無制限の探索が暴走するのを防ぐために存在していることである。第9.3節でこれに戻る。

その後の3つの道筋は分岐した。SICA [12]はメタ／ターゲットの区別を捨てる：アーカイブ内で最も効用の高いエージェントがコードベース全体を編集し、効用関数の実装もまた編集されるコードの内部に存在する；その代償は目に見える形で、おおよそ$7,000 of API spend for one run (SWE-bench Verified-50, 17%→53% over 15 iterations). The Huxley-Gödel Machine [13] replaces "select parents by benchmark score" with an estimate of clade metaproductivity (CMP), and decouples expansion from evaluation into an asynchronous pipeline, exceeding DGM on SWE-bench Verified-60 (56.7% vs 53.3%) at about 1/2.38 of the CPU hours. Hyperagents [14] merges the task agent and the meta agent into a single editable program, so the metalevel modification process itself becomes modifiable — the first work in our corpus to cross $d\ge1$が明示的に；論文レビュースコアは0.0から0.710を報告しており、静的ベースラインの0.630を上回り、メタレベルの転移はimp@50で0.630に対し、DGM変種では0.0である。

同じメカニズムは異なる領域にも現れる：HADA [31]では、タスクエージェントが最適化プロジェクトのソースを書き換え、ハイパーエージェントがタスクエージェントと自身を書き換え、COCO-BBOBにおいてホールドアウト平均0.9674を報告しており、GLEETの0.8942、DQN-DEの0.8831と対比される。すなわち、メタレベルの自己修正はコーディングベンチマークのキャリアに依存しない——ただしHADAの親サンプリングは単純なヒューリスティックのままであり、その利得は連続最適化に限定されている。

図5. HADAの共同ワークフロー：ハイパーエージェントとタスクエージェントが互いを、さらにはプロジェクトソースをも修正し、2つのエージェント自身以外のすべてのファイルが共進化の範囲内にある；中央パネルは低レベルのオプティマイザを制御するメタレベルの設計ポリシーに基づいて構築された訓練段階とテスト段階を示し、右パネルはこのオープンエンドで自動的な設計を、以前の手動または限定的なパイプラインと対比している。図は[31]より。

4.3 研究成果物から本番システムへ

2026年には、自己書き換えを実システムへ移そうとする試みが現れた。Ouroboros [28] は、フロンティアなコーディングエージェントの自己開発を「レビュー済みコア進化」と対話型の人間モードを中心に組織する。MOSS [27] は編集対象を本番ベースのハーネスソース（ルーティング、ディスパッチ、フックチェーン）へ広げ、「合成ベンチマーク＋スコアゲート」を7段階パイプライン、シャドウリプレイ、デプロイ前の人間による承認に置き換える。本番ベース上で、1ラウンド後に0.2526→0.6100を報告している。AIDE² [32] は目的をエージェント自身のAI研究効率へと向け直し、外側のエージェントが内側のエージェントのハーネスコード全体を書き換える双方向ツリー探索を用いる。4つのホールドアウトベンチマークで人手構築のベースラインと同等以上（ALE 1790 対 1511、MLE 0.722 対 0.708）を達成しつつ、報酬ハッキングを55%から32%へ削減する。Live-SWE-agent [29] はこの系統の弱い形態である。目下のエピソード向けにツールスクリプトをその場で書き（SWE-bench Verified 77.4% 対 ベースの74.2%）、自身のコードを編集することは一切なく、そのツールはタスクをまたいで持続しない。

4.4 進捗シグナル：再帰は速度と同じではない

この系統で最も誤読されやすい主張は、再帰が改善を速めるというものである。3つの比較がそうではないことを示す。HGM [13] はCMPを用いて探索を導き、DGMのCPU時間の約1/2.38でSWE-bench Verified-60においてより高いスコアに到達する。SIFT [30] は「すべての候補をベンチマークで評価する」を「まず安価なペアワイズ言語モデル判定で候補を順位付けし、次に評価優先度を決める」に置き換え、Polyglot-225で35.1%を報告する（DGM 30.7%、HGM 30.5%、SICA 25.1%に対し）、224 CPU時間／$34.3 — under the same verification budget. RHI [42], though it belongs to whole-harness search, shows the same pattern, improving performance while cutting normalised cost to about 60% of the baseline (Section 6). None of the three raises $ドルで。3つはいずれも評価予算の使われ方を改善している。

逆に、開放-endedな探索は支柱となっている。DGMからそれを取り除くと、スコアはほぼ開始点まで戻る [11]。誠実な読み方は、開放性が買うのは探索の質であり、探索の速度ではないということである。この区別はセクション10で、ハーネス進化にとってさらに不利な、予算を揃えた対照実験とともに再訪する。

4.5 弱い形態と境界事例

以下の研究はコードを編集するが、あくまで構成要素のみであるため、$d=0$であり、再帰的コアから切り離さなければならない。

• Spell [26] はオーケストレーションを完全にモデルに委ね、その補完がすなわちオーケストレーションプログラムとなる。手構築のコーディングエージェントと半分のコストで同等であることを報告する（TB1.1: 40/80 対 43/80、$40.7 vs $83.9、6.5M 対 94.7M トークン）が、変わるのは方針を誰が表現するかであり、表現可能な方針そのものではない。
• Grow the Harness [37] と EvolveNet [38] は、外部のオフライン最適化器またはスコープ型のサーバー側アグリゲータでハーネスソースを書き換える。改善の仕組みは固定されている。Grow the Harnessは6つのベンチマーク-モデルセルのうち5つで最良の結果を報告しつつ、LLM呼び出しを76–92%、オンラインコストを74–99%削減する。EvolveNetはHolm補正の下でBIRD 57.3→70.7、DS-1000 55.5→68.5、LCB 33.3→66.7、SWE-V 37.5→57.5を報告する。
• Trace/OptoPrime [35] はゲームプレイ方針のコードをテキスト勾配で書き換える。方針であって、エージェントハーネスではない。
• Hierarchical Self-Improvement [36]、Self-Evolving Software Agents [33]、Agents of Change [34] は進化モジュールを推論ループの外に置くか、3層に組織化するが、演算子と基準は人間が設定したままである。
• Learning from Research [39] は研究タスクをまたぐ生涯ハーネス進化を追求するが、ここでも外部機構は固定されている。

表5. 自己言及コードとスキャフォールディング手法の比較。起点から再帰的コアへ、そして弱い形態へと順に並べている。注: 条件は行間で比較可能ではない — ベンチマーク、ベースモデル、反復予算、コスト計上はすべて異なる。結果列は、記載された条件下での著者の数値をそのまま転記したものにすぎない。

要点

• 系譜は DGM → SICA → HGM → Hyperagents と続く。編集対象はスキャフォールドプログラムからコードベース全体へ、さらにメタレベルの変更プロセス自体へと広がる。HADA はオプティマイザ設計において同じ動きを示す。
• $d\ge1$ の閾値とは「生成を行う仕組みが編集可能な集合の内側にあるか」である。この分枝で明らかにこれを越えるのは Hyperagents と HADA の2作品である。
• 再帰と速度は別物である。HGM、SIFT、RHI は主に評価予算の配分を改善することで利得を得ており、より激しく編集しているわけではない。一方、DGM からオープンエンドな探索を取り除くとその利得は消える。
• 同じ葉に属する多くの作品（Spell、Live-SWE-agent、MOSS、Grow the Harness、EvolveNet）はコンポーネントを編集するだけである。これらを再帰的コアと併合すると、この分野の成熟度を過大評価することになる。

5 コンポーネントレベルの進化: 記憶、ツール、スキル

本章では、単一のコンポーネントを中心に組織された2つの分枝を扱う。その手法の形は第4節とは異なる。対象がデータ構造や実行可能単位であるため、進化はより細粒度になり得て、蓄積も可能である。どちらの分枝も同じ内部階層 — コンテンツレベルの進化、次いでメカニズムレベルの進化 — を示しており、どちらも最終的には生成ではなく選択によってボトルネックとなる。

5.1 記憶: 4つのレベル

記憶の自己進化には明確なエスカレーションがある。

コンテンツレベル。 A-MEM [81] は、書き込み時にモデルが原子的なノート（キーワード、タグ、文脈）を構築し、新しいノートが既存のノートの書き換えを引き起こすようにする。これによりセッション内の記憶は生きているが、フィールド、プロンプト、検索の top-$k$、エンコーダは人間が書いたままである（$d=0$）。LoCoMo の時間的質問において F1 45.85 を報告しており、MemGPT の 25.52 に対して、クエリあたりおよそ 2,520 トークンである。ICAL [111] は記憶のエンコーディングを編集する。VLM がノイズの多い軌跡を再エンコードして、タスク/因果的抽象化、サブゴール、状態抽象化を注釈した検索可能な例にする。これは弱い $d\approx1$ に位置する。なぜなら抽象化オペレータが保存されたライブラリを文脈内入力として受け取るため、ライブラリの内容が将来の候補の生成方法を変えるからである。著者らはこの効果を、相互作用とフィードバックの回数が減少することとして定量化している。しかしプロンプト、抽象化チェックリスト、検索式、top-$k$、受け入れ規則は変更できず、自己言及は暗黙的で、監査不能かつ最適化されていない。またこれは我々が保持した中最も古い作品（2024年）であり、その「忘却しない」という主張は機械論的（VLM は凍結、ライブラリは追記専用）であって、以前のタスクに対するバックテストはない。

ユーティリティレベル。 MemRL [80] は各メモリにオンラインユーティリティ $Q$ を付与し、類似度とユーティリティの和（$d=0$）で検索を再ランク付けする。10ラウンド平均でLast/CSR 0.772/0.798を報告している。Trace [108] はメモリの単位そのものを変更し、トランスクリプトやリフレクションではなく状態条件付きの実行可能なウォークスルーを保存する。3つのベンチマークと3つのバックボーンにわたり、最強のベースラインに対してAUC +30.0%、Final-3 +40.5%を報告している。RoMeRL [102] はユーティリティレベルの手法がなぜ失敗するかを診断する。タスクごとの軌跡インデックスに対するユーティリティ学習は、限られたフィードバックを希釈し、単に共検索されただけのメモリを報酬ハックする。なぜなら軌跡レベルの報酬は、それとともに検索されたすべてのものに共有されるからである。その修正は、ユーティリティ状態を4つの意味座標へと縮約し、厳格な容量上限と負の証拠の受け入れ閾値を設けるものである。報告されているタスコアの向上は小さく統計的に裏付けられていない（10ラウンドにわたるマクロ平均は0.753対MemRLの0.724、単一実行、分散なし。AppWorld TGCは0.306対0.313でわずかに悪化）。一方、効率の証拠はより堅牢である——LLM呼び出しは21.1%減、メモリプールのエントリは84.4%減、第10ラウンド時点でノイズ比0.15%。

スキルレベル。 MemSkill [79] はメモリ抽出と組織化そのものを、学習可能で進化可能なスキルライブラリとする。PPOコントローラが書き込み時にスキルを選択し、デザイナーモジュールがそれらを洗練する（LoCoMo 53.82対A-MEMの49.71）——このリーフでメモリを書く規則を進化に組み込んだ最初の研究である。MemMA [104] はコンテンツレベルの最も明快な例であり、より有用には、本サーベイが依拠する区別の源泉でもある。そのセッション内の構築→プローブ→修復→コミットのサイクルは再帰的に見えるが、その不動点はメモリの内容であり、制御プログラムは一定である。著者自身の用語は示唆に富む——この構造は疑似再帰的であり、機構ではなく状態を結合している。その数値は強力である（LoCoMo conv-26、152問：49.40 F1 / 81.58 正解率 対 LightMemの44.58 / 75.66）。またその構築フェーズのギャップ閉鎖率は92.2%（59/64）である。しかし修復を検証するプローブは、修復対象と同じセッションから生成され、同じストアに書き戻されるため、何も独立に検証されていない。さらにコスト計算も、ライブラリサイズや冗長性の測定もない。

アーキテクチャレベル。 MemEvolve [78] はメモリインターフェースを実装するコード——エンコード、保存、検索、管理——を外側の進化対象とし、内側のループは内容のみを更新する。GAIA pass@3が69.09から80.61へと向上したと報告している。AutoMem [101] は既存のエンコード/保存/検索/管理の選択肢の組み合わせを、経験誘導型探索と失敗誘導型モジュール診断によって探索する。Qwen3.5-122B-A10BでGAIA 71.5対MemoryBankの67.8、より小型のGPTモデルで75.2対MemEvolveの73.3を報告している。そのアブレーションはこのリーフで最も有用な単一の負のデータである。診断または探索のいずれかのコンポーネントを除去すると、GAIAはそれぞれ64.2と57.9に低下し、メモリなしのベースライン65.0を下回る——メモリの利得が負に転じるのである。著者らは、この手法が「主に既知のメモリ機構の新しい組み合わせを発見する」ものであることを明言し、まったく新しいモジュールの生成は今後の課題として残している。これが、我々がこれをアーキテクチャレベルだが再結合のみ、と記録する理由でもある $d=0$。

このリーフに含まれる2つの研究はさらに踏み込んでおり、分けて論じる価値がある。SelfMem [105] はメモリの内容ではなくメモリ戦略を最適化する。モデルは再利用可能な新しいメモリ手順を定義し、システムレベルの変更を記録でき、ポリシーノートは集約された有用性フィードバックから書き換えられる。これにより、書き込み・検索の意思決定を生み出す機構そのものが編集可能な集合の内側に入るため、$d\approx1$ に到達する。ただし、改良用プロンプト、公式ジャッジ、ガードレール、監査制約は固定されたままであるため、$d\ge2$ には到達しない。BEAMを100K/500K/1Mの各スケールで報告しており、スコアは0.504/0.487/0.454で、各スケールにおける最強のベースラインの0.339/0.346/0.320と比較される。また1Mスケールでは、$2.004のAPI呼び出しによって埋め込みリクエストをゼロにして0.454を達成する。その明示されたギャップは、コンポーネントレベルのアブレーションが存在しないことである。FORGE [103] は同じリーフにおける別の設計上の動きである。単一の系統ではなく、チャンピオンメモリを段階的な卒業を伴って並列インスタンス間でブロードキャストし、CybORG CAGE-2のディフェンダーをゼロショットの−189.6から−24.5へ（7.7倍）引き上げる。そのアブレーションは、利得を卒業ではなくブロードキャストに帰属させており、卒業は主に計算量を節約する。

これらに加えて、このリーフにはエンジニアリング上の変種——Memento [82]、Live-Evo [83]、MindMemOS [84]、GenMem [85]、ERL [106]、PRAXIS [107]、MessyMem [109]——が含まれており、これらは主要な系統と同じ故障面を共有し、5.4節でそれとともに論じられる。

5.2 ツールとスキル：生成、検証、キュレーション、退役、ルーティング

この分枝の成熟度は、スキルを生成できるかどうかではなく、生成後に何が起こるかに現れる。

生成。 Voyager [15] は創始的な事例である。「タスクごとに1つの動作するコード片」を、永続的で検索可能かつ合成可能なスキルライブラリへと変え、自己生成カリキュラムと、別個の批評家をジャッジとする自己検証の入場ゲートを追加する（160回の反復で63項目を発見し、ベースラインの約3.3倍であり、新しい世界へゼロショットで転移する）。AgentFactory [88] は粒度を実行可能なサブエージェント（Pythonコードとスキルドキュメント）へと引き上げ、単に保持するのではなく、タスク成功時にそれらを永続ライブラリへ昇格させる。OpenSkill [92] は、スキル内容の出所と、それを改善するものを変える。内容はオープンワールドの検索証拠から得られ、改善シグナルは対象タスクに関する教師信号ではなく、自己構築された仮想テストから得られる。

検証。 SkillSandbox [86] はスキルをまったく書き換えない。どのスキルをライブラリに入れてよいかを決定し、対象スキルの周囲にタスクと環境を合成し、ペアのロールアウトによってその期待効用を推定し、その推定値が非正になった時点で枝刈りする。SkillCommit [119] は同じ考えを厳格な契約へと変える。パッチは受け入れ前にその元のインスタンスで成功を再現しなければならず（これだけを除くと平均が71.11から53.33へ低下する。これはその論文における単一のアブレーションで最大のものである）、さらに行動的に検証されたスコープ拡張ルールは、候補が宣言されたスコープ内で既に合格しているすべての元インスタンスを保持することを要求し、そうでなければ分割または却下される。同論文は同一ソース構成において6タスク平均で68.24→87.57を報告しており、そして——本サーベイにとって最も有用なことに——自身の編集が24/0および21/2である一方、ベースラインは一部のインスタンスを修正するものの、以前は正しかった多くのものを壊すという、助け／害の分解を報告している。『Self-Evolution Backfires』[113] はそのタイミングを形式化する。スキルを蒸留すること自体が問題なのではなく、それらを認めることが問題なのである。その3層の信頼スキームは、候補をエージェントから見えないCold層に保ち、単独でテストし（Gate 1：スキーマ、単一スキルのA-Bリプレイ、および意味論的批評家の3つすべての連言）、その後で合同でテストする（Gate 2：限界利得に基づく貪欲な部分集合選択、「一緒にしても無害か？」）。その結果は容量汚染の相転移である。ゲートなしの累積はラウンド3で105スキルとともに62%まで上昇し、その後ラウンド5で179スキルとともに50%へ後退する一方、ゲート付きの変種はわずか37スキルで72%まで単調に上昇する。第10.4節では、汚染を後から取り消そうとすると何が起こるかを扱う。

キュレーションと退役。 EASE [87] は、キュレーションが実行者依存であることを示している——ミスマッチしたキュレーターは2.3〜10.0ポイント遅れる——そして、クリッピング方針を実行者行動プロファイルに条件付けし、ライブラリを損失なしでおよそ3分の1から5分の2に縮小する。SkillForge [118] は、管理を受動的蓄積ではなく能動的鍛造として扱い、4状態ライフサイクル（試行／アクティブ／安定／退役）と適応度駆動の退役を備え、ALFWorld 92.4%、WebShop 78.4%、Search-QA 48.7%を、最強ベースラインの89.9/72.7/46.8に対して報告している。その退役統計は、蓄積が危険であることを示すこの葉ノードにおける最良の証拠である：退役したスキルの96.9%は無害な冗長ではなく、明示的に有害とラベル付けされており、支配的な失敗モードは過度に硬直した手順順序（74.5%）であり、退役したスキルの57.2%はかつて安定状態に到達した後に劣化していた。Bayesian-Agent [114] は、退役を閾値駆動ではなく監査可能なものにし、スキルをBeta事前分布を持つベイズ証拠オブジェクトとして扱い、反復証拠ゲート（同じ失敗モードがパッチを提起する前に少なくとも2回現れなければならない）と事後質量に関する退役ゲートを設けている。SkillOS [116] は、ここでキュレーター自体を編集可能集合の内側に置く唯一の研究である：キュレーション方針は下流タスク性能からの強化学習によって訓練され、これにより変更を生み出すメカニズムが学習対象となる（$d=1$ 弱、なぜなら判定器、報酬、実行者、検索器は決して更新されず、キュレーターは展開時に凍結されるため）。その制御は示唆に富む：未訓練のキュレーション（68.9）とフロンティアモデルのゼロショットキュレーション（67.4）はどちらも推論タスクにおいてメモリなしベースライン（69.6）を下回り、訓練はその損失を反転させる（73.8）——ゲートなしのキュレーションが軽度の負の転移を引き起こす証拠である。SpeedRunner [120] は、能力ではなくコストでループを閉じ、スキルを実行可能な関数とドキュメントとして扱い、あるベンチマークにおいて出力トークンコストがReActベースラインのおよそ8分の1に低下しつつ、性能は最良または同等であると報告している。

ルーティングと再利用。 Memento-Skills [91] は、メモリユニットを実行可能なスキルフォルダに格上げし、意味的検索を単一ステップのオフラインRLで訓練された行動整合的ルーティングに置き換え、GAIA 66.0%を静的アブレーションの52.3%に対して報告している。FlowEvo [90] は、成功したワークフローをインターフェースとリプレイテストを備えた実行可能なスキルレコードにコンパイルし、その後、3方向多重化と対比的効用ライフサイクルを用いて負の転移を抑制する（主要比較で85.6%対59.2%）。WikiSkill [123] は、経験を永続的なwikiにコンパイルし、スキル提案がその上に構築され、5つのベンチマークと5つのモデルにわたり、3回の独立した進化実行とペア付きブートストラップを用いて+12.3から+23.9の絶対的利得を報告している；そのアブレーションは利得の大半を永続的知識層に帰している（63.7対48.7）。見出しよりも重要な2つの詳細がある：wikiは決してゲートされず、決してロールバックされないため、それが依存するコンテキスト候補生成は自己蓄積する；そして論文は、実際の負の転移（SpreadsheetにおけるGemini、50.5→18.1）を報告し、それを事後的に診断している。

5.3 プロンプトとオーケストレーション：薄い証拠

構成要素別に測ると、プロンプト（$P$）とオーケストレーション（$W$）は最もハーネス固有度の低い枝である。なぜなら、これらは既存のプロンプト最適化やエージェントアーキテクチャ探索の伝統と大きく重なるからである。OPRO [20]、EvoPrompt [21]、TextGrad [18]、DSPy [19] は、プロンプトとパイプラインを最適化可能な対象として扱うためのツールボックスを提供する。AgentSquare [62]、EvoAgent [63]、Fusion is the New Mutation [50] は、ワークフローグラフやモジュールの組み合わせを探索空間として扱う。これらの共通の形は、合成可能な構成に対する固定された演算子であり、したがって全体を通じて $d=0$ である。これらの枝の残りのメンバーは網羅性のための引用として列挙し、その根拠を論文ごとに検証したとは主張しない。

5.4 横断的課題：構成要素進化の失敗面

両方の枝は同じ失敗を報告しており、一度ここで名付けておく価値がある：

• エラーの固定化。 MemRL の著者らは、検証器の偽陽性が高い $Q$ の記憶になることを指摘している。A-MEM は忘却についてまったく論じておらず、そのため誤ったノートが無期限に残り得る [80, 81]。Memory Reward Inflation [142] はその機構を測定している。自己申告の書き戻しスコアは、モデルファミリー全体で誤った回答の31%から54%を正しいとラベル付けし、この膨張は相殺されるのではなく検索と信頼を通じて乗算される。
• 負の転移。 XSkill [89] は知識の干渉と、より弱いオープンソースのバックボーンにおける収益の低下を記録している。その主要な比較は好意的（47.75 対 36.62）であるにもかかわらずである。SkillSandbox [86] は、ALFWorld において23.9%のスキルのみが有益であったと報告している。SkillOS の未訓練キュレーション対照は、記憶なしを下回る [116]。
• ライブラリの肥大化と非収束。 FlowEvo はライブラリの書き換え、統合、廃止を今後の課題として残している [90]。Voyager はライブラリのサイズや重複を一度も測定していない [15]。10.5節のロボティクス長期実行は、33個の閾値を持つ3,056行にまで成長するコードライブラリを、単調にそして収束することなく記録している [124]。

これらの報告を合わせると一つの判断が支持される。それは、10節が一致予算の対照を用いて検証するものである：スキルと記憶のリターンは、蓄積量ではなく選択の質に依存する。 これらはまた7節の準備にもなる。なぜなら、ここに列挙されたすべての失敗は、欠けているか、偏っているか、粗すぎるゲートの下流にあるからである。

要点

• 記憶の自己進化には四つのレベルがある — 内容（A-MEM）、有用性（MemRL、RoMeRL、Trace）、スキル（MemSkill、MemMA）、アーキテクチャ（MemEvolve、AutoMem） — そして最後の二つのみが $d\ge1$ に接近する。SelfMem の戦略レベルの最適化が最も明確な事例である。
• ツールとスキルは生成よりも選択において成熟する：生成（Voyager、AgentFactory、OpenSkill）、検証（SkillSandbox、SkillCommit）、キュレーションと廃止（EASE、SkillForge、Bayesian-Agent、SkillOS）、ルーティング（Memento-Skills、FlowEvo、WikiSkill）。
• AutoMem のアブレーションは、アブレーションによって誘発された負の記憶ゲインを示す。SkillForge は、廃止されたスキルが圧倒的に有害であり、しばしば安定したものとして通過していたことを示す。両者とも、廃止を伴わない蓄積がデフォルトの失敗モードであると主張する。
• プロンプトとオーケストレーションは既存の伝統と重なり、$d=0$ であり、本サーベイが根拠を論文ごとに検証しない枝である。

6 ハーネス全体の探索と最適化

第4章と第5章ではコンポーネントを編集する。本章の作業はコンポーネントをまったく区別しない。探索変数はハーネス構成全体であり、これにより重心は「どのように編集するか」から「この空間をどのように探索するか、そして何をもって改善とみなすか」へと移る。この分枝こそが2026年に注力された領域であり、サーベイの証拠が最も強いところでもある。

6.1 オペレータのスペクトル

探索の複雑さで並べると、明確な進展が見えてくる。

図6. ハーネス全体進化における探索オペレータのスペクトル。単一系統の有界編集から、アーカイブと集団探索、バンディット合成、分岐レベルの目的適応、二段階メタ探索へと至る。

保守的な端に位置するのが単一系統の有界編集である。Self-Harness [40] は同一の凍結モデルを、自身の現在のハーネスに対する提案者として機能させ、有界な最小編集を生成し、二分割の非回帰ゲートが採否を決定する——集団もアーカイブも木もない。Self-Evolving Harness [41] もモデルにハーネスソース全体を編集させるが、プロセスを深層学習のように組織化し（マルチタスク事前学習にリプレイを伴う継続訓練を加えたもの）、新規行数の予算を学習率として用いる。RHI [42] はハーネスを注入可能なテキスト仕様として表現し、集団比較を直前の単一世代に縮退させ、自身の改訂履歴に対する一対比較をモメンタムとして用いる。各ラウンドのコストは1回の実行と1回の判定、すなわち1ラウンドあたり$\Theta(1)$である。30回の比較のうち20回で、推論努力を高めた小型モデルが大型モデルを上回り、正規化コストをあるベースライン比で23%、別のベースライン比で60%削減したと報告している。

TTHE [55] は同じ保守性をデプロイ時にまで押し進める。実行可能なハーネスソースを適応状態として扱い、ソルバー・提案者・判定者のすべてを凍結し、重み更新を行わない。事前に宣言されたプロンプトテンプレートやワークフロースイッチの中から選ぶのではなく、プロンプト、制御ロジック、ツール呼び出しの処理、内部の回復分岐を単一のコードオブジェクトとして編集する。実行に基づく6つのベンチマーク全体で、そのうち5つで8.0〜36.0ポイントの改善に加え、段階評価で20.5ポイントの改善を報告し、同一の名目実行回数においてプログラムの編集が追加サンプリングを上回ると報告している。ただし自身の注意点も重要である。改善はベースラインの失敗条件で選別された困難な部分集合に集中しており、著者らはこれがベンチマーク全体の性能ではないと明言し、提案者と判定者のオーバーヘッドは定量化されていないため、この結果をコスト一致の比較として読むことはできない。

図7. Self-Harnessの1ラウンド：弱点マイニングは凍結モデルの現在のハーネス下での失敗をクラスタリングする。ハーネス提案では現在のハーネス自体が提案者として機能し、それらの失敗に対して有界な編集を出力する。提案検証は回帰テストで採否を決定し、すべてが拒否された場合はハーネスを変更しないままとする。図は[40]より。

アーカイブと母集団。 DarwinX [48] は、ハーネス（エージェントのコードベース全体ではない）を対象とし、「局所的な勝利対クロスタスクの回帰」を明示的な保存・拡張契約に書き込み、敗者と専門家を系統間マージのためにアーカイブに保持し、探索と確認を、寛容な有効化機構と厳格な avg@k 再テストに分離する。これは WAI pass@1 が 43.5% から 93.0% へ、Terminal-Bench 2.1 avg@5 が 75.5% から 83.2% へ向上したと報告している。EvoLattice [53] は、永続的な内部母集団と複数代替の品質多様性グラフ表現によってプログラム発見を組織する。

バンディット構成。 MESH-Harness [49] は、ハーネスを固定インターフェースの機能スロットに分解し、スロットごとに固定容量の実装プールを維持し、完全共分散 LinUCB を用いることで 1 回の評価がすべてのスロットに情報を与えるようにし、座標上昇法によって次に評価する機械全体を選択する——中心となる方策は「実装を生成する」ことと「誰を評価するかを決める」ことを分離することである。同じ 40 回評価の予算で、Text 56.33、Math 53.21、LCB 77.00、SciWorld 58.10 を報告し、テストコストは 44.2% 削減された。Fusion is the New Mutation [50] は、親選択を明示的な文脈付きバンディットのアーム選択とし、子の検証スコアを報酬とし、同等の検証予算で 6 タスクのマクロ平均が 80.3→81.7、探索支出が $86.45→$76.78 であると報告している。

分枝と目的の適応。 Mixture of Self-Improving Branches [51] はこのリーフで最も再帰の度合いが高い研究である。改善プロセス自体が探索の進行に応じて適応し、各分枝は独自の開発サブセットと提案戦略を持ち、例は各分枝ごとまたは大域的に、その例を解く分枝の数を比較することによって削除され、展開時にはルーターが例ごとに分枝ヘッドの中から選択する。したがって $U$ の一部——提案戦略——はループの内側にあり、これを $d\approx1$ として記録する。

2段階メタ検索。 The Last Harness You'll Ever Build [54]は、設計レベルにおいて進化ブループリント——評価器、オペレーター、それらのプロンプト、観察、スコアリング、停止基準——を探索すること、すなわち「自動化自体の設計を自動化すること」を提案している。明示しておかねばならない。これは実証結果を伴わない設計文書であり、その著者らはブループリントが依然として人間によって設計され、全体を通じて固定されていると述べている。同じ形は2026年に広く普及しており、網羅性のために記録する価値がある。すなわち、composable harness foundries [56]、オープンエンドなタスクストリームにおける持続的自己改善 [57]、対話型エージェントのためのオンライン適応 [58, 59]、オープンエンド環境における明示的なハーネス進化 [60]、そしてベンチマークスコアが利用できない場合に自己選好によって改善シグナルを補填する変種 [61]である。これらはメタデータレベルで含めており、本文は検証していない。

6.2 忠実性こそが分水嶺である

本章で最も価値ある発見は、オペレーターがいかに巧妙であるかではなく、実質的な改善を報告するすべての研究が、編集が害を及ぼすのを防ぐ方法もまた作り変えていたということである。忠実性の機構には5つの系統が現れる。

• 汎化ゲート。 HarnessCompass [44] は自由編集ループに三つの規律を追加する。タスクID、テスト関数名、キーワード分岐に依存する編集を禁止する。能力編集は実行可能コードに、ガイダンス編集はプロンプトまたはメモリに着地することを要求する。構造トラックとガイダンストラックを別々に進化させてから統合する。報告によれば、保持セットはわずか5ターンの進化で51.6%から60.4%へ上昇し（+8.8）、20ターン後のAHEの54.7%と対比される。
• 非回帰ゲート。 Self-Harness [40] は、候補が二つの分割のいずれでも低下せず、少なくとも一方で改善することを要求し、そうでなければバッチ全体を却下する。
• 契約ベースの検証。 AHE [43] は各編集を、自己申告の予測を伴う反証可能な契約に結び付け、次ラウンドでタスクレベルで検証し、失敗時にはファイル粒度でロールバックする。DarwinX [48] は保存・拡張契約（$g>0$ かつ回帰は最大 $\delta$）を用いる。SkillCommitのソース保存コミットはコンポーネントレベルの類似物である [119]。
• 統計的受容。 SAGE [67] は「集計スコアが上がったら採用する」を、同一項目のペア台帳に片側正確二項検定と回帰率の上限を加えたものに置き換え、条件が満たされない場合は棄権する。設計目標はより良い候補を選ぶことではなく、現在の水準に害を及ぼさないことである（第7節）。
• 反事実プロトコル。 Bad Genius [47] は汎化の障壁を、タスクの変更からプロトコルの変更へと移す。LLMチャレンジャーが実行可能なプロトコル変換をオンラインで探索し、七項目の妥当性ファイアウォールを通して確認し、得られた反事実ベンチマークを以降の探索に対するハード制約として用いる。報告によれば、認定セットは68.42%/67.98%であり、ハーネス進化ベースラインの68.20%/67.11%、生モデルの66.23%/64.47%と対比される。

これらと並んで上流の証拠フィルタリングがある。Ecdysis [46] は「一つの失敗が一つの編集を引き起こす」を、ラウンド内でタスクをまたいで失敗を集約し、反復するモードのみを永続的進化に通すことに置き換え、著者らは集約だけでは増幅することを慎重に報告している。RobustSGPO [45] は「パッチを自由に生成する」を三つの明示的な決定——何を変更するか、どのように構築・検査するか、どのバージョンから継続するか——に分割し、AgentXのホールドアウト完了率が60.0%から80.0%へ上昇したと報告する。

6.3 コストは通約できない

本章の数値は慎重に扱わなければならない。なぜなら、それらはほとんど比較できないからである：

• 異なる単位。 MESH-Harnessはマシン全体の評価回数（40）を数え、DarwinXはループを数え、SIFTはCPU時間を数え、AIDE²は実時間日数を数え、Fusionはドルを報告する。
• 異なるベースと凍結方針。 ほとんどの研究は単一のベースモデルを凍結する。MemoHarness [52] は一つのハーネスを凍結し、再訓練なしに六つのベースモデルに転移し、平均+0.098を報告する。
• 進化とテストの分離の度合いが異なる。 DarwinXは進化シグナルとテストの間の分離を増大させる順に四つのベンチマークを意図的に並べ、41個のTerminalWorld項目はMcNemar検定で有意でないと注記している。
• 成果物自体の成長。 EvolveNetの成果物は14行から253行へ単調に成長する [38]——評価回数には対応物のないコストである。

したがって、擁護可能な結論は定性的なものである：忠実性の仕組みの導入は、報告されている改善と時を同じくして生じている。演算子の順位付けは、利用可能な設定によって支持されておらず、第10節は、改善そのものを部分的に弱めるマッチング予算の対照を追加している。

要点

• 演算子のスペクトルは、単一系統の有界編集（Self-Harness、Self-Evolving Harness、RHI）から、アーカイブと母集団（DarwinX、EvoLattice）、バンディットによる構成（MESH-Harness、Fusion）、分岐レベルの目的適応（Mixture）を経て、紙の上にのみ存在する二段階のメタ探索（The Last Harness）に至る。
• 忠実性の仕組みこそが真の分水嶺である：汎化ゲート、非回帰ゲート、契約検証、統計的受理、反事実プロトコルは、ほぼすべての実質的な改善と時を同じくして生じている。
• 再帰の度合いは低いままである：Mixture of Self-Improving Branchesのみが提案戦略をループの内側に置いており、The Last Harnessは設計にとどまっている。
• 予算の単位と評価の分離は研究間で大きく異なるため、本章は定性的な結論のみを支持する。

7 検証器、採点器、受理ゲート

これまでの各章はすべて同じボトルネックに突き当たった：ある編集が意味を持つかどうか、そしてそれを誰が決めるのか、という問題である。本章は、その決定機構そのものを研究対象とする。だからこそ本章は、サーベイの中で$d\ge1$の研究が最も密に集中する箇所となっている——改善が採用されるかどうかが、初めて改善可能なものになるのである。

7.1 固定ゲートから共進化へ

一方の端にあるのが固定ゲートである。SAGE [67]は受理規則のみを置き換え、生成には手を加えない：同一項目のペア台帳を保持し、候補の現在状態に対する勝ち$w$と回帰$\ell$を数え、$\lambda\ge1$を伴う割引利得$w-\lambda\ell$（回帰は少なくとも修復の利得と同程度のコストがかかる）と回帰率の上限$\rho=\ell/n_S\le\tau$を要求し、帰無仮説に対して片側の正確な条件付き二項検定を適用する。三つの条件がすべて満たされなければ、SAGEは棄権する。SAGEは、20設定中19設定で回帰の低下を報告し、1設定では横ばい、20設定中20設定で最良の最終スコアを示し、SkillOptベースラインを平均8.73ポイント上回る（LiveMath 34.15→48.78）。その意義は概念的である：受理はヒューリスティックから、誤り制御を伴う決定へと移行する。

図8. SAGEは生成ループには手を加えず（左）、受理規則のみを統計的ゲートに置き換える（右）：項目ごとのペア評価が勝ち／回帰／引き分けの件数を生み出し、割引利得$w-\lambda\ell$と回帰率$\ell/n_S\le\tau$によって判定され、次に仮説検定によってノイズ除去され、編集をコミットして最良のスキルを更新するか、あるいは棄権して現状を維持する。図は[67]より。

もう一方の端にあるのが採点器の共進化であり、そこでは$V$は固定された審判であることをやめ、求解器と並行して最適化される。

図9. 固定ゲートから、共進化し、そして向きを変えられたゲートへ：受理機構が取り得る四つの位置——置き換えられるが固定された規則から、ループ内の制御信号となる検証器まで。

• DUET [69]は、採点者のプロンプトを最適化変数とし、求解器のプロンプトと交互に更新する（奇数ラウンドは採点者、偶数ラウンドは求解器）。タスクバッチはスコアが最近どれだけ動いたかによって選択される。報告によれば、金融エージェントベンチマークで求解器スコア96.5±0.4であり、これはオラクル採点者を用いるベースライン（スキル最適化ベースラインで94.0、ベースで92.8）を上回る。また、採点者一致率は67.9から75.0に上昇した。

図10. DUETの共進化アブレーション：凍結採点者、凍結求解器、逐次最適化、およびDUET自体の下での求解器性能（左）と採点者一致率（右）。このペアを共進化させると求解器スコアが最良となり、採点者一致率は67.9から75.0へと動く。一方、採点者を凍結することは、採点者軸において求解器を凍結するよりも悪い選択肢である。図は[69]より。

• Who Grades the Grader [72]とWho Verifies the Verifier [71]は同じ発想を評価指標へ、そして検査可能な採点者へと押し進める。後者は採点者自体が監査可能かつ検証可能であることを強く求める。
• The Red Queen Gödel Machine [70]はその動態に名を与える。エージェントと評価器は互いに選択圧を及ぼし合うため、進化を止めた評価器は有用な信号を供給し続けることを止める。
• CAFE [74]はフィードバック要求を第一級のアクションとする。エージェントは軌跡の途中で判断を要求でき、批評者と方策は一つのモデルの二つの役割であり、それらはオンライン強化学習（いつ尋ねるか、フィードバックをどう使うか）とオフライン選好最適化（どのようなフィードバックを生成するか）を交互に行う。報告によれば、7つのベンチマークにわたる平均EMは52.5であり、回答レベルのハルシネーションは17.63%から12.60%へと低下した。

図11. CAFEの3つの連結されたループ。左：オンラインエージェント最適化。ここでは「フィードバックを要求する」が軌跡内のアクションであり、比較フィードバック推定がフィードバックの必要性を判断し、フィードバック前後の軌跡にはクリップされたアドバンテージ再形成が適用される。中央：共進化。ここでは俳優と批評者は一つの共有モデルの二つの役割であり、交互の側で更新される。右：オフラインフィードバック最適化。最新のロールアウトをペアにし、高価値のケースをフィルタリングし、プレフィックス一致した文脈上でロールアウト由来の選好目的を訓練する。図は[74]より。

二つの研究がこの系統を挟み込む。Co-Evolution of Policy and Internal Reward [75]では、方策がロールアウト中に言語による自己評価を生成し、それが推論時にはアクション条件として、訓練時には密な内部報酬として用いられ、両方が一つの目的の下でエンドツーエンドに訓練される。したがって、$V$のパラメータは方策とともに進化するが、その形式とゲーティング規則は進化しない（WebShop成功率は1.7Bベースで32.0→56.3）。MedZERO [126]は応用において同じ部分的なパターンを示す。その試験官はデータを生成すると同時にGRPOによって最適化され、試験官の出力を採点する推論器は同じループ内で更新されるため、生成器と採点者はともにドリフトする。著者らはこれをリスクではなく利点として報告している（4B：平均12.9→34.9、8B：34.9→53.5）。一方で、すべてのシェル、報酬、閾値、検証器は不変のままである。

7.2 ゲートを探索層に向け直す

自己進化型エージェントと随時有効な証明書 [68] は、このリーフの中で最も積極的な設計である。自己進化は凍結されたベースの外側にある二つの小さなオブジェクト（ステアリングアダプタとバージョン管理されたハーネス）に限定され、すべての採用判断は随時有効なゲートと、固定されたエラー予算の下での証明書台帳になる。そして、そのようなゲートは凍結されたベースがすでに生み出す振る舞いの中から選択することしかできないため、検証器はループ内の制御信号へと変えられ、自己執筆のリプレイオラクルが正解ラベルなしで密な信号を供給する。SWE-bench Verified の52インスタンスにおいて、フルスタックは34/52を報告し、指示のみの対照は29/52であった。コストは率直に述べられている。著者らはゲートを、進歩ではなく安全性を保証するのに十分なほど保守的だと説明しており、内因性ループに関するあらゆる保証は未解決の予想である。

7.3 理論がゲートについて今述べていること

理論の波からの二つの結果が、この章の非公式な観察を検証可能な条件に変える。

Memory Reward Inflation [142] は問題を定量的に測定する。ラベルなしの自己改善メモリループにおいて、書き戻しスコアはプロキシ報酬であり、誤った経験を体系的に過大評価し、三つのモデルファミリーにわたって誤答の31%から54%を正解とラベル付けし、その膨張は打ち消されるのではなく検索と信頼を通じて乗算される。次に論文は訂正のための必要条件を導出する。すなわち、検証器の信号は正解ラベルを追跡しなければならず、かつその誤差は自己報告のバイアスと無相関でなければならない。そして実証的に、検索ベースの情報検証器だけがそれを満たすことを示す（効用と真実の相関は+0.22から+0.81へ上昇し、ラベル盲の較正ではちょうど+0.00、予算一致のランダム枝刈りでは−0.16であった）。完全な開発セットにおけるエンドツーエンドの完全一致は54.0%から56.9%へ改善する。

The Blind Curator [141] は、ゲートが単にノイズが多いのではなくバイアスを持つ場合に何が起こるかを分析する。対称ノイズは引退統計を中点に向かって圧縮するだけで、その代償はより大きなサンプル予算である（$N_{\min}\propto(1-2\rho)^{-2}$）。偽合格バイアスは統計を上方へシフトさせるため、最悪のスキルこそが基準を通過するものとなり、$\rho_{F\to P}\ge\pi_\tau=(1-\tau)/2$にはどのサンプルサイズも助けにならない崖が存在する。実験はその崖を確認し（四つのタスクセットにわたって偽合格率0.7で引退はゼロになる）、さらに重要に、下流の害がレジーム依存であり集約指標では見えないことを示す（ペアの連続読み取りにおけるエンドツーエンドのリフトは$p=0.63$を与え、$p=0.03$で有意なエラークラスは一つだけである）。そのガバナンススタックは意図的に未変更であり、著者らは「評価器を軌跡とともに進化させること」を範囲外として挙げている。

7.4 リスクの表面

採点器をループの内側に置くことは新たな故障モードを生み出し、ここでのサンプルはそのうち三種類を示す。

• 選好の崩壊。 Multimodal Evaluator Preference Collapse [76] は、クロスモーダルな結合が判断者の選好を崩壊させ、信号そのものを圧縮すると報告している。
• 評価者のドリフトと報酬ハッキング。 DUETの著者らは、評価者のドリフトと報酬ハッキングが定量的に分析されなかったことを認めており[69]、CAFEは一方的な最適化がプラトーに達すること、およびその第5ラウンドの批評家がすべての以前のエージェントにとって最良ではないことを指摘している[74]。
• 制御不能な共進化の方向性。 赤の女王のダイナミクスは、更新を止めた判断側が改善信号を劣化させることを意味しており、誰が先に動くべきか、あるいはどの程度の速さで動くべきかについての理論はまだ存在しない[70]。

第四の種類は最も単純である：試み自体が単に失敗する可能性がある。AIProver [133] は、ゲートが編集可能なオブジェクトの内部へ移動できるように、モデルに自身の形式化された命題を判断することを教えようとした；5回の進化ラウンドはすべて失敗し、論文自身の解釈によれば、客観的だが階層化された検証器の下では、ループは測定可能な最も客観的な階層に収束するため、自己改善の上限はモデルの規模ではなく、検証器が定量化できる性質の集合によって設定される。

これらのリスクは利得とは別個のものではない：MemRLの偽陽性への固着[80]、Ecdysisによる偽モードの増幅[46]、AutoMemの負のアブレーション利得[101]はすべて、十分に良くなかったゲートの帰結である。9.3節ではこれらを安全性の問題としてまとめている。

図12. Red Queen Gödel Machineの共進化的構築：左側のアーカイブツリーはトンプソンサンプリングによってサンプリングされ、各ノード$a$は$K$個の役割——単一のワークスペース$w_a$を共有する生成器と評価器——を保持しており、評価器は真の答えなしにスコアを付け、単に自分のスロットを埋めるだけである。右パネルは選択的消去を伴う指数的に間隔を置いたチェックポイントを示しており、評価器のスロットは定期的に消去され、再凍結される。この構造が共進化の利得の源泉であり、同時に7.4節で論じたドリフトリスクの起源でもある。図は[70]より。

表6. 受理ゲートと評価器の比較。固定統計ゲートからゲート再設定まで。注：タスク、ベース、プロトコルは行ごとに異なるため、この表はそれらを順位付けするものではない。「$V$ は共進化するか」列は共有記法の下での我々の分類であり、著者自身の表現ではない。

要点

• このリーフのスペクトルは、固定統計ゲート（SAGE）からパラメータレベルの共進化を経て、メカニズムレベルの共進化（DUET、CAFE、Red Queen、検査可能な評価器）へと続き、最後にゲートを探索層に再設定する（Anytime-Valid）で終わる。
• これは調査の中で$d\ge1$が最も密に集中する箇所であり、「再帰的」という語が最も文字通りに近い場所である。
• コストは利益を鏡写しにする。共進化は信号品質を改善する一方で、選好崩壊、評価器のドリフト、制御不能な方向をもたらす。そして、ゲートをループ内に移す試みの1つは完全に失敗した。
• 評価器の品質はパイプライン全体に伝播する。記憶の誤り固定とスキルの負の転移はここに根を持つ。

8 信頼性の高い自己進化の理論

第7節では、ゲートが結果を決定することを示した。本章では、この分野が現在一般的な形で述べることのできる事柄を集める。すなわち、自己修正がいつ保持する価値を持つのか、修正を可能にするために報酬信号が満たすべき条件は何か、バイアスのあるゲートはどのように失敗するのか、そして厳しい限界はどこにあるのか、である。5つの小節のうち4つは、2026年の理論と監査の波[137, 141, 142]の結果および2つの先行する限界結果[64, 94]に依拠しており、最後の小節は我々の統合であり、そのように明記する。

8.1 ハーネスの更新はいつ採用する価値があるか？

A Theory of Reliable Self-Evolution for Agent Harnesses [137]は、進化可能なコード状態$C_k$（プロンプト、ツール、オーケストレーション、サブエージェント構造。重みは明示的に進化可能集合の外にある）に対する採用決定を形式化し、馴染みのある形の採用条件を証明する。すなわち、ハーネスの更新は、失敗タスクにおける利得が、保持タスクにおける起こり得る損失に評価誤差を加えたものを補うときに信頼性をもって採用可能であり——模式的に$\lambda>(1-Z_k)\delta$——さらに驚くべきことに、採用された更新の利得は、ステップ間の独立性を必要とせずにステップをまたいで蓄積する。同論文は、候補の生成それ自体が定義上自己言及的である（現在のエージェントのハーネスは進化可能集合に属するため、それを更新することは後の修正の源泉を変える）一方で、検証側は外生的なままであると指摘する。我々の軸では、それは生成側で$d=1$、検証側で$d=0$である。その唯一の実験的担い手はDS-1000上の永続的なPythonソルバーハーネスであり、著者らは、この保証が、明示された仮定（β混合タスクストリーム、所与の失敗検出器、明示的な誤差予算）の下での期待報酬に関する高確率の主張であって、単一タスク、効用、あるいはタスク群の保護に関する主張ではないことに注意を払っている。

The Blind Curator [141]は補完的な負の理論を提供し、それは本章で最も運用上有用な結果である。引退を対になった結果に対する仮説検定として形式化すると、対称なノイズは検定統計量を中点に向かって圧縮し、サンプル予算を犠牲にする（$N_{\min}\propto(1-2\rho)^{-2}$および$\tau_{\text{eff}}=\tau/(1-2\rho)$）が、回復可能なままである。一方、偽合格バイアスは統計量を上方へシフトさせるため、引退を最も必要とするスキルこそが基準を通過するものとなり、$\rho_{F\to P}\ge\pi_\tau=(1-\tau)/2$においては、どれほどサンプルサイズを増やしても助けとならない崖が存在する。この非対称性——ノイズは高くつくが、バイアスは致命的である——は、第6節と第7節のあらゆる受け入れゲートに対する設計規則であり、単により多くを測定する（より異なる形で測定するのではなく）ゲートがそれを修正しない理由を説明する。

8.2 報酬信号が満たすべき条件

記憶報酬インフレーション[142]は、「検証器がボトルネックである」という非公式な主張を条件へと変換する。ラベルなしの自己改善型記憶ループにおいて、エージェントの書き戻し時の自己評価は代理報酬であり、体系的正確性を過大に申告する。モデルファミリーに応じて誤答の31%から54%でインフレーションが生じ、このインフレーションは相殺されるのではなく、検索チャネルと信頼チャネルを通じて乗法的に伝播する。著者らは情報相関条件を導出する。すなわち、訂正がそもそも可能であるためには、検証器の信号が真の値に追従しかつその誤差が自己報告のバイアスと無相関でなければならない。次にこれを検証し、その結果は明確な分離を示す。6つの検証器、1つのアンサンブル、および集約上限のうち、両軸を満たすのは検索ベースの情報検証器のみであり、保存された効用と真の値の間の相関を+0.22から+0.81へ引き上げる（オラクルの+0.97に対して）。一方、ラベル盲のキャリブレーションはちょうど+0.00に留まり、予算を一致させたランダム枝刈りは−0.16である。エンドツーエンドでは、完全な開発セットにおける完全一致が54.0%から56.9%へ改善し、測定されたノイズ水準において予測された腐敗アトラクタ率0.45は観測された0.42と一致する。

このサーベイには2つの設計上の含意が導かれる。第一に、「検証器を追加する」だけでは不十分であり、検証器は生成器とは情報的に異なるものでなければならない。これはまた、自己採点を避けるために意図的にクロスファミリーの教師を選ぶ研究が、様式上の選択ではなく原理に基づく選択を行っている理由でもある[118]。第二に、精度要件は片側的である。すなわち、基準は精度であり、再現率ではない[142]。これは、退行を少なくとも利得と同程度に重く重み付けすべきだというSAGEの主張[67]と一致する。

8.3 限界

3つの限界結果が、これらいずれの取り組みがどこまで進みうるかを枠づける。

天井を定めるのは設計ではなく証拠である。 Harness Evolution as Learning[64]は、ハーネス進化を学習問題として形式化し、観察された挙動を近似誤差、汎化誤差、最適化誤差に帰属させ、ハーネス進化を通じて達成可能なパーソナライゼーションは、ハーネスがどのように設計されるかとは独立に、利用可能なインタラクション証拠の量によって上限づけられると結論する。これは、主に設計上の革新を報告する論文が多い分野にとって居心地の悪い結論である。すなわち、報告される差異のほとんどは、証拠を費やす効率の違いとして読むべきであることを示唆する。

メタ深度には実装上の天井がある。 Meta$^n$[94]は、答えを生成するプロセスではなく答えを編集するシステムは、ある水準で停止しなければならず、自身の編集機構を編集するシステムは、安定を保つためにその機構の一部を固定しておかなければならないと論じる。したがって、到達可能な再帰の深さは、表現力のみによってではなく、設計者が費やす用意のある安定性予算によって上限づけられる。

より深い層ほど監査と統治が最も困難である。 Layered Mutability [146] は、永続的な自己改変エージェントを5つの層（事前学習、事後学習、自己物語、永続メモリ、重みとアダプタ）に整理し、統治の困難さは可観測性に対する変異率・下流結合・不可逆性とともに増大するため、支配的な失敗モードは整合性の突発的な喪失ではなく構成的ドリフトであると論じている。そのパイロット実験は正確に引用する価値がある。可視層をロールバックした後も、測定された行動ドリフトは相当に残存する——復元条件は対照の2.0に対して処置特性5.4を保持し、残存ドリフトは3.4、埋め込み距離による平均目的ドリフトは0.784〜0.796である。著者らはまた、2つの実験間の定性的比較は有意義だが、直接的な数値比較は無意味であると警告している——本サーベイが全体を通じて適用しなければならないのと同じ注意である（6.3節）。

8.4 なぜ$d\ge1$は稀なのか（統合）

3つの限界と採用条件を組み合わせることで、第3節で確立された事実——111本の論文を網羅的に読んだ結果、$d\ge1$はごく少数の箇所でしか見出されなかった——に対する一貫した説明が得られる。以下は我々の推論として扱い、いずれの著者の主張でもない。

再帰の各段階の上昇は、同時に3つのコストを課す。それは演算子が探索しなければならない空間を広げるため、[64]が拘束条件として特定する証拠をより多く消費する。それは[94]が安定性のために必要だと論じる固定された足場の一部を取り除くが、これはまさに第6節の忠実性機構が補償するために存在するものである。そしてそれは編集を、[146]が最も監査が困難だと示す層へと移すため、ゲートはより保守的にならざるを得ない——ゲートを実際にループ内へ押し込んだ唯一の研究がそうであるように、その著者らは自らのゲートを進歩ではなく安全性を保証するものと表現している[68]。そして保守的なゲートこそ、[141]が示すようにバイアスのかかった信号を修正できず、ノイズの多い信号しか修正できないものである。したがって、この分野で観察される振る舞い——再帰を主張する論文は多いが、実装するものは少ない——は、単なる工学的な趣味の問題ではなく、これらの制約の予測可能な均衡であり、進歩を探すべき自然な場所は演算子ではなくゲートである。

要点

• 採用には条件がある。失敗するタスクでの利得が、保持されたタスクでの起こりうる損失と評価誤差を補わなければならず、採用された更新はステップ独立性なしに累積する[137]。
• バイアスのかかったゲートは致命的であるが、ノイズの多いゲートは単に高コストなだけである。対称ノイズは廃棄統計量を圧縮し、偽通過バイアスはそれを移動させ、$\rho_{F\to P}\ge(1-\tau)/2$を超えるとどのようなサンプルサイズも助けにならない[141]。
• 膨張した自己報酬の修正には、真値に追従し、その誤差が自己報告と無相関である検証器が必要である。情報的に区別された検証器のみが、試験されたものの中でこれを満たした[142]。
• 3つの独立した限界——証拠量[64]、安定性に対するメタ深さ[94]、より深い層の監査可能性[146]——により、$d\ge1$の研究が乏しいことは一時的な空白ではなく予測される均衡となる（我々の推論）。
• より深い再帰はゲートをより保守的にし、保守的なゲートはバイアスを修復できない。したがって改善すべき最もてこの効く対象は、演算子ではなくゲートである。

9 層間および境界の諸問題

前章までは「何が変更されるか」という軸に沿って論じてきた。本章では、その軸を横断する4つの系統を扱う。すなわち、重みと共進化するハーネス、評価が測定できるもの、ハーネスが編集可能になったときに安全性がどう変わるか、そして成果物そのものが時間の中でどう統治されるか、である。

9.1 重みとハーネスの共進化

本稿の包含境界は、ループがハーネスに触れることを条件に、重みも更新するシステムを認めており、2026年には直接的な事例が生まれた。Evo² [66] は進化器そのものを進化の内側に取り込み、重みの更新とハーネスの改善が一つのループの中で互いを駆動する。HELIX [65] は再帰的自己改善のためにモデルとハーネスを共進化させる。AIProver [133] は最も具体的に報告された事例である。オープンウェイトのモデルとそのハーネスを交互に最適化し、各ラウンドで現行モデルの下でハーネスを進化させた後、新しいハーネスの内側でモデルをポストトレーニングする。そこには、平均報酬の改善が少なくとも0.024であることを要求するか、さもなくば即座にロールバックするというホールドアウトの適応度ゲートがあり、そのラウンドの初期ポリシーに対するKLペナルティも課される。完全な証明におけるpass@4が15.7%から36.7%へ、またホストされたフロンティアのコーディングエージェントのスキルとして用いた場合にホストの意味的正確度が41.9%/34.1%から79.8%/62.4%へ向上したと報告している。

共進化を支持する論拠は、ハーネスがエージェントの生み出す軌跡を決定し、その軌跡が今度はモデルの訓練に用いるデータの質を決定するという点にある。したがってハーネスは単なる推論時の足場ではなく、データ生成の構成要素である。対照的に、SEAL [23] や Absolute Zero [24] のような純粋に重み側の適応や、AlphaEvolve [25] のようなプログラム進化はハーネスに一切触れず、本稿では背景として扱う。

一つの注意点を強調しておきたい。共進化は帰属を不可能にする。重みとハーネスが同時に変化するとき、報告されたエンドツーエンドの利得を両者に分解することはできず、我々が読んだ共進化の研究はいずれもその分解を試みていない。第10章の disentangling 実験が、この分野が最も近づいている試みである。

9.2 評価

この層の評価は構造的な問題に直面する。測定対象が変化する一方で測定器が固定されているなら、その測定器はもはや妥当ではない。本稿のコーパスには3つの対応が見られる。EvoHarnessBench [99] はこの点を直接突く。静的なハーネスを採点するのではなく、エージェントが進化するハーネスに追従できるかを試すように設計されており、ハーネスの変化を環境の一部として扱う。Rethinking the Evaluation of Harness Evolution [139] はプロトコルの規律を提供する。進化に用いる検証シグナルを評価タスクから分離し、予算を揃えた上でテスト時の探索ベースラインと比較すること。そうしなければ、報告された利得は「より多く試した」ことを「ハーネスが改善した」ことと取り違える。Harness Updating Is Not Harness Benefit [143] は逆方向の相補的な失敗を露呈させる。その3ベンチマークのグリッドにはタスクレベルのホールドアウト分割が一切存在しない。進化を駆動するタスクの流れが評価セットを兼ねているため、測定された利得はオンライン適応の利得としてしか読めないのである。

原価計算は依然としてこの分野で最も標準化が進んでいない側面であり、第6.3節では関与する単位を列挙している。監査の波はそれを改善するどころか悪化させている。ある研究はコストを金銭もトークンも用いずに世代数で定量化し[141]、別の研究はトークン、金銭、実時間の数値を示さず漸近的な構造のみを与え[112]、また別の研究はプロンプトと測定方法が異なるため自身の2つの実験間での数値比較を明示的に禁じ[146]、4番目の研究はドルで測定するが推論側のみで、教師の探索と修正のコストを除外している[129]。コストが実際に定量化されている場合でも、その方向は一様ではない。SkillForgeは約7,296 GPU時間の純増を報告し[118]、Bayesian-Agentは incremental repair は安価である一方、累積のエンドツーエンドコストはベースラインより高い（6.26M対4.24Mトークン）と報告し[114]、SpeedRunnerはコストを、能力ではなく見出しとして大幅な削減を報告している[120]。

9.3 安全性

ハーネスとゲートを編集可能にすることは、同じ軸に沿って能力とリスクの両方を拡大する。Your Agent May Misevolve [95]は新たに生じるリスクを特徴づけている。自己進化は局所的に有用な経験を再利用可能な状態に変え、その状態の一部は別の文脈で再利用されると有効性の条件を超えてしまう。Safety in Self-Evolving Agents [6]はこの枠組みをさらに発展させ、害は悪意ある内容に由来する必要はないと指摘する。すなわち、適応が正当な状態の持続性、権限、範囲を拡大すれば、その状態は安全でなくなるのであり、不安全な影響をその源となる遷移まで遡って追跡し、修正を世代をまたいで検証し、継続的な進化の中で再発しないかを確認する縦断的評価を主張している。

2026年の3つの成果はこれを先鋭化させる。EvoSkill Injection [121]は、スキル生成と進化のパイプライン自体が攻撃面であることを示す。3エージェントのレッドチーミング施設を用いて、悪意ある能力が再利用可能なスキルとして永続的に保存され、後から一見無害な要求で再活性化される。受容成功率は43.5%/54.6%/49.9%であり、害の率は3つの対象フレームワークにわたって6.5→19.2、5.5→32.5、8.8→15.2へと上昇し、5つの異種モデルで再現された。When Self-Evolution Backfires [113]は、汚染が構造的に元に戻すのが難しいことを示す。原因となる8つのスキルを削除しても12.3ポイントの低下のうち1.7しか回復せず、完全な来歴を備えたオラクルによるクリーンアップでもさらに5.0ポイントしか回復せず、5.6ポイントは回復不能のまま残る。Layered Mutability [146]はこの点をロールバック自体に一般化する。可視層が復元された後も、測定可能な行動のドリフトが持続するのであり、したがって「いつでも元に戻せる」は安全特性ではない。

防御側では方向が逆転する。HASTE [96]はハーネス進化を新たな攻撃に対して用い、疎な証拠から安全制約を進化させる。同じ機構を、性能ではなく堅牢性に向けたものである。自己書き換えブランチにおけるエンジニアリング上のガードレールは、実務者が現在行っていることを示す。DGMはサンドボックス化、人間の監督、記録するが保持するソフト選択によって自らを制限し[11]、MOSSはシャドウリプレイ、展開前の人間による承認、ヘルスプローブによるロールバックを用い[27]、Hyperagentsの著者らはそのようなガードレールがさらなる能力の成長を経ても存続するとは限らないことを認めている[14]。

9.4 成果物の統治

最後の境界は、成果物自身のライフサイクルである。EvolveNetのハーネス製品は14行から253行へ単調に増加し[38]、ロボティクスの長期実行では、33の閾値を持つ3,056行に達するコードライブラリが、収束することなく単調に増加することが記録されている[124]。SE-GAの著者らは、メモリの増大がリアルタイム配備を脅かすと指摘している[127]。Layered Mutability [146]は、これがなぜ重要かを説明する語彙を提供する——永続性、結合度、不可逆性が統治可能性を決定する——そして、警戒すべき失敗は突発的な誤整合ではなく、構成的ドリフトであると論じる。これは、5.4節のライブラリ肥大化と7.4節のゲート病理と同じ教訓を、成果物の側から見たものである。自己改善システムが蓄積するものは資産であると同時に負債でもあり、現在の文献にはその負債を標準的な方法で測定するものはない。

要点

• 重みとハーネスの共進化は現在すでに実践されている（HELIX、Evo²、AIProver）。AIProverが報告されている最も明確な事例である——しかし共進化は利得を帰属不可能にし、我々が読んだ共進化の研究でその分解を試みたものはない。
• 評価は構造的な緊張に直面する。計測器は固定されねばならないが対象は変化するため、専用ベンチマーク、分離された検証シグナル、予算を揃えたベースラインは贅沢ではなく対応策である。ある監査研究は、進化用と評価用の集合が完全に重複していることを示している。
• 安全リスクと能力の利益は同一の源泉を共有する。それは再利用可能な状態である。スキルパイプライン自体が攻撃面であり、汚染はロールバックを生き延び、行動的ドリフトは可視層の復元を生き延びる。
• 成果物の成長は、標準的な指標では捉えられないコストである。同じ現象は、コンポーネントの分枝ではライブラリ肥大化として、ロボティクスの長期実行では非収束的なコード成長として現れる。

10 証拠が実際に支持するもの

前章までは個々の研究が主張する内容を報告した。本章は、それらの主張を直接検証する2026年の監査、負の結果、長期 dissection の波を集める。これに章の地位を与えるのは、この分野が主張する内容とその証拠が支持する内容との間の隔たりが、今やそれ自体で一つの知見となりうるほど大きいからである。

10.1 予算を揃えた条件下では、ハーネス進化はテスト時スケーリングに勝てない

Rethinking the Evaluation of Harness Evolution [139]は、フィードバックと推論の予算を揃えた条件（$K=5$）の下で、Terminal-Bench 2.1上で4つのアプローチを3つのモデルにわたり比較する。単体テストなしの場合、pass@1の平均は、直接サンプリング68.2、並列サンプリング72.3、逐次改良69.3、ハーネス進化67.4——直接ベースラインを下回る——、インスタンスごとのハーネススケーリング71.8である。単体テストありの場合、ハーネス進化は75.8に達し、並列サンプリングの86.0に対した。45/10/34の訓練/検証/テスト分割の下で、クロスタスクのハーネス進化はテスト集合で0.6ポイントの利得を得る。

著者らは範囲について慎重である。彼らがハーネスの品質に対して鈍感だと主張する1つのCLIベンチマーク、3つのモデル、1つの予算である。彼らは有意性検定も、コンポーネントのアブレーションも、$K$に関するスイープも行っていない。移植可能な結論は経験的なものではなくプロトコルレベルであり、このサーベイ全体に当てはまる。進化に用いる検証シグナルが評価タスクから分離され、かつ一致した予算でのテスト時探索と比較されない限り、報告された利得は単なる試行回数の増加にすぎない可能性がある。この結果はセクション6と緊張関係にあることに注意されたい。そこではハーネス全体の探索が大きな利得を報告しているが、その違いはまさにセクション6の研究のほとんどが欠いている対照である。

10.2 更新能力は基盤能力にスケールしない

Harness Updating Is Not Harness Benefit [143]は、3つのベンチマークと6〜7の基盤モデルにわたり、エージェントを固定して進化器を変化させる場合とその逆の場合を組み合わせた要因計画を実行する。2つの結果は、より強いメタエージェントがてこの梃子であるという分野の暗黙の仮定と矛盾する。第一に、更新能力は基盤能力に対して平坦である。すべてのベンチマークで、最良の進化器と最悪の進化器の差は最大3.1ポイントであり、テストされた最小のモデル（9B）がSkillsBench設定で進化器として最大のモデルを上回る（3.8対2.3ポイント）。著者らの推奨は、計算資源を進化器ではなくタスク解決エージェントに費やすことである。第二に、利益を得る能力は単調ではない。利得はあるベンチマークでは中位モデルでピークに達し（+19.3ポイント）、別のベンチマークでは別のモデルで（+7.0）、第三のベンチマークでは中位・小型モデルで（+15.1）ピークに達する。

本論文はまた、弱い層の低い利益の背後にあるメカニズムを明示している。すなわち、エージェントが実際にハーネスのどれだけをロードするか（あるモデルではロード率0.251に対し、強いモデルでは約0.96）、ロードしたものをどれだけよく遵守するか（0.142対0.757）、そして軌跡に沿って遵守が減衰すること（0.52から0.13）である。さらに、あらゆる受け入れゲートに関連する病理を記述している。すなわち、それ自身の更新演算子が候補比較、回帰テスト、統計検定、ロールバックを一切伴わずに無条件にコミットする。これは$V$をまったく持たない$d=0$設計であり、孤立した事例ではない（セクション8.1）。

10.3 報告された利得はどこから来るか

One Recipe, Many Harnesses [145]は、自己進化が実際に何をエンコードするのかを問い、統制されたグリッドで答える。すなわち、8言語×3モデル、等しい予算での3つのアーム、ロールアウトごとの厳格な上限、および非回帰の選択規則である。グリッド全体で256の復旧インスタンスのうち、88%が進化前に検出器がカバーする欠陥を抱えており、12%はシグネチャをまったく持っていなかった。大きな利得を持つ2つのモデルでは、復旧の95%と91%が特定された欠陥クラスに帰属できたのに対し、利得がノイズの範囲内にあるモデルでは、そのわずかな復旧の52%が帰属可能なクラスに属さなかった。著者らは、利得は回復可能な実行欠陥に対する補償であり、能力の天井を引き上げたものではないと述べており、また彼らの2つの帰無領域は事後的に同定されたため、メカニズムの検定ではなくメカニズムと整合するものとして数えられる。

メタエージェントによるエージェント設計の非効率性 [144] は、アーキテクチャ探索の伝統に対して、同様に鋭い先行結果を提供している。サンプル–評価–反復型のメタエージェントにおいて、すべての過去の設計をコンテキストに投入すること（この系統で最も引用されるシステムが用いた累積戦略）は、履歴を完全に無視するよりも性能が悪く、一方で訓練スコアによって親を選択することは有効である（あるベンチマークの最良エージェントは41.4から56.5に上昇）。また、4つのテストセットのうち2つでは順位が逆転するため、著者らの「train-best」選択基準が転移することを示すものではない。本論文はさらに、本サーベイが依拠する構造的論点を提示している。すなわち、そのメタエージェントと発明されたエージェントは異なるレベルの異なるモデルであり、これによりループは外生的な設計サイクルとなる——改善する側と改善される側は同一のシステムではない。

10.4 蓄積は容易、減算はそうではない

2つの結果が、蓄積による損害とそれを取り消すことの難しさを定量化している。Self-Evolution Backfires [113] は、ゲートなしのスキル蓄積における容量汚染の相転移（ラウンド3で105スキル、62%、ラウンド5で179スキル、50%に低下）を示し、さらに修復が構造的に限定されることを示す。原因となった8つのスキルを除去しても12.3ポイントの損失のうち1.7しか回復せず、完全な来歴を持つオラクルでもさらに5.0を回復するにとどまり、5.6ポイントは恒久的に失われる。その設計自体は、引退ゲートを事前コミット型の受入ゲートに置き換えることで対応し、わずか37スキルのライブラリで72%への単調な改善を報告している。

SkillForge [118] は逆方向からの母集団統計を提供する。そのライフサイクルが引退させたスキルのうち、96.9%は無害な冗長ではなく、明確に有害とラベル付けされ、支配的な失敗モードは過度に硬直した手順順序（74.5%）であり、引退したスキルの57.2%は以前に安定状態に到達していた後に劣化していた。SkillCommit [119] はインスタンスごとの帰属を追加し、自身の編集をhelp/hurt分解で24/0および21/2と報告する一方、ベースライン手法は一部のインスタンスを修正しつつ、以前正しかった多くのものを壊す。これら3つの結果を合わせると、「ゲートが役立つ」よりも強いことが言える。スキルまたはメモリのライブラリにおいて、デフォルトの軌道は害へ向かうのであり、興味深い工学的問いは能力を何が追加するかではなく、害を何が取り除くかである。

10.5 長期ケーススタディ: 収束しない123ラウンド

我々のコーパスで最も情報量の多い単一文書は、123ラウンドのロボティクス実行 [124] である——993回のロールアウト、847回の提案試行のうち57回の受理されたライブラリ変更、そしてハーネスへの113回の人間による修復で、これはエージェントの受理された変更の約2倍にあたる。タスク成果は、あるタスクで0/486、別のタスクで0/256、3つ目で14/230であり、実行全体を通じてチェーン全体が成功したロールアウトはわずか5回、最終ラウンドは完全に失敗した。

その構造的発見は、本サーベイのテーゼについて利用可能な最も鋭い表明である。エージェントはスキルコード、プロバイダ登録、タスクプログラム、ルーティングテーブルを編集できたが、ハーネス——評価器、テスト、メモリ、実行者記述——は人間だけが変更できる唯一の部分であった。著者自身の要約は引用に値する。なぜなら、それは再帰的に見える$d=0$ループの最も明快な定式化だからである。

「ループは間違った場所で再帰的であった。エージェントは人間だけが改善するハーネスの中でロボットを改善したが、エージェントの最も正確な診断はハーネスに関するものであった。」

彼らはループが閉じるための三つの工学的条件を抽象化する——失敗がその真の原因によって記述されているか（表現可能性）、修正がエージェントの編集可能な基盤に着地するか（表現可能性）、そして変更が重要となる状態においてゲートが良し悪しを判別できるか（解決可能性）——そして、それぞれに対する反証実験を伴うゲート失敗の分類法を与える。すなわち、粗すぎるゲート（記録された状態がわずか一、二しかないギャップに対して60%の救済率を要求する）、緩すぎるゲート（飽和したベースラインが要求改善量をゼロにし、提案者がすでに見た状態に対しておよそ二ダースの変更を通してしまう）、そして測定すべき効果よりもノイズの多いゲートである。

その実行からのさらなる二つの所見は広く流通される価値がある。第一に、コードで書き込み可能な基盤は欠落した意味論を幾何学的規則へと置き換える。ライブラリは33の閾値を伴って3,056行にまで単調に成長し、収束しなかった。第二に、推論努力を高めることは「目に見える変化を何ももたらさなかった」一方で、ハーネスの一文を書き換えることは0/8の編集率を11/12へと変えた——著者らの結論は、このシステムにおいてハーネスのテキストは学習アルゴリズムの一部であるというものである。本論文は自らの限界についても率直である。すなわち、一つのシミュレータ、一つのレイアウト、三つのタスク、独立した反復、予算を揃えたベースライン、アブレーションを欠くため、それは「記録と解剖から機構を同定するのであって、因果効果の大きさを同定するのではない」。

10.6 二つの減算的所見

二つの監査が、この分野が広く依拠する前提から支持を取り除く。

凝縮された経験は忠実には用いられない。 LLM Agents Are Not Always Faithful Self-Evolvers [138]は九つの環境と十から十三の基盤にわたって四つの代表的なフレームワークを監査し、体系的な経験忠実性ギャップを見出す。エージェントは生の軌跡には確実に依存するが、凝縮された要約はしばしば無視するか誤読する——たとえその要約が利用可能な唯一の外部ガイダンスであってもである。一つの事例では、凝縮された介入はすべて生のベースライン53に対して47–56に着地する。別の事例では、生の介入が性能を6.8ポイント低下させる一方で、凝縮された介入のフィラー版はなお77.6を記録する。経験を凝縮することはほとんどの記憶およびスキル研究の前提であるため、これは重要な負の結果であり、またアブレーションがなぜ負の記憶利得を明らかにしうるのか[101]も明らかにする。すなわち、忠実に読まれない記憶は助けになりえないのである。

長期的研究は一貫した利得を示さない。 EverMine [140]は、隠されたサンプル外ラベルと明示的な能力進化を伴うアルファ研究設定において十八の長期研究軌跡を追跡する。明示的な能力進化は一貫したエンドツーエンドの利益を生み出さなかった。四つのエンドツーエンド差の区間すべてと四つの条件付き価値の区間すべてがゼロを含み、個々の親軌跡効果は二つが正で四つが負であり、六つの反復ペアのうち五つが符号を逆転させた。独立した統計単位がわずか六つと三つであるため、正直な読みは「効果は検出されなかった」であり、「進化は無用である」ではない——これは著者ら自身が引く区別である。

本章が批判する他の二つの慣行は、集計指標を健全性として読む慣行（偽合格のグレーダーは集計スコアを横ばいに保ちながら、静かに引退を無効化する[141]）と、予算が異なる研究間で数値を比較する慣行である（6.3節、9.2節）。

10.7 この分野の主張をどう読むか

監査は短いチェックリストに収束しており、これを本サーベイの実用的な成果として提示する。ハーネスの自己進化がエージェントを改善したという主張に対しては、次のように問うべきである。検証シグナルは評価セットから切り離されているか[139, 143]; 比較は、予算を揃えたテスト時スケーリングに対して行われているか[139]; 利得は容量の増加ではなく、特定可能で回復可能な欠陥に帰属できるか[145]; 改善の原因として疑われているのは進化器の能力なのか、それともそれがベース能力に対して平坦なのか[143]; 編集演算子は実際にゲートされているのか、それとも無条件にコミットされるのか[143]; そして、設計の中に害の蓄積を防ぐものは何かあるのか[113, 118]。これら六つすべてに答える研究はまれである——このこと自体が、証拠の現状についての最も有用な要約である。

表7. 監査および否定的結果の研究。各研究が検証する主張ごとにグループ化。注：研究設計は対象、ベンチマーク、予算が異なる；本表は順位付けではなく、各研究が検証する主張ごとにグループ化している。

要点

• 同一のCLIベンチマーク上で予算を揃えた条件下では、ハーネス全体の進化はテスト時スケーリングを上回らず、クロスタスク転移による向上は0.6ポイントにとどまった。転移可能な教訓はプロトコルの規律であり、ハーネス進化が失敗するという一般的な主張ではない。
• 能力の更新は基盤能力に対して横ばいであり、便益は単調ではないため、「より強力なメタエージェントを使う」という主張は証拠上支持されない。
• 利得は回復可能な実行上の欠陥の補償に帰属し、回復の88%はベースライン時点で検出器がカバーする欠陥を伴っている。
• 蓄積は既定で害となる：ゲートなしのライブラリは成長するにつれて劣化し、廃止されたスキルの96.9%は有害であり、ロールバックは損失の一部しか回復しない。
• 2つの重要な前提が弱められる：凝縮された経験は忠実に利用されておらず、明示的な能力進化は長期的な便益を一貫して示さなかった。

11 応用：検証可能性が拘束条件である

11.1 コーディングが既定のテストベッドである

第4節、第6節、第7節の表を読むと、顕著な集中が浮かび上がる。圧倒的多数の研究がコーディングで評価している。SWE-benchの変種とTerminal-Benchの変種は、この分野の事実上の計測器として機能しており、Gödel Agent [10]、DGM [11]、SICA [12]、HGM [13]、Hyperagents [14]、AIDE² [32]、Live-SWE-agent [29]、AHE [43]、HarnessCompass [44]、Self-Harness [40]、Self-Evolving Harness [41] などによって使用されている。

これは偶然ではない。自己書き換えループが閉じるには、安価で、自動実行可能で、かつ合理的に客観的な検証器が必要であり、コードはこの3つを同時に満たす——パッチは実行され、失敗は再現され、テストは自動的に採点される。理論の章は、これが単に便利であるだけでなくなぜ重要かを説明している：達成可能な上限は利用可能な証拠によって設定され[64]、コーディングは現在のツールキットにおいて最も密な証拠ストリームを提供する。その代償は外的妥当性である。コーディングベンチマークでの利得は、実行可能な検証器を持たないタスクに外挿することはできず、第10節の監査はこの点を具体的に示している：ハーネスの品質に鈍感なコーディングベンチマークでは、ハーネス進化はテスト時スケーリングを上回ることに失敗し[139]、その利得は能力を高めたのではなく実行上の欠陥を補償したことに帰属した[145]。

11.2 検証可能性のスペクトル

2026年の応用の波により、本章は以前の2サンプルの素描をスペクトルに置き換えることができる。なぜなら、検証器が体系的に異なる領域をカバーしているからである：

表8. アプリケーションドメインにわたる検証可能性のスペクトルと、各階層が自己改善ループで検証できるもの。

このスペクトルは、反復が実際にどこで起こるかを予測する。VideoEvolve [125] は、そのグラウンディング指標が客観的であるため、開発時に217,767回のソルバー呼び出しの探索を実行し、その忠実性の仕組みも相応に精巧である — ビデオ非重複の開発・検証分割、許容される回帰帯域、品質チェック用の固定アンカーハーネス、そして同一バッチ内での候補対チャンピオンの比較である。AIProver [133] は、形式証明が検査可能であるため、3σの許容区間、0.024の改善を要求するホールドアウト適合性ゲート、およびKLペナルティを備えた階層型検証器を許容できる。もう一方の端では、RHD [129] はその反復的改善をシミュレーションに限定し、実ロボットの結果を存在証拠として報告する（75試行、タスクごとに25回、ランダム化された位置、失敗は再現不可）。物理的な成功述語は再サンプリングできないからである。

11.3 ドメイン結合

ドメインがコーディングから離れるにつれて、二つのパターンが繰り返し現れる。

検証器の可用性は、ループの速度だけでなく、その形状を決定する。 SRE根本原因分析では、OpsHarness [128] はケースごとに評価でき、検証を除去すると連続診断の傾向が崩壊すると報告している（最終ウィンドウ平均は検証ありで0.83、進化なしで0.43、検証なしで0.33）。これは、最終的なA@1が59.0%であるのに対し、進化なしのアブレーションでは41.4%、素のエージェントでは36.1%であったことと対比される。ロボティクスでは、RHD [129] はシミュレーションにおける成功した改善ループ（洗練されたプレイブックを持つ軽量エージェントで43.8%→66.7%）を報告しているが、それを実ロボットについて主張することは明示的にしていない。

ドメインとの結合が、何を編集可能にするかを変える。 ヒューマノイドのフレームワーク[130]は、具現化された自己改善にはソフトウェアエージェントに対応物のない6番目の編集可能対象——身体（キャリブレーション、形態、センサおよびアクチュエータの状態）——が存在すると論じ、展開時の改善を、それを含む5つ組状態上の作用素として形式化している。MedZERO[126]は異なる結合を示す。医療タスクは部分的にしか検証できないため、そのループはカリキュラムデータを生成するexaminerとそれを採点するreasonerを最適化する。これにより報告された向上（4Bが12.9から34.9の平均へ、8Bが34.9から53.5へ）は、ハーネスの改善ではなくパラメータレベルでの共進化の一例となる——シェル、報酬、閾値、検証器はいずれも不変である。

11.4 ループが収束する場所

横断的な観察を一つ、我々自身の推論として述べておく価値がある。階層化された検証を持つドメインでは、ループは測定可能な最も客観的な階層に収束する。ここでもAIProverが最も明確な証拠を提供している。ハーネスの進化だけでは「そもそもコンパイルが通る」階層が57.6%から84.4%へ上昇する一方、完全証明の階層は15.7%から22.6%へしか動かない。また1サンプル失敗のうち、「コンパイルは通るが命題が誤っている」が173件を占め、解決済みの205件に次いで多い。同じ研究は、我々のコーパスにおいて検証器自体を編集可能集合に移す唯一の試み——モデルに自身の命題を判断させること——を記録しており、それは5回の進化ラウンドすべてで失敗した。このパターンが成り立つなら、あるドメインにおける自己改善の上限は、その検証器が定量化できる性質の集合によって定まる。これはモデルの規模よりも実行可能な制約である。

11.5 リソース

表9. コーパス内で繰り返し使用されるリソース。注：本表は、我々の検証済み読解内で繰り返し使用され、特定の情報源に遡ることができるリソースのみを列挙している。ベンチマークの規模、指標、分割は利用者によって異なるため、同じ名称での結果が必ずしも比較可能とは限らない。

要点

• コーディングが既定のテストベッドとなるのは、実行可能な検証、再現可能な失敗、自動スコアリングを同時に提供するからであり、これは第8章の理論が結合制約として特定するものである。
• アプリケーションは検証可能性によって順序付けできる——実行可能、シミュレーション、部分的に客観的、オペレーター確認済み——そしてその階層は、反復が実際にどこで、何に対して検証されるかを予測する。
• ドメイン結合は編集可能な対象（身体化設定における物理的身体）を変え、ループをハーネスではなく生成器やグレーダーへと向け直すことがある。
• 階層的検証のドメインでは、ループは測定可能な最も客観的な階層に収束するため、天井は検証器が定量化できるものによって設定される（我々の推論）。

12 未解決の問いと議論

本章は、分野における現在の見解の相違を、それぞれの側の証拠とともに述べる。ほとんどの判断は、論文ごとに条件が異なる単一の未再現の報告に依拠している。比較が複数の研究にまたがる場合、それは測定された効果ではなく我々の推論であると明記する。

12.1 再帰はより速い改善をもたらすか？

主張。 改善メカニズムをそれ自身のループの内側に持ち込むことは、能力の成長を加速させる。

賛成。 Hyperagents [14] は、メタレベルの自己修正がドメイン間で転移し、単一の実行内で蓄積されると報告する。タスクエージェントとメタエージェントを1つの編集可能なプログラムに統合すると、論文レビューのスコアが0.0から0.710になり、DGMの変種は0.0にとどまる。採用理論 [137] は同じ方向に構造的な論拠を加える。採用された更新はステップ間の独立性を必要とせずにステップをまたいで蓄積されるため、個々には安全な編集の連鎖は単なる長いランダムウォークではない。

反対。 3つの比較は逆方向を示す。HGM [13] は親をより良く選択すること（クレード・メタ生産性の推定）と、拡張を評価から分離することによって、DGMのCPU時間の約1/2.38で成果を得る。SIFT [30] は高コストのベンチマーク評価を安価なペアワイズ審判ランキングに置き換え、同じ検証予算で勝利する。RHI [42] は母集団比較を単一の前世代に縮退させ、正規化コストを23–60%削減する。いずれも$d$を上げていない。3つすべてが評価予算の使われ方を改善している。そして厳密に一致させた予算の下では、ハーネス進化は単純な並列サンプリングに勝てなかった [139]（第10.1節）。

証拠が落ち着くところ。 再帰は到達可能な設計空間を変えるのであって、単位予算あたりの改善率を変えるのではない。速度比較のように見える研究は、ほとんどが予算配分の比較である。これは理論と整合する。結合制約は証拠の量 [64] であり、再帰はそれを生み出すのではなく消費する。

12.2 利得は編集されたコンポーネントから来るのか、それとも忠実性の仕組みから来るのか？

主張。 報告された利得は主に、編集されているコンポーネントまたはオペレーターに帰属する。

反対側の主張について。 ほぼ統制された2つの比較は、そうではないことを示唆している。HarnessCompass [44]は、自由な編集ループに汎化ゲートとトラック分離を追加し、5ターンでホールドアウト集合を8.8ポイント引き上げるのに対し、AHE [43]の規律なきループは20ターン後に54.7%に達する。SAGE [67]は受け入れ規則のみを変更し、生成には手を加えず、20設定中20で最高の最終スコアを報告し、19で回帰を示す。コンポーネントレベルの類似例はSkillCommit [119]であり、ソースリプレイのみを除去すると17.8ポイントを失う——これはメカニズム追加による報告された利益の大半を上回る。

反対。 これらは単一操作因子のアブレーションを欠くシステムレベルの比較である。DarwinXの著者らは、単一操作因子の統制アブレーションを実施しておらず、その系統間マージはあるベンチマークで完全にロールバックされたと述べている[48]。MESH-Harnessの利益は、構成と評価予算の再配分を混同している[49]。

証拠が落ち着くところ。 パターンは各研究を通じて一貫しているが、帰属は確定していない。それを確定可能にするのは具体的な実験である。コンポーネントと操作因子を固定し、忠実性機構をオンとオフで切り替える。理論は、なぜここが適切な着眼点かを説明する——ノイズの多いゲートはサンプル予算を費やすが、偏ったゲートは回復不能である[141]——しかし、この分野はその実験をまだ行っていない。

12.3 ハーネスの自己進化は転移するか？

主張。 タスクAで進化したハーネスは、タスクBまたはモデルM'に転移する。

賛成。 MemoHarness [52]は1つのハーネスを凍結し、再訓練なしで6つのベースモデルに転移し、平均+0.098を達成する。DarwinX [48]は、あるベンチマークで得られたハーネスが変更なしで別のコーディングベンチマークに転移すると報告し、HGMは発見されたエージェントをデータセットとモデルをまたいで転移させると報告する[13]。AIDE² [32]は4つのホールドアウトベンチマークで人手構築のベースラインと同等以上である[32]。WikiSkill [123]はスキルレベルのゼロショット転移を、EvoSkill [115]はベンチマーク間のゼロショットスキル転移を報告する。

反対。 転移には明確な限界がある。MemEvolveの著者らは、進化した記憶は共有タスク領域内でのみ汎化すると述べている[79]。Memento-Skillsは、訓練時のスキルの大半がテスト時に決して発動されず、転移が汎用的ではなく領域整合的であると報告する[91]。XSkillはより弱いベースでの干渉を記録する[89]。EvoSkillの転移証拠は、1つのベンチマークペアにわたって一度測定された単一のスキルである[115]。最も根本的には、One Recipe, Many Harnesses [145]が、利益自体が主に初期構成に存在する欠陥の補償であることを示しており、これは転移の自然な失敗モードが、次の領域の欠陥は異なるというものであることを示唆する。

証拠が落ち着くところ。 領域内転移は妥当な支持を持ち、最も厳格な忠実性機構を持つ研究群に集中している——これはそれ自体が12.2節と整合する。領域間転移は弱く支持されており、この分野には「ハーネスが転移可能な戦略を符号化している」と「ハーネスがこの領域の修正を符号化している」を分離する単一の研究すらない。

12.4 より多くの記憶とスキルはより良いのか？

主張。 蓄積は能力を生む。

反対。 複数の報告がそれを直接否定している。ある検証研究ではスキルのうち有益だったのはわずか23.9%であった[86]。行動的キュレーションはライブラリを3分の1から5分の2に縮小するが、損失はない[87]。ゲートなしの蓄積はピークに達した後、プールの増大に伴って減少する[113]。廃止されたスキルの96.9%は特に有害であると判明し、57.2%はかつて安定とみなされていた[118]。蓄積がなぜ積極的に害になりうるかの機構は今や測定されている。すなわち、蓄積の産物である凝縮された経験はエージェントによって忠実に用いられず、代わりに生の軌跡に依拠している[138]。これはアブレーションが負の記憶利得を示しうる理由も説明する[101]。

証拠が落ち着くところ。 証拠は一貫して「選択の質がリターンを決める」ことを支持している。最適なライブラリサイズは依然として定量化されていない。文献全体にわたって欠けている構造的測定が2つある。すなわち、有益スキル比率と廃止率を標準報告とすることである。

12.5 採点器は固定すべきか、共進化すべきか？

主張。 採点器をエージェントとともに進化させることは助けになる。

賛成。 赤の女王ダイナミクス[70]は、進化を止めた評価器は有用なシグナルを提供しなくなる、と論じる。DUET[69]は、その共進化した採点器がオラクル採点器を用いるベースラインを上回ると報告している（金融ベンチマークで96.5±0.4対94.0）。

反対。 共進化は固定ゲートにはない失敗モードを導入する。すなわち、クロスモーダル結合下での選好崩壊[76]、DUETの著者自身が定量化していない採点器ドリフトと報酬ハッキング[69]、一方的最適化下でのプラトー[74]である。最も強い反例は、20設定中20で勝つ固定ゲート[67]と、モデルに自らの形式化された命題を判断することを教えることでゲートをループ内に移そうとした真摯な試みが、5回の進化ラウンドすべてで失敗したこと[133]である。理論は慎重であるべき構造的理由を加える。すなわち、ゲートのバイアスはスケールによって回復不能である一方、ノイズは単に高コストである[141]、そして膨張した自己報酬の補正には検証器が生成器から情報的に区別されることが必要である[142]。

証拠が落ち着くところ。 これは本サーベイで最も未解決の議論である。両設計とも効果を報告しており、同じタスクと同じ予算でそれらを比較した研究はない。言えることはより狭く、より有用である。すなわち、採点器を動かすのであれば、生成器からの情報的独立性を保つように動かすべきであり、ノイズではなくバイアスについて評価すべきである。

12.6 分野の語彙はその内容を追跡しているか？

6番目の問いは科学的ではないが、科学的帰結を持つ。再帰的自己改善とラベル付けされた研究の大部分は、本サーベイの用語では$d=0$である。すなわち、それらは固定された仕組みでコンポーネントを編集する。逆もまた生じる。その語を決して用いない研究が機構をループ内に置いており、最も明確なのは評価器共進化ファミリー[69, 70, 71, 72, 74]である。一方、ある研究の著者自身がそのサイクルを疑似再帰的とラベル付けしている。まさに内容だけが変化するからであり[104]、長期的ロボティクス研究はそのループが再帰に「誤った場所で」資金を提供したと結論づけている[124]。

私たちは用語の取り締まりを提案しているのではない。この語彙が犠牲にしているのは比較可能性である。「再帰的」という語は現在、タスク内での改訂からメタレベルでの自己改変まであらゆるものを指しており、読者はそのラベルから、システムの改善機構それ自体が編集可能かどうかを判断できない。本サーベイ全体で用いる段階的な軸は、新たな二項対立を加えることなく、その情報を回復するための私たちの試みである。

要点

• 再帰は、予算あたりの改善率ではなく、到達可能な設計空間を変える。見かけ上の速度比較は、予算配分の比較である。
• 「忠実性の機構が利得を担う」は一貫した横断的パターンだが、まだ対照実験による知見ではない。必要な実験は、構成要素と演算子を固定した単一演算子アブレーションである。
• ドメイン内転移は支持されており、最も厳格なゲートを課した研究に集中している。ドメイン間転移は弱く、この分野は依然として転移可能な戦略とドメイン固有の欠陥補償を分離できていない。
• 蓄積は既定では害となる。そしてその機構は今や測定可能である。凝縮された経験は忠実に読み出されないため、忠実に読み出されない記憶は役に立ち得ない。
• 固定された評価者と共進化する評価者のどちらが良いかは未解決である。擁護可能な助言は、動く評価者は生成器からの情報的独立性を保たねばならず、ノイズではなくバイアスについて監査されねばならない、というものである。

13 今後の方向性と結論

13.1 本証拠が支持する六つの方向性

以下の各方向性は、本サーベイにおける特定の知見によって引き起こされたものであり、不確実性を減らすであろう検証を伴う。これらは私たちの提案であり、文献で取られている立場ではない。

1. ゲート中心の研究課題。 契機: 忠実性と受理の機構は、あらゆる実質的利得と相関する [43, 44, 67, 119] が、因果関係を確立するであろう単一演算子アブレーションはまだ実施されていない [48, 49]。理論は今や、なぜゲートが優先されるべきかを説明する。すなわち、ノイズの多いゲートはサンプル予算を費やし、バイアスのあるゲートはスケールによって救済できず [141]、修正には生成器からの情報的独立性が必要である [142]。検証: 構成要素と探索演算子を固定したうえで、汎化、非回帰、契約、統計の各ゲートを個別に切り替え、ホールドアウト性能、転移、バイアス（単なるノイズだけでなく）を測定する。

2. 予算、規模、クリーン性に関する報告基準。 契機: 研究間で単位が互換でないこと [139, 141, 143, 146]、規模が一切報告されないライブラリ [15, 90]、一つの論文にしか存在しない廃棄統計 [118]。検証: テスト時スケーリングに対する予算一致比較を採用し [139]、検証シグナルを評価セットから分離し [143]、有益割合、廃棄率、成果物の規模、コストを共通の単位で報告する。

3. 補償と能力の分離。 契機: 回復の88%が特定された欠陥に帰属でき、利得が天井を引き上げるものではなく補償として枠づけられていること [145] に、基盤能力における更新能力の平坦なスケーリング [143] が組み合わさっている。検証: 同じ進化パイプラインを、意図的に欠陥のない開始構成に対して、およびより強い基盤に対して実行する。もし利得が前者で消え、後者で増大しないなら、「補償」が正しい読みであり、転移に関する説明は変わる。

4. 情報の独立性を保ったままの共進化。 トリガー：ゲートをループの内側に移そうとした唯一の試みの失敗[133]、偽合格採点の崖が確認されたこと[141]、そして自己報告とは誤差が無相関な検証器の必要性が実証されたこと[142]。チェック：採点器を進化させる前に、その誤差が生成器のバイアスと無相関のままであるかを測定し、特に偽合格の非対称性について監査する——ノイズを減らすだけのゲートは役に立たない。

5. 蓄積された状態の縦断的監査。 トリガー：ロールバックを生き延びる汚染[113]、可視層の復元を生き延びる行動のドリフト[146]、かつて安定として合格していた引退済みスキル[118]。チェック：修正後も数世代にわたり進化するシステムの監査を続け、不安全または有害な状態が再出現するかを検査する——安全性サーベイが求めている評価の形である[6]。

6. 再帰の深さを上げるのではなく、証拠要件を下げること。 トリガー：パーソナライゼーションが相互作用の証拠によって上限づけられるという限界[64]と、安定性によって課されるメタ深さの天井[94]、そして実際に利得をもたらすものの大半が欠陥修復であるという観察。チェック：あるメカニズムが、一定の品質に到達するために必要な相互作用の数を減らすか、また節約された証拠が再投資されるかを評価する——本サーベイがデータの中に見出した高速化への唯一の道である。

13.2 結論

スコープをハーネス層に固定すると、この分野は包括的な用語が示唆するよりも単純で、神秘性が薄れて見える。

重要な軸は、どのアルゴリズムを使うかではなく、何を修正するかである。 自己言及コード、メモリ、ツールとスキル、プロンプトとオーケストレーション、ハーネス全体の探索、そして検証器は六つの系列であり、そのメカニズムは根本的に異なり、その知的系譜も同じくらい異なる——プログラム合成、メモリシステム、スキル学習、プロンプト最適化、アーキテクチャ探索、検証である。

再帰度は有用な尺度であり、ほとんどの研究はその底辺に位置する。 111本の論文の網羅的読解により、改善メカニズムがそれ自身の編集可能集合の真に内側にある箇所は、小さく列挙可能な範囲に限られることが判明した：自己言及コード（Hyperagents、HADA、およびDGM、SICA、HGMの生成側）、評価器の共進化、メモリ研究1本、スキル研究1本、ハーネス全体の探索研究1本、加えて設計レベルの提案である。それ以外は、どのように名付けられていようと、コンポーネントを編集している。

証拠の重みは「誰がより多く編集するか」ではなく「誰がより少なく壊すか」にある。 第6節の忠実性機構の五つのファミリー、第7節の統計的ゲートと共進化、第5節の引退と汚染に関する結果、そしてバイアスのあるゲートがなぜ致命的かを説明する第8節の理論は、すべて同じ方向を指す：ゲートの品質がループをどこまで走らせられるかを決める。これは限界に関する結果がなぜそのように読めるかも説明する——天井は証拠量であり、メタ深さは安定性によって上限づけられ、より深い層は最も監査しにくい。

そして、この分野は依然として、帰属できる以上の数を報告している。 予算を揃えた条件では、ハーネス全体の進化はあるベンチマークでテスト時間スケーリングを上回れなかった[139]。能力の更新は基礎能力において横ばいであり[143]、その利得は主に欠陥の補償によるものであり[145]、凝縮された経験は忠実に読み取られておらず[138]、明示的な能力進化は長期的地平において一貫した利益を示さず[140]、蓄積はデフォルトで害となり、巻き戻すこともできない[113, 118, 124]。これらはこの領域を退ける理由にはならない——第5節から第7節のいくつかの結果は強力であり、一部は十分に制御されている——が、これらの結果は、ハーネスレベルの再帰的自己改善に対する最も価値ある次の貢献が、おそらくより巧妙な演算子ではないことを意味している。それは、適切に測定され、他の人々が比較できる単位で報告される、より優れたゲートである。

付録A：範囲、コーパス、証拠の境界

A.1 検索経路

候補コーパスは、6つの相補的な経路の和集合であり、すべて2022-01-01以降のv1投稿に限定されている：

表10. 候補コーパスの背後にある6つの検索経路。

R1–R5は検索上限の250件で飽和したため、打ち切りが発生している可能性がある。R6は「harness」と名付けられた著作にしか到達しない。したがって、この和集合は文書化されているが、網羅的であることは保証されない。和集合は1176件の候補で構成され、包含基準を適用した結果736件が保持され、440件が除外された。

A.2 件数

• スクリーニング：1176件の候補から736件を保持、440件を除外（736 + 440 = 1176）。
• 分類：保持された作品のうち595件が13のリーフに配置された（108件のマルチラベルの重複を含む）。残りの141件の境界横断的な作品は別個のバケットとして保持され（595 + 141 = 736）、境界の議論と広範な引用にのみ使用される。
• 第1回読解ウェーブ：5つのリーフにわたる63件のディスパッチ — 自己言及コード（20）、検証器とゲート（10）、ハーネス全体の探索（16）、メモリ（8）、ツールとスキル（9）。このうち、61件はセクションから読解され、2件（STOP [7] と TTHE [55]）は本文が入手できなかったため、抄録レベルでのみ読解できた。- 第2回読解ウェーブ：4つの薄いリーフにわたる48件のディスパッチ — 理論とエビデンスの監査（10、リーフ全体）、メモリ（12）、ツールとスキル（12）、応用（12） — に加えて、本文が入手可能になった後に再ディスパッチされた第1ウェーブの2件の劣化論文。このうち、TTHE [55] はこれによりセクションレベルの読解に格上げされたが、STOP [7] は両方のウェーブで本文が入手できなかったため、依然として抄録レベルで引用されている。
• 参考文献：146件の番号付きエントリ = 第1ウェーブからの100件に第2ウェーブで追加された46件を加えたもの。深く読解された作品は本文で引用され、抄録またはメタデータレベルで引用された作品は広範性のためにのみ登場する。エビデンス台帳が参照ごとの読解深度と引用ティアを記録しており、抄録レベルの作品にはティアAまたはBが割り当てられることは決してない。
• 両ウェーブを通じて処理された異なる論文：109件（63 + 46）。再ディスパッチされた2件の論文は第1ウェーブですでに計上されていたためである。
• スクリーニングを通過したが引用されていない残りの作品は、リーフサイズの統計と分類にのみ使用された。

A.3 第2ウェーブにおけるサンプリング

第2ウェーブは対象を絞ったサンプルであり、4つのリーフの網羅的な読解ではなかった。各リーフセットのメンバーは安定しているが任意の順序で保存されている。我々はリーフごとに12件の作品を抽出し（メモリ153メンバー、ツールとスキル133、応用94）、各リーフのサブタイプを網羅し、理論リーフは全文を読解した（11メンバー、うち2件はウェーブ1ですでに読解済み）。重み–ハーネス共進化（17メンバー）、ベンチマークと評価（24）、プロンプトと指示（38）、ワークフローとトポロジー（77）、安全性（26）は、第2ウェーブのスコープ設定時に合意された通り、意図的に抄録レベルのままとされ、セクション5.3、9.1、9.2、9.3の対応するサブセクションはその旨をその場で述べている。

A.4 証拠が薄い分枝

以下の分枝は、セクション4、6、7、8、10よりも実質的に薄い証拠しか持たず、本文中でその旨が示されている：

• プロンプト（$P$）とワークフロー／オーケストレーション（$W$）：既存のプロンプト最適化やアーキテクチャ探索の伝統と重複しており、主に$d=0$であり、論文ごとの検証は行っていない。
• 理論とメカニズムの分析：コーパス内の11件の研究。第2波でリーフ全体を読み、第8節はそれに依拠している。
• ベンチマークと評価：24件の研究。本サーベイはそのうち専用ベンチマーク[99]と2件のプロトコル監査[139, 143]を引用している。
• 重みとハーネスの共進化：17件の研究。第9.1節ではそのうち3つの特定システムを論じている。
• 安全性：26件の研究。第9.3節ではサーベイ、リスクの特徴づけ、インジェクション攻撃面、および2件の防御・ガバナンス研究を論じている。
• 応用：94件の研究。第11節では7領域にわたる12件を報告している。その他の領域（[132]以外の推薦、法律、[135]以外の生物学、[134]以外のハードウェア）は実質的な評価を行っていない。

A.5 既知のバイアスと再現性に関する注記

• この特定の文献に対する公開された引用グラフツールは存在しないため、系譜に関する記述は、我々が読んだ研究の関連研究節とベースラインの選択に依拠しており、前方引用の列挙には依拠していない。
• 再帰度$d$は、共有記法の下での我々の分類であり、著者自身の表現ではない。異なる較正で読めば、個々の研究が尺度上で1段階移動する可能性があり、第12.6節では語彙自体が不安定である理由を論じている。
• 予算、ベンチマーク、ベースモデルは研究間で十分に異なるため、本サーベイにおける研究間の数値比較はすべてランク付け不能として明示している。
• 本コーパス内の2件の研究は実験ではなくサーベイまたはポジションペーパーであり[130]、引用箇所ではその旨を明記している。

A.6 図表一覧

図1．本サーベイの構成（第1.3節、図）。図2．ハーネスレベルの自己改善におけるマイルストーン（第2.3節、図）。図3．二軸の分類体系（第3.3節、図）。図4．Darwin Gödel Machineのループ（第4.2節、[11]より）。図5．HADAの統合ワークフロー（第4.2節、[31]より）。図6．探索演算子のスペクトル（第6.1節、図）。図7．Self-Harnessの1ラウンド（第6.1節、[40]より）。図8．SAGEの統計的受入ゲート（第7.1節、[67]より）。図9．固定ゲートから共進化し再設定されるゲートへ（第7.1節、図）。図10．DUETの共進化アブレーション（第7.1節、[69]より）。図11．CAFEの3つの連結ループ（第7.1節、[74]より）。図12．Red Queen Gödel Machineの共進化的構築（第7.4節、[70]より）。

表1．自己改善の3つのレジーム（第2.1節）。表2．共有記法（第2.2節）。表3．関連サーベイと本サーベイの相違点（第2.4節）。表4．コーパス内で$d\ge1$が生じる箇所（第3.2節）。表5．自己参照コードとスキャフォールディング研究の比較（第4.5節）。表6．受入ゲートとグレーダーの比較（第7.4節）。表7．監査および否定的結果の研究（第10.7節）。表8．検証可能性のスペクトル（第11.2節）。表9．コーパス内で繰り返し使用されるリソース（第11.5節）。表10．6つの検索経路（付録A.1）。

注：図4、5、7、8、10、11、12は引用論文から転載している。残りの図は本サーベイのために作成した図である。各表はそれを用いる節に掲載され、各キャプションにはその行の比較可能性の限界が明記されている。

References

[1] Zhe Ren, Yimeng Chen, Dandan Guo, et al. Self-Improvements in Modern Agentic Systems: A Survey. 2026. arXiv preprint. arXiv:2607.13104

[2] Mingguang Chen, Licheng Wang, Bo Qu. Recursive Self-Improvement in AI: From Bounded Self-Refinement to Autonomous Research Loops. 2026. arXiv preprint. arXiv:2607.07663

[3] Yi Duan, Ying Liu, Zirui Tang, et al. The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement. 2026. arXiv preprint. arXiv:2609.11873

[4] Huan-ang Gao, Jiayi Geng, Wenyue Hua, et al. A Survey of Self-Evolving Agents: What, When, How, and Where to Evolve on the Path to Artificial Super Intelligence. 2025. arXiv preprint. arXiv:2507.21046

[5] Jinyuan Fang, Yanwen Peng, Xi Zhang, et al. A Comprehensive Survey of Self-Evolving AI Agents: A New Paradigm Bridging Foundation Models and Lifelong Agentic Systems. 2025. arXiv preprint. arXiv:2508.07407

[6] Jiahao Chen, Zhou Feng, Oubo Ma, et al. Safety in Self-Evolving Agents: A Survey. 2026. arXiv preprint. arXiv:2610.00093

[7] Eric Zelikman, Eliana Lorch, Lester Mackey, Adam Tauman Kalai. Self-Taught Optimizer (STOP): Recursively Self-Improving Code Generation. 2023. arXiv preprint. arXiv:2310.02304

[8] Alex Sheng, Shankar Padmanabhan. Self-Programming Artificial Intelligence Using Code-Generating Language Models. 2022. arXiv preprint. arXiv:2205.00167

[9] Shengran Hu, Cong Lu, Jeff Clune. Automated Design of Agentic Systems. 2024. arXiv preprint. arXiv:2408.08435

[10] Xunjian Yin, Xinyi Wang, Liangming Pan, Li Lin, Xiaojun Wan, William Yang Wang. Gödel Agent: A Self-Referential Agent Framework for Recursive Self-Improvement. 2024. arXiv preprint. arXiv:2410.04444

[11] Jenny Zhang, Shengran Hu, Cong Lu, Robert Lange, Jeff Clune. Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents. 2025. arXiv preprint. arXiv:2505.22954

[12] Maxime Robeyns, Martin Szummer, Laurence Aitchison. A Self-Improving Coding Agent. 2025. arXiv preprint. arXiv:2504.15228

[13] Wenyi Wang, Piotr Piękos, Li Nanbo, et al. Huxley-Gödel Machine: Human-Level Coding Agent Development by an Approximation of the Optimal Self-Improving Machine. 2025. arXiv preprint. arXiv:2510.21614

[14] Jenny Zhang, Bingchen Zhao, Wannan Yang, et al. Hyperagents. 2026. arXiv preprint. arXiv:2603.19461

[15] Guanzhi Wang, Yuqi Xie, Yunfan Jiang, et al. Voyager: An Open-Ended Embodied Agent with Large Language Models. 2023. arXiv preprint. arXiv:2305.16291

[16] Noah Shinn, Federico Cassano, Edward Berman, et al. Reflexion: Language Agents with Verbal Reinforcement Learning. 2023. arXiv preprint. arXiv:2303.11366

[17] Aman Madaan, Niket Tandon, Prakhar Gupta, et al. Self-Refine: Iterative Refinement with Self-Feedback. 2023. arXiv preprint. arXiv:2303.17651

[18] Mert Yuksekgonul, Federico Bianchi, Joseph Boen, et al. TextGrad: Automatic "Differentiation" via Text. 2024. arXiv preprint. arXiv:2406.07496

[19] Omar Khattab, Arnav Singhvi, Paridhi Maheshwari, et al. DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines. 2023. arXiv preprint. arXiv:2310.03714

[20] Chengrun Yang, Xuezhi Wang, Yifeng Lu, et al. Large Language Models as Optimizers. 2023. arXiv preprint. arXiv:2309.03409

[21] Qingyan Guo, Rui Wang, Junliang Guo, et al. EvoPrompt: Connecting LLMs with Evolutionary Algorithms Yields Powerful Prompt Optimizers. 2023. arXiv preprint. arXiv:2309.08532

[22] Eric Zelikman, Yuhuai Wu, Jesse Mu, Noah D. Goodman. STaR: Bootstrapping Reasoning With Reasoning. 2022. arXiv preprint. arXiv:2203.14465

[23] Adam Zweiger, Jyothish Pari, Han Guo, et al. Self-Adapting Language Models. 2025. arXiv preprint. arXiv:2506.10943

[24] Andrew Zhao, Yiran Wu, Yang Yue, et al. Absolute Zero: Reinforced Self-play Reasoning with Zero Data. 2025. arXiv preprint. arXiv:2505.03335

[25] Alexander Novikov, Ngân Vũ, Marvin Eisenberger, et al. AlphaEvolve: A coding agent for scientific and algorithmic discovery. 2025. arXiv preprint. arXiv:2506.13131

[26] Luke J. O'Connor. Self-Programmed Execution for Language-Model Agents. 2026. arXiv preprint. arXiv:2605.06898

[27] Qianshu Cai, Yonggang Zhang, Xianzhang Jia, et al. MOSS: Self-Evolution through Source-Level Rewriting in Autonomous Agent Systems. 2026. arXiv preprint. arXiv:2605.22794

[28] Anton Razzhigaev, Andrei Gritsaev, Andrei Kaznacheev, et al. Ouroboros: A Self-Developing Frontier Coding Agent with Reviewed Core Evolution. 2026. arXiv preprint. arXiv:2608.08311

[29] Chunqiu Steven Xia, Zhe Wang, Yan Yang, Yuxiang Wei, Lingming Zhang. Live-SWE-agent: Can Software Engineering Agents Self-Evolve on the Fly?. 2025. arXiv preprint. arXiv:2511.13646

[30] Xinghong Fu, Aravinth Kulanthaivelu, Yutaro Yamada. Self Improvement via Fast Tree-search. 2026. arXiv preprint. arXiv:2609.19526

[31] Zipei Yu, Yue-Jiao Gong, Zeyuan Ma, Yuncheng Jiang, Zhiguang Cao. Hyper Algorithm Design Agent: Evolving Learnable Optimizer from Zero. 2026. arXiv preprint. arXiv:2609.35328

[32] Dhruv Srikanth, Bingchen Zhao, Dixing Xu, Yuxiang Wu, Zhengyao Jiang. Recursive self-improvement of AI research agents. 2026. arXiv preprint. arXiv:2609.26457

[33] Marco Robol, Paolo Giorgini. Self-Evolving Software Agents. 2026. arXiv preprint. arXiv:2604.27264

[34] Nikolas Belle, Dakota Barnes, Alfonso Amayuelas, et al. Agents of Change: Self-Evolving LLM Agents for Strategic Planning. 2025. arXiv preprint. arXiv:2506.04651

[35] Zhiyi Kuang, Ryan Rong, YuCheng Yuan, Allen Nie. Learning Game-Playing Agents with Generative Code Optimization. 2025. arXiv preprint. arXiv:2508.19506

[36] Tailin Zhou. Hierarchical Self-Improvement: A Framework for Task-Specific Evolvable Agent Harnesses. 2026. arXiv preprint. arXiv:2608.08466

[37] Laizhen Li, Jiarui Li, Juanjuan Zhao, et al. Grow the Harness, Not the Context: From Strategy-Free Scaffolds to Reusable Specialist Agents. 2026. arXiv preprint. arXiv:2609.26760

[38] Jun Nie, Yonggang Zhang, Qianshu Cai, et al. EvolveNet: Collaborative Harness Evolution for Agent Self-Improvement. 2026. arXiv preprint. arXiv:2608.04968

[39] Jingbo Yang, Kwei-Herng Lai, Xiaowen Wang, et al. Learning from Research: Toward Lifelong Agent Harness Evolution. 2026. arXiv preprint. arXiv:2609.40169

[40] Hangfan Zhang, Shao Zhang, Kangcong Li, et al. Self-Harness: Harnesses That Improve Themselves. 2026. arXiv preprint. arXiv:2606.09498

[41] Qiankai Xu. Self-Evolving Harness on Multiple Tasks with the Agent as Its Own Optimizer. 2026. arXiv preprint. arXiv:2609.38372

[42] Hyunin Lee, Jinglue Xu, Jeffrey Seely, et al. Recursive Harness Self-Improvement. 2026. arXiv preprint. arXiv:2607.15524

[43] Jiahang Lin, Shichun Liu, Chengjun Pan, et al. Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses. 2026. arXiv preprint. arXiv:2604.25850

[44] Luan Zhang, Ruochen Zhou, Dandan Song, et al. HarnessCompass: Guiding Automatic Harness Evolution toward Generalizable and Effective Agent Harnesses. 2026. arXiv preprint. arXiv:2608.01918

[45] Zibo Zhao, Jijun Shi, Mo Zhou, et al. RobustSGPO: Search-Space Control for Agent Harness Evolution. 2026. arXiv preprint. arXiv:2609.09646

[46] Ruiqing Yue, Yu Cui, Zhuoyu Sun, et al. Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents. 2026. arXiv preprint. arXiv:2609.11677

[47] Guojun Zhu, Xunheng Huang, Peng Yin, et al. Bad Genius: Counterfactual-Guided Harness Evolution Beyond Task-Specific Shortcuts. 2026. arXiv preprint. arXiv:2609.18366

[48] Yifan Zhang, Yutong Dai, Juntao Tan, et al. DarwinX: Evolving Agent Harnesses Through Natural Selection. 2026. arXiv preprint. arXiv:2608.07545

[49] Zhiwei Shang, Yu Huo, Mingrong Gong, et al. MESH-Harness: Self-Improving Agent Harnesses via Bandit-Guided Compositional Evolution. 2026. arXiv preprint. arXiv:2610.05300

[50] Zhiwei Shang, Jiahang Sun, Mingrong Gong, et al. Fusion is the New Mutation: Bandit-Guided Evolution on Workflow Graphs. 2026. arXiv preprint. arXiv:2610.05284

[51] Haoyu Dong, Yuhang Zhou, Zihao Lin, et al. Mixture of Self-Improving Branches For Agent Harness Optimization. 2026. arXiv preprint. arXiv:2609.37834

[52] Yue Huang, Wenjie Wang, Han Bao, et al. MemoHarness: Agent Harnesses That Learn from Experience. 2026. arXiv preprint. arXiv:2607.14159

[53] Kamer Ali Yuksel. EvoLattice: Persistent Internal-Population Evolution through Multi-Alternative Quality-Diversity Graph Representations for LLM-Guided Program Discovery. 2025. arXiv preprint. arXiv:2512.13857

[54] Haebin Seong, Li Yin, Haoran Zhang, Zhan Shi. The Last Harness You'll Ever Build. 2026. arXiv preprint. arXiv:2604.21003

[55] Jun Nie, Yonggang Zhang, Jun Song, et al. TTHE: Test-Time Harness Evolution. 2026. arXiv preprint. arXiv:2607.08124

[56] Tingyang Chen, Shuo Lu, Kang Zhao, et al. HarnessX: A Composable, Adaptive, and Evolvable Agent Harness Foundry. 2026. arXiv preprint. arXiv:2606.14249

[57] Zewen Liu, Zhan Shi, Yisi Sang, et al. Adaptive Auto-Harness: Sustained Self-Improvement for Agentic System Deployment on Open-Ended Task Streams. 2026. arXiv preprint. arXiv:2606.01770

[58] Yuetian Du, Yucheng Wang, He Xu, et al. Living-Harness Is an Interactive-Agent Evolver. 2026. arXiv preprint. arXiv:2607.26598

[59] Seth Karten, Joel Zhang, Tersoo Upaa Jr, et al. Continual Harness: Online Adaptation for Self-Improving Foundation Agents. 2026. arXiv preprint. arXiv:2605.09998

[60] Wujiang Xu, Jiaojiao Han, Minghao Guo, et al. AEL: Evolving Agent Harness in Open-Ended Environments. 2026. arXiv preprint. arXiv:2604.21725

[61] Wenbo Pan, Shujie Liu, Chin-Yew Lin, et al. Evolving Agents in the Dark: Retrospective Harness Optimization via Self-Preference. 2026. arXiv preprint. arXiv:2606.05922

[62] Yu Shang, Yu Li, Keyu Zhao, et al. AgentSquare: Automatic LLM Agent Search in Modular Design Space. 2024. arXiv preprint. arXiv:2410.06153

[63] Siyu Yuan, Kaitao Song, Jiangjie Chen, et al. EvoAgent: Towards Automatic Multi-Agent Generation via Evolutionary Algorithms. 2024. arXiv preprint. arXiv:2406.14228

[64] Zeyu Gan, Zixuan Gong, Yong Liu. Harness Evolution as Learning: Approximation, Generalization, and Optimization Limits of Self-Improving Personal Agents. 2026. arXiv preprint. arXiv:2609.36892

[65] Tianyu Fan, Chao Huang. HELIX: Model-Harness Co-evolution for Recursive Self-Improvement. 2026. arXiv preprint. arXiv:2608.13951

[66] Chejian Xu, Shujian Zhang, Wenxuan Zhou, et al. Evo²: Evolving the Evolver through Weight-Harness Co-Evolution. 2026. arXiv preprint. arXiv:2610.13025

[67] Yihao Wang, Linhan Xia, Rui Liu, et al. SAGE: A Statistical Acceptance Gate for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2609.36043

[68] Biswa Sengupta. Self-Evolving Agents with Anytime-Valid Certificates. 2026. arXiv preprint. arXiv:2607.00871

[69] Fengyu Gao, Sourav Pal, Austin Z. Henley, et al. DUET: Co-Evolving Solver and Grader Agents. 2026. arXiv preprint. arXiv:2610.04087

[70] Alex Iacob, Andrej Jovanović, William F. Shen, et al. The Red Queen Gödel Machine: Co-Evolving Agents and Their Evaluators. 2026. arXiv preprint. arXiv:2606.26294

[71] Xing Zhang, Guanghui Wang, Yanwei Cui, et al. Who Verifies the Verifier? Co-Evolving Inspectable Graders with Self-Improving Agents. 2026. arXiv preprint. arXiv:2610.11464

[72] Xing Zhang, Guanghui Wang, Yanwei Cui, et al. Who Grades the Grader? Co-Evolving Evaluation Metrics and Skills for Self-Improving LLM Agents. 2026. arXiv preprint. arXiv:2607.12790

[73] Jiamu Bai, Lizhu Zhang, Xin Yu, et al. Verify Less, Evolve More: Training Idea-Level Critics for Verification-Efficient ML Evolving Agents. 2026. arXiv preprint. arXiv:2610.08993

[74] Boyang Liu, Senjie Jin, Peixin Wang, et al. CAFE: Self-Improving Search Agents Need Co-Evolving Feedback. 2026. arXiv preprint. arXiv:2608.24794

[75] Xinyu Wang, Hanwei Wu, Jingwei Song, et al. Co-Evolution of Policy and Internal Reward for Language Agents. 2026. arXiv preprint. arXiv:2604.03098

[76] Zewen Liu. Multimodal Evaluator Preference Collapse: Cross-Modal Coupling in Self-Evolving Agents. 2026. arXiv preprint. arXiv:2606.16682

[77] Tianlu Wang, Ilia Kulikov, Olga Golovneva, et al. Self-Taught Evaluators. 2024. arXiv preprint. arXiv:2408.02666

[78] Guibin Zhang, Haotian Ren, Chong Zhan, et al. MemEvolve: Meta-Evolution of Agent Memory Systems. 2025. arXiv preprint. arXiv:2512.18746

[79] Haozhen Zhang, Quanyu Long, Jianzhu Bao, et al. MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2602.02474

[80] Shengtao Zhang, Jiaqian Wang, Ruiwen Zhou, et al. MemRL: Self-Evolving Agents via Runtime Reinforcement Learning on Episodic Memory. 2026. arXiv preprint. arXiv:2601.03192

[81] Wujiang Xu, Zujie Liang, Kai Mei, et al. A-MEM: Agentic Memory for LLM Agents. 2025. arXiv preprint. arXiv:2502.12110

[82] Huichi Zhou, Yihang Chen, Siyuan Guo, et al. Memento: Fine-tuning LLM Agents without Fine-tuning LLMs. 2025. arXiv preprint. arXiv:2508.16153

[83] Yaolun Zhang, Yiran Wu, Yijiong Yu, Qingyun Wu, Huazheng Wang. Live-Evo: Online Evolution of Agentic Memory from Continuous Feedback. 2026. arXiv preprint. arXiv:2602.02369

[84] Kaichao Liang, Yuqi Cui, Hao Kong, et al. MindMemOS: A Portable and Self-Evolving Memory Operating Layer for AI Agents. 2026. arXiv preprint. arXiv:2608.12428

[85] Xinke Jiang, Tao Feng, Weixuan Xu, et al. GenMem: Generative Symbolic Memory for Self-Evolving Harness. 2026. arXiv preprint. arXiv:2609.34633

[86] Serin Kim, Kwangwook Seo, Dokyung Song, Jinyoung Yeo, Dongha Lee. SkillSandbox: Skill Verification via Dynamic Scenario Synthesis. 2026. arXiv preprint. arXiv:2610.10088

[87] Zhen Xiong, Qiaoyu Tan. EASE: Behavior-Adaptive Skill Curation for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2609.36746

[88] Zhang Zhang, Shuqi Lu, Hongjin Qian, Di He, Zheng Liu. AgentFactory: A Self-Evolving Framework Through Executable Subagent Accumulation and Reuse. 2026. arXiv preprint. arXiv:2603.18000

[89] Guanyu Jiang, Zhaochen Su, Xiaoye Qu, Yi R. Fung. XSkill: Continual Learning from Experience and Skills in Multimodal Agents. 2026. arXiv preprint. arXiv:2603.12056

[90] Zeyu Ren, Ling Yue, Ran Li, et al. FlowEvo: Self-Evolving Agents through the Co-Evolution of Workflows and Executable Skills. 2026. arXiv preprint. arXiv:2607.21596

[91] Huichi Zhou, Siyuan Guo, Anjie Liu, et al. Memento-Skills: Let Agents Design Agents. 2026. arXiv preprint. arXiv:2603.18743

[92] Zhiling Yan, Dingjie Song, Hanrong Zhang, et al. OpenSkill: Open-World Self-Evolution for LLM Agents. 2026. arXiv preprint. arXiv:2606.06741

[93] Srishti Gautam, Arjun Radhakrishna, Sumit Gulwani. SkillAxe: Sharpening LLM-Authored Agent Skills Through Evaluation-Guided Self-Refinement. 2026. arXiv preprint. arXiv:2606.10546

[94] Zae Myung Kim, Young-Jun Lee, Seungyeon Jwa, Dongyeop Kang. Meta^n: Recursive Self-Improvement through Emergent Depth. 2026. arXiv preprint. arXiv:2608.24735

[95] Shuai Shao, Qihan Ren, Chen Qian, et al. Your Agent May Misevolve: Emergent Risks in Self-evolving LLM Agents. 2025. arXiv preprint. arXiv:2509.26354

[96] Xiqiao Xiong, Moxin Li, Zhixin Ma, et al. HASTE: Evolving Agent Harnesses Against Emerging Attacks Using Sparse Evidence. 2026. arXiv preprint. arXiv:2610.02920

[97] Geyi Yang, Zikun Qu, Xiang Li, et al. GUI-HARVEST: Self-Improving GUI Agents through Evidence-Driven Harness Evolution. 2026. arXiv preprint. arXiv:2610.00948

[98] Bingjun Luo, Jialin Guo, Siqi Li. Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution. 2026. arXiv preprint. arXiv:2609.37950

[99] Zixuan Ke, Vaidehi Patil, Haizhou Shi, et al. EvoHarnessBench: Can Your Agents Keep Pace with an Evolving Harness?. 2026. arXiv preprint. arXiv:2609.04280

[100] Jürgen Schmidhuber. Gödel Machines: Fully Self-Referential Optimal Universal Self-Improvers. 2003 (rev. 2006). arXiv:cs.LO/0309048; reprinted in Artificial General Intelligence, Springer, 2007, pp. 199–226, DOI 10.1007/978-3-540-68677-4_7

[101] Wujiang Xu, Zujie Liang, Kai Mei, et al. AutoMem: A Text-Gradient Recursive Self-Improvement Framework for Automated Memory Architectures Search. 2026. arXiv preprint. arXiv:2608.14621

[102] Yi Yang, Zhennan Chen, Yihong Zhuang, et al. RoMeRL: Balancing Feedback Coverage and the Memory-Reward Trap in Self-Evolving Agent Memory via Reduced-Order Utility States. 2026. arXiv preprint. arXiv:2608.02508

[103] Igor Bogdanov, Chung-Horng Lung, Thomas Kunz, et al. FORGE: Self-Evolving Agent Memory With No Weight Updates via Population Broadcast. 2026. arXiv preprint. arXiv:2605.16233

[104] Minhua Lin, Zhiwei Zhang, Hanqing Lu, et al. MemMA: Coordinating the Memory Cycle through Multi-Agent Reasoning and In-Situ Self-Evolution. 2026. arXiv preprint. arXiv:2603.18718

[105] Shu Yang, Junchao Wu, Derek F. Wong, Di Wang. SelfMem: Self-Optimizing Memory for AI Agents. 2026. arXiv preprint. arXiv:2607.03726

[106] Marc-Antoine Allard, Arnaud Teinturier, Victor Xing, et al. Experiential Reflective Learning for Self-Improving LLM Agents. 2026. arXiv preprint. arXiv:2603.24639

[107] Dasheng Bi, Yubin Hu, Mohammed N. Nasir. Real-Time Procedural Learning From Experience for AI Agents. 2025. arXiv preprint. arXiv:2511.22074

[108] Kaijie Chen, Chenyu Fang, Liang Yan, et al. Success Leaves Detours: Learning Executable Walkthroughs for Long-Horizon Agents. 2026. arXiv preprint. arXiv:2609.22120

[109] Anuva Banwasi, William Muckelroy III, Priya Sundaresan, et al. MessyMem: Learning-from-Doing Memory for Mobile Manipulation. 2026. arXiv preprint. arXiv:2609.15976

[110] Runzhe Wang, Huilin Lu, Shengjie Liu, et al. AdMem: Advanced Memory for Task-solving Agents. 2026. arXiv preprint. arXiv:2606.06787

[111] Gabriel Sarch, Lawrence Jang, Michael J. Tarr, et al. VLM Agents Generate Their Own Memories: Distilling Experience into Embodied Programs of Thought. 2024. arXiv preprint. arXiv:2406.14596

[112] Xu Liu, WenZhang Wei, Jun Cao, et al. NLPG: Natural-Language Policy Gradients for Self-Evolving Language Agents. 2026. arXiv preprint. arXiv:2609.33379

[113] Linfang Shang, Ming Xu, Yiding Sun, et al. When Self-Evolution Backfires: Pre-Commit Gating against Skill Contamination in LLM Agents. 2026. arXiv preprint. arXiv:2608.05810

[114] Xiaojun Wu, Cehao Yang, Honghao Liu, et al. Bayesian-Agent: Posterior-Guided Skill Evolution Across LLM Agent Harnesses. 2026. arXiv preprint. arXiv:2606.08348

[115] Salaheddin Alzubi, Noah Provenzano, Jaydon Bingham, et al. EvoSkill: Automated Skill Discovery for Multi-Agent Systems. 2026. arXiv preprint. arXiv:2603.02766

[116] Siru Ouyang, Jun Yan, Yanfei Chen, et al. SkillOS: Learning Skill Curation for Self-Evolving Agents. 2026. arXiv preprint. arXiv:2605.06614

[117] Kaiwei Liu, Jiqian Dong, Liran Dong, et al. SkillVine: Agent Skill Evolution via Branching Exploration. 2026. arXiv preprint. arXiv:2609.32731

[118] Yuyao Ge, Yiwei Wang, Yuchen He, et al. SkillForge: Co-Evolving Skills and Agents via Dynamic Skill Lifecycles. 2026. arXiv preprint. arXiv:2610.09832

[119] Yu He, Weikai Yang. SkillCommit: Evolving Agent Skills through Behaviorally Validated Scope Expansion. 2026. arXiv preprint. arXiv:2608.15165

[120] Zixi Huang, Xiheng Wang, Andrew Wang, et al. Better, Faster, Stronger: Programmatic Skill Learning Best Reduces Agent Cost. 2026. arXiv preprint. arXiv:2608.11338

[121] Doyun Kim, Chanwoo Kim, Sugyeong Eo, et al. EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents. 2026. arXiv preprint. arXiv:2608.30429

[122] Zhiwei Li, Yong Hu. SkillHone: A Harness for Continual Agent Skill Evolution Through Persistent Decision History. 2026. arXiv preprint. arXiv:2606.08671

[123] Liyan Tang, Cyrus Rashtchian, Chun-Sung Ferng, et al. WikiSkill: Compiling Agent Experience into Persistent Knowledge for Skill Evolution. 2026. arXiv preprint. arXiv:2608.27454

[124] Jiaming Wang. What Stops Recursive Self-Improvement in Robotics? Lessons from 123 Rounds of Agentic Skill Discovery. 2026. arXiv preprint. arXiv:2609.31760

[125] Bingjun Luo, Yuhuan Fan, Jialin Guo, et al. VideoEvolve: Evolving Agent Harnesses for Video Temporal Grounding. 2026. arXiv preprint. arXiv:2610.01766

[126] Xilin Dang, Weilin Ruan, Xue Yang, et al. MedZERO: Self-Evolving Agents for Open-Ended Medical Reasoning Through Controlled Knowledge Accumulation. 2026. arXiv preprint. arXiv:2610.08327

[127] Shilong Jin, Lanjun Wang, Zhuosheng Zhang. SE-GA: Memory-Augmented Self-Evolution for GUI Agents. 2026. arXiv preprint. arXiv:2605.16883

[128] Haiyu Huang, Jiewei Lyu, Zhihan Jiang, et al. From General Agents to RCA Experts: A Self-Evolving Harness for Root Cause Analysis. 2026. arXiv preprint. arXiv:2608.25661

[129] Seungyeon Kim, Junhoo Lee, Minkyu Kim, et al. Recursive Harness Distillation across Agents for Robot Manipulation. 2026. arXiv preprint. arXiv:2609.33378

[130] Loc X. Nguyen, Avi Deb Raha, Huy Q. Le, et al. Self-Evolving AI for Humanoids: Mechanisms, Safety, and Evaluation of Post-Deployment Self-Improvement. 2026. arXiv preprint. arXiv:2609.13236

[131] Peidong Wang, Zhiming Ma, Ying Chang, et al. Self-Evolving Embodied Agents via Skill-Harness Evolution. 2026. arXiv preprint. arXiv:2608.11350

[132] Zhen Tao, Riwei Lai, Chenyun Yu, et al. SAGER: Self-Evolving User Policy Skills for Recommendation Agent. 2026. arXiv preprint. arXiv:2604.14972

[133] Prithwish Jana, Viet Bach Hoang, Logan Luna, et al. AIProver: Agentic Auto-Formalization of Mathematical Research via Certificate-Driven Evolving Harness. 2026. arXiv preprint. arXiv:2610.05367

[134] Cunxi Yu, Haoxing Ren. Autonomous Evolution of EDA Tools: Multi-Agent Self-Evolved ABC. 2026. arXiv preprint. arXiv:2604.15082

[135] Mingquan Liu, Jiangyu Chen, Hanqun Cao, et al. AgentFold: Closed-Loop Agentic Search for Protein Folding Model Design. 2026. arXiv preprint. arXiv:2608.26747

[136] Zongxia Li, Dawei Liu, Fuxiao Liu, et al. COMFYCLAW: Self-Evolving Skill Harnesses for Image Generation Workflows. 2026. arXiv preprint. arXiv:2606.01709

[137] Qianshu Cai, Yonggang Zhang, Jun Nie, et al. A Theory of Reliable Self-Evolution for Agent Harnesses. 2026. arXiv preprint. arXiv:2609.08175

[138] Weixiang Zhao, Yingshuo Wang, Yichen Zhang, et al. Large Language Model Agents Are Not Always Faithful Self-Evolvers. 2026. arXiv preprint. arXiv:2601.22436

[139] Yike Wang, Huaisheng Zhu, Zhengyu Hu, et al. Rethinking the Evaluation of Harness Evolution for Agents. 2026. arXiv preprint. arXiv:2607.12227

[140] Siyuan Li, Jiangfeng Zhang, Rui Yao, et al. EverMine: Dissecting the Self-Evolution of Research Capabilities in Long-Horizon Alpha Research. 2026. arXiv preprint. arXiv:2609.33524

[141] Xing Zhang, Yanwei Cui, Guanghui Wang, et al. The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents. 2026. arXiv preprint. arXiv:2607.07436

[142] Mohammad Asadolahi, Amir Amini, Samira Talebi, et al. Memory Reward Inflation in Self-Improving LLM Agents. 2026. arXiv preprint. arXiv:2608.00017

[143] Minhua Lin, Juncheng Wu, Zijun Wang, et al. Harness Updating Is Not Harness Benefit: Disentangling Evolution Capabilities in Self-Evolving LLM Agents. 2026. arXiv preprint. arXiv:2605.30621

[144] Batu El, Mert Yuksekgonul, James Zou. Inefficiencies of Meta Agents for Agent Design. 2025. arXiv preprint. arXiv:2510.06711

[145] Siqi Yang, Qianlan Yang, Yu-Xiong Wang, et al. One Recipe, Many Harnesses: What Self-Evolution Encodes Across Languages and Models. 2026. arXiv preprint. arXiv:2608.10178

[146] Krti Tallam. Layered Mutability: Continuity and Governance in Persistent Self-Modifying Agents. 2026. arXiv preprint. arXiv:2604.14717