コンセプト更新日 2026-09-30 · バージョン 1.0

再帰的自己改善（RSI）とは何か

再帰的自己改善とは、自らを改善する能力そのものを改善する系という考えである。自己改変の各周回が次の周回をより有効にし、利得が積み上がる。この輪の狭い部分は現実に存在し、今日すでに測られている——自分の答えを推敲するモデル、自分の訓練データを生成するモデル、より良いプロンプトと道具立てを探索するモデル。だが、この語が本来名指す「積み上がる再帰」は実証されていない。測られた輪は頭打ちになり、動くためには外部からの正しさの信号を必要とし、自分の出力で訓練した系は改善ではなく劣化する。

エビデンス: 理論的確信度: 中ソース: 論文ソース: ベンチマーク
機械可読形式: JSON

定義

再帰的自己改善とは、AI の系が自分自身——出力、プロンプトと足場、訓練データ、あるいは重み——を改変し、さらなる改変を行う自らの能力を高め、各反復が次の反復を改善していく過程である。

主な要点

  • 主張されているのは再帰であって自己改善ではない。自己推敲を一周するのは日常的な工学であり、積み上がる周回は実証されていない。
  • 測られた自己改善の輪はどれも外部の正しさの信号——テスト、検証器、報酬——に支えられており、それがなければ止まる。
  • 自分の出力で訓練したモデルは劣化する（モデル崩壊）。輪には新しい正解が必要で、それはアルゴリズムの問題ではなく供給の問題である。
  • 実際に運用に入っているのは足場の層である。プロンプト、道具、評価バッテリーを書き換える系があり、統合のボタンは人が握っている。
  • 「自分で良くなった」は測定の主張として扱い、検証器は何か、再帰はどこまで進んだか、どこで止まったかを問うこと。

コンテキスト

考えは古く、証拠は薄い。I. J. グッドは 1965 年に、より良い機械を設計できる機械は「知能爆発」を引き起こすと論じ、その枠組みが以後の議論を形づくってきた——測定としてよりも論証として。六十年後に有用な問いは、爆発が来るかどうかではなく、輪のどの部分が実際に作られ、何がそれを縛ったかである。

三つの進展が、これを哲学ではなく工学の話題として再び開いた。モデルは推論時に計算を多く費やして考えられるようになった。自動で検査できる報酬に対する強化学習は、正しさが機械的に検証できる領域でよく働く。そしてエージェントはコードに対して行為する——系が自分を生み出したものを編集できる唯一の基盤である。

これはとりわけハーネスの仕事に関わる。コードを書き、道具を選び、自分のプロンプトを調整するエージェントを運用しているなら、あなたはすでに自己改善の輪の一部を——統合の経路に人を置いたまま——運用している。工学上の問いは、その人がどこに座り、何を証拠に承認できるかであって、輪が存在するかどうかではない。

アーキテクチャ

系は四つの深さで自分を改変できるが、難しさは同じではない。最も浅いのは出力である。一回の実行の内側で、モデルが自分の答えを批判し書き直す。これは日常的で、一部の課題では効き、そして限界がある——公表された結果は、外部からの手がかりがなければモデルは自分の誤答と正答を確実には見分けられないことが多いと示しており、自分の判断の上で反復しても品質は変わらないか悪くなりうる。

次はプロンプトと足場である。指示、道具の定義、検索設定、編成を探索し、取り置いた集合で高く出たものを残す。今日の現実的な利得のほとんどはここにある。改善される対象がモデルではなくコードと設定であり、点数が系の外から来るからである。

さらに深いのはデータである。系が自分で訓練例を生成し、検証器が受理したものだけを残して、それで訓練する。正しさが検査できるところ——テストが通る、証明が閉じる、勝負に勝つ——では働き、近年の最も強い結果の背後にある機構がこれである。正しさが判断の問題であるところでは退行する。系は課題ではなく検証器を最適化してしまう。

最も深いのは重みで、自己生成の信号で再訓練あるいは強化する。積み上がるという主張はここで決着させねばならず、そしてここが証拠のいちばん薄いところだ。失敗の様式は停止ではなく、ゆっくりした狭まりである。自分の分布で訓練すれば、世代を追って分布は縮む。

四つのいずれでも、荷重を支える部品はモデルではなく検証器である。再帰の深さは、それを生み出した系に尋ねずに良し悪しをどれだけ見分けられるかで縛られる。だからこの輪はコードと勝負では遠くまで回り、開かれた仕事ではほとんど回らない。

コンポーネント

提案側：改善の候補を生成するモデルまたはエージェント検証器：より良いかを告げる外部の信号（テスト、取り置いた集合、報酬、人）試行の記憶：すでに試したこと。探索が同じ場所を回らないために予算：この輪が費やしてよい計算と時間ゲート：何を採用するかを決める人または方針

メリット

  • 堅い検証器を備えた狭い輪は本当に生産的である。正しさが機械で検査できるところでは、自己生成データと探索は測られた利得を出す。
  • 足場の層での改善は安価で可逆である。プロンプト、道具、検索設定は設定であり、悪い周回は巻き戻せばよい。
  • 評価に圧力をかける。そこが本当の仕事の場所だ。輪の値打ちは、それが最適化する点数の値打ちに等しい。
  • この枠組みは統治を明確にする。「この系は自分の何を変えてよいか、誰が承認するか」という問いには答えがあり、監査できる。

リスク

  • モデル崩壊：自己生成の出力で訓練すると分布が狭まり、世代をまたいで品質が落ちる。新しい正解のない輪は積み上がらずに衰える。
  • 報酬のすり抜け：検証器が弱いと、系は課題ではなく点数を良くする。指標は成功を告げるが、能力はついてこない。
  • 反証できない主張：「系が自分で良くなった」は、検証器と基準線と再帰の深さがなければ検証できない。そしてその三つが省かれるのが普通である。
  • 監督経路の喪失：自己改変が深くなるほど、何がどう変わったかを言うのが難しくなる。監査が必要とするのはまさにそれである。
  • 能力の不透明化：自分の足場を書き換える系は、誰も与えていない到達範囲を獲得しうる。これは能力の問題である前に封じ込めの問題である。

ツールとテクノロジー

自動検証器：テストバッテリー、型検査器、証明支援系、シミュレータ取り置いた評価集合と回帰バッテリー点数化された目的に対するプロンプトと足場の探索棄却サンプリングと、検証器で濾したデータ生成痕跡と由来の道具立て。採用された変更を帰属できるように

例

  • パッチを書き、テストバッテリーを走らせ、失敗すれば再試行するコーディングエージェント。堅い検証器を伴う自己改善の一周であり、実リポジトリの評価課題で測られた進歩の背後にある機構である。
  • 自分で生成して自分で濾した例から道具の使い方を学ぶモデル。予測を良くした呼び出しだけを残す。
  • 答えを自動で検査できる問題に対する強化学習。訓練信号は人の付けた札ではなく検査器から来る。
  • 変種を提案し、取り置いた集合でそれぞれに点を付け、勝ったものを昇格させるプロンプトと足場の探索。モデルに触らない改善である。

FAQ

再帰的自己改善を本当に行った系はあるか。
この語が名指す積み上がる輪を実証した系はない。あるのは外部検証器に対する単発の周回と、足場に対する探索である。どちらも現実で、どちらも限界がある。外部の手がかりなしにモデルが自己修正する件について公表された結果は際立って弱く、自己生成データでの訓練は世代をまたいで品質を落とす。再帰を主張するなら、まずこの二つの知見を越えなければならない。
シンギュラリティと同じことか。
シンギュラリティの論証は再帰的自己改善を原動機として使うが、主張としては別物である。RSI は探して測れる機構であり、シンギュラリティは帰結についての予測である。予測にいっさい立場を取らずに、機構を工学の話題として真剣に受け取ることはできる。系を作る立場にはそれが有用な構えだ。
なぜ検証器がそれほど重要なのか。
改善とは「より良い」ということであり、それは改善される当のものの外側にある何かが決めなければならない。機械が正しさを検査できるところ——テストが通る、証明が閉じる、勝負に勝つ——では輪は回り、利得は本物である。正しさが判断の問題であるところでは、系は与えられた代理指標を最適化して終わる。再帰の深さはモデルの性質ではなく検証器の性質である。
本番でエージェントに自分のプロンプトと道具を改善させてよいか。
理に適っているし多くのチームがやっている。ただし三つが成り立つ限りにおいてである。点数が、その輪から見えない取り置いた集合から来ること。採用されたすべての変更が特定の実行に帰属できること。そして人または方針が採用を制御すること。これがなければ、改善を自動化したのではなく逸脱を自動化したことになる。
本物の再帰の証拠として何が数えられるか。
改善率が落ちないまま数世代の深さを回る輪、系がすり抜けられない検証器、そして費やした計算と輪の寄与を切り分ける基準線。この三つがそろって報告されることは稀であり、稀であるからこそ、その欠落が最初に確かめるべきことになる。

参考文献