Hat je ein System wirklich rekursive Selbstverbesserung geleistet?

Kein System hat die aufaddierende Schleife gezeigt, die der Begriff benennt. Es gibt einzelne Runden gegen einen äußeren Prüfer und Suche über Gerüste — beides real und beides begrenzt. Die veröffentlichten Ergebnisse zu einem Modell, das sich ohne äußere Rückmeldung selbst korrigiert, sind auffällig schwach, und Training auf selbst erzeugten Daten verschlechtert die Qualität über Generationen. An diesen zwei Befunden muss jede Rekursionsbehauptung vorbei.

Ist das dasselbe wie die Singularität?

Das Singularitätsargument nimmt rekursive Selbstverbesserung als Motor, aber es sind verschiedene Behauptungen. RSI ist ein Mechanismus, den man suchen und messen kann; die Singularität ist eine Vorhersage über Folgen. Man kann den Mechanismus als Ingenieurthema ernst nehmen, ohne zur Vorhersage Position zu beziehen — und das ist die nützliche Haltung beim Bauen von Systemen.

Warum zählt der Prüfer so viel?

Weil Verbesserung „besser“ heißt, und das muss etwas außerhalb des Verbesserten entscheiden. Wo eine Maschine Korrektheit prüfen kann — Tests laufen durch, der Beweis schließt, die Partie ist gewonnen — läuft die Schleife und die Gewinne sind echt. Wo Korrektheit Ermessen ist, optimiert das System am Ende den Stellvertreter, den man ihm gegeben hat. Rekursionstiefe ist eine Eigenschaft des Prüfers, nicht des Modells.

Soll man Agenten ihre eigenen Prompts und Werkzeuge in Produktion verbessern lassen?

Das ist vernünftig und viele Teams tun es, sofern drei Dinge gelten: Die Bewertung kommt von einem zurückgehaltenen Satz, den die Schleife nicht sehen kann; jede übernommene Änderung ist einem Lauf zuzuordnen; und ein Mensch oder eine Richtlinie steuert die Übernahme. Ohne das hat man nicht Verbesserung automatisiert, sondern Abdriften.

Was würde als Beleg für echte Rekursion zählen?

Eine Schleife, die mehrere Generationen tief läuft, ohne dass die Verbesserungsrate fällt, ein Prüfer, den das System nicht ausnutzen kann, und eine Ausgangsbasis, die den Beitrag der Schleife von der verbrauchten Rechenzeit trennt. Dass alle drei berichtet werden, ist selten genug, dass ihr Fehlen das Erste ist, was man prüft.

KonzepteAktualisiert 2026-09-30 · Version 1.0

Was ist rekursive Selbstverbesserung (RSI)?

Rekursive Selbstverbesserung ist die Idee eines Systems, das seine eigene Fähigkeit zur Verbesserung verbessert: Jede Runde der Selbstmodifikation macht die nächste wirksamer, sodass sich Gewinne aufaddieren. Schmale Teile dieser Schleife sind real und heute gemessen — ein Modell, das seine eigene Antwort nachschärft, das eigene Trainingsdaten erzeugt oder das nach einem besseren Prompt und Werkzeugsatz sucht. Die aufaddierende Rekursion, die der Begriff eigentlich benennt, ist nicht demonstriert. Die gemessenen Schleifen laufen in eine Sättigung, sie brauchen ein äußeres Korrektheitssignal, um überhaupt zu arbeiten, und ein Modell, das auf der eigenen Ausgabe trainiert, verschlechtert sich statt sich zu verbessern.

Evidenz: TheoretischKonfidenz: MittelQuelle: PaperQuelle: Benchmark

Maschinenlesbar: JSON

Definition

Rekursive Selbstverbesserung ist ein Prozess, in dem ein KI-System sich selbst verändert — seine Ausgabe, seine Prompts und sein Gerüst, seine Trainingsdaten oder seine Gewichte —, um die eigene Fähigkeit zu weiteren solchen Veränderungen zu erhöhen, sodass jede Iteration die nächste verbessert.

Wichtigste Erkenntnisse

Behauptet wird die Rekursion, nicht die Selbstverbesserung: Eine Runde Selbstnachschärfung ist Alltagstechnik; Runden, die sich aufaddieren, sind nicht demonstriert.
Jede gemessene Selbstverbesserungsschleife ruht auf einem äußeren Korrektheitssignal — Tests, einem Prüfer, einer Belohnung — und bleibt ohne es stehen.
Ein Modell, das auf der eigenen Ausgabe trainiert, verschlechtert sich (Modellkollaps); die Schleife braucht frische Grundwahrheit, und das ist ein Beschaffungsproblem, kein algorithmisches.
Was tatsächlich in Produktion geht, liegt auf der Gerüstebene: Systeme, die Prompts, Werkzeuge und Prüfbatterien umschreiben, während Menschen den Merge-Knopf halten.
Behandle „es hat sich selbst verbessert“ als Messbehauptung und frage nach dem Prüfer, nach der Rekursionstiefe und danach, wo sie endete.

Kontext

Die Idee ist alt und die Belege sind dünn. I. J. Good argumentierte 1965, eine Maschine, die bessere Maschinen entwerfen kann, löse eine „Intelligenzexplosion“ aus, und diese Rahmung prägt die Debatte seither — weit mehr als Argument denn als Messung. Sechzig Jahre später lautet die nützliche Frage nicht, ob die Explosion kommt, sondern welche Teile der Schleife gebaut wurden und was sie begrenzt hat.

Drei Entwicklungen haben sie als Ingenieurthema statt als philosophisches wieder geöffnet. Modelle können bei der Inferenz mehr Rechenzeit ins Denken stecken; Verstärkungslernen gegen automatisch prüfbare Belohnungen funktioniert gut, wo Korrektheit maschinell nachweisbar ist; und Agenten handeln auf Code — dem einen Substrat, auf dem ein System das bearbeiten kann, was es erzeugt hat.

Für Gerüstarbeit ist das unmittelbar relevant. Wer Agenten betreibt, die Code schreiben, Werkzeuge wählen und ihre eigenen Prompts justieren, betreibt bereits einen Teil einer Selbstverbesserungsschleife — mit einem Menschen im Merge-Pfad. Die technische Frage ist, wo dieser Mensch sitzt und welche Belege ihn freigeben lassen, nicht ob die Schleife existiert.

Architektur

Ein System kann sich auf vier Tiefen verändern, und sie sind nicht gleich schwer. Die flachste ist die Ausgabe: innerhalb eines Laufs kritisiert und überschreibt das Modell seine eigene Antwort. Das ist Routine, es hilft bei manchen Aufgaben, und es ist begrenzt — veröffentlichte Ergebnisse zeigen, dass ein Modell ohne äußere Rückmeldung seine falschen Antworten oft nicht verlässlich von seinen richtigen unterscheidet, sodass Iterieren auf dem eigenen Urteil die Qualität gleich lassen oder verschlechtern kann.

Dann kommen Prompt und Gerüst: Suche über Anweisungen, Werkzeugdefinitionen, Retrieval-Einstellungen und Orchestrierung, und behalten, was auf einem zurückgehaltenen Satz besser abschneidet. Dort liegen heute fast alle echten Gewinne, weil das Verbesserte Code und Konfiguration ist statt das Modell, und weil die Bewertung von außerhalb des Systems kommt.

Tiefer liegen die Daten: Das System erzeugt eigene Trainingsbeispiele, behält die, die ein Prüfer akzeptiert, und trainiert darauf. Das funktioniert, wo Korrektheit prüfbar ist — ein Test läuft durch, ein Beweis schließt, eine Partie ist gewonnen — und ist der Mechanismus hinter den stärksten neueren Ergebnissen. Wo Korrektheit Ermessenssache ist, entgleist es: Das System optimiert den Prüfer statt die Aufgabe.

Am tiefsten liegen die Gewichte, nachtrainiert oder verstärkt auf selbst erzeugtem Signal. Dort müsste sich die Aufaddierungsbehauptung entscheiden, und dort sind die Belege am schwächsten, denn der Fehlermodus ist kein Absturz, sondern ein langsames Verengen: Trainiere auf der eigenen Verteilung, und sie zieht sich zusammen, Generation um Generation.

In allen vier Fällen ist die tragende Komponente nicht das Modell, sondern der Prüfer. Die Rekursionstiefe ist dadurch begrenzt, wie gut man besser von schlechter unterscheiden kann, ohne das System zu fragen, das es erzeugt hat. Deshalb läuft die Schleife bei Code und Spielen weit und bei offener Arbeit kaum.

Komponenten

Vorschlagender: das Modell oder der Agent, der eine Verbesserung vorschlägtPrüfer: das äußere Signal, das sagt, ob es besser ist (Tests, zurückgehaltener Satz, Belohnung, ein Mensch)Versuchsgedächtnis: was schon probiert wurde, damit die Suche nicht im Kreis läuftBudget: Rechenzeit und Uhrzeit, die die Schleife verbrauchen darfGate: der Mensch oder die Richtlinie, die über die Übernahme entscheidet

Vorteile

Schmale Schleifen mit hartem Prüfer sind wirklich produktiv: Wo Korrektheit maschinell prüfbar ist, liefern selbst erzeugte Daten und Suche gemessene Gewinne.
Verbesserung auf Gerüstebene ist billig und umkehrbar: Prompts, Werkzeuge und Retrieval-Einstellungen sind Konfiguration, eine schlechte Runde ist ein Revert.
Sie erzeugt Druck auf die Evaluation, wo die eigentliche Arbeit liegt: Eine Schleife ist nur so gut wie die Bewertung, gegen die sie optimiert.
Die Rahmung klärt die Governance: Die Frage „was darf dieses System an sich selbst ändern, und wer gibt es frei“ ist beantwortbar und prüfbar.

Risiken

Modellkollaps: Training auf selbst erzeugter Ausgabe verengt die Verteilung und verschlechtert die Qualität über Generationen, sodass eine Schleife ohne frische Grundwahrheit verfällt statt sich aufzuaddieren.
Belohnungsausnutzung: Mit schwachem Prüfer verbessert das System die Bewertung und nicht die Aufgabe, und die Metrik meldet einen Erfolg, dem die Fähigkeit nicht folgt.
Unfalsifizierbare Behauptungen: „Das System hat sich selbst verbessert“ ist ohne Prüfer, Ausgangsbasis und Rekursionstiefe nicht nachprüfbar — und genau diese Teile fehlen meist.
Verlust des Aufsichtspfads: Je tiefer die Selbstmodifikation, desto schwerer zu sagen, was sich geändert hat und warum, und genau das braucht eine Prüfung.
Fähigkeitsopazität: Ein System, das sein eigenes Gerüst umschreibt, kann Reichweite erlangen, die ihm niemand gewährt hat — eine Frage der Eindämmung, bevor sie eine der Fähigkeit ist.

Tools & Technologien

Automatische Prüfer: Testsuiten, Typprüfer, Beweisassistenten, SimulatorenZurückgehaltene Evaluationssätze und RegressionsbatterienPrompt- und Gerüstsuche gegen ein bewertetes ZielRückweisungsstichproben und prüfergefilterte DatenerzeugungSpur- und Herkunftswerkzeuge, damit eine übernommene Änderung zuzuordnen ist

Beispiele

Ein Coding-Agent, der einen Patch schreibt, die Testsuite laufen lässt und bei Fehlschlag erneut ansetzt: eine Runde Selbstverbesserung mit hartem Prüfer, und der Mechanismus hinter gemessenen Fortschritten auf Benchmarks aus echten Repositories.
Ein Modell, das den Gebrauch eines Werkzeugs aus Beispielen lernt, die es selbst erzeugt und gefiltert hat, und nur die Aufrufe behält, die seine Vorhersage verbesserten.
Verstärkungslernen an Aufgaben, deren Antwort automatisch prüfbar ist, wobei das Trainingssignal vom Prüfer kommt und nicht von einem menschlichen Label.
Eine Prompt- und Gerüstsuche, die Varianten vorschlägt, jede auf einem zurückgehaltenen Satz bewertet und die Siegerin übernimmt: Verbesserung, ohne das Modell anzufassen.

FAQs

Hat je ein System wirklich rekursive Selbstverbesserung geleistet?: Kein System hat die aufaddierende Schleife gezeigt, die der Begriff benennt. Es gibt einzelne Runden gegen einen äußeren Prüfer und Suche über Gerüste — beides real und beides begrenzt. Die veröffentlichten Ergebnisse zu einem Modell, das sich ohne äußere Rückmeldung selbst korrigiert, sind auffällig schwach, und Training auf selbst erzeugten Daten verschlechtert die Qualität über Generationen. An diesen zwei Befunden muss jede Rekursionsbehauptung vorbei.
Ist das dasselbe wie die Singularität?: Das Singularitätsargument nimmt rekursive Selbstverbesserung als Motor, aber es sind verschiedene Behauptungen. RSI ist ein Mechanismus, den man suchen und messen kann; die Singularität ist eine Vorhersage über Folgen. Man kann den Mechanismus als Ingenieurthema ernst nehmen, ohne zur Vorhersage Position zu beziehen — und das ist die nützliche Haltung beim Bauen von Systemen.
Warum zählt der Prüfer so viel?: Weil Verbesserung „besser“ heißt, und das muss etwas außerhalb des Verbesserten entscheiden. Wo eine Maschine Korrektheit prüfen kann — Tests laufen durch, der Beweis schließt, die Partie ist gewonnen — läuft die Schleife und die Gewinne sind echt. Wo Korrektheit Ermessen ist, optimiert das System am Ende den Stellvertreter, den man ihm gegeben hat. Rekursionstiefe ist eine Eigenschaft des Prüfers, nicht des Modells.
Soll man Agenten ihre eigenen Prompts und Werkzeuge in Produktion verbessern lassen?: Das ist vernünftig und viele Teams tun es, sofern drei Dinge gelten: Die Bewertung kommt von einem zurückgehaltenen Satz, den die Schleife nicht sehen kann; jede übernommene Änderung ist einem Lauf zuzuordnen; und ein Mensch oder eine Richtlinie steuert die Übernahme. Ohne das hat man nicht Verbesserung automatisiert, sondern Abdriften.
Was würde als Beleg für echte Rekursion zählen?: Eine Schleife, die mehrere Generationen tief läuft, ohne dass die Verbesserungsrate fällt, ein Prüfer, den das System nicht ausnutzen kann, und eine Ausgangsbasis, die den Beitrag der Schleife von der verbrauchten Rechenzeit trennt. Dass alle drei berichtet werden, ist selten genug, dass ihr Fehlen das Erste ist, was man prüft.