Wenn KI ihren eigenen Nachfolger baut

Bislang entwickelten Menschen künstliche Intelligenz. Inzwischen hilft KI selbst dabei, ihre leistungsfähigeren Nachfolger zu erschaffen. Beim amerikanischen Unternehmen Anthropic übernimmt das Sprachmodell Claude bereits bei mehr als einem Viertel der Forschungs- und Entwicklungsarbeit weitgehend die Ausführung. 

Damit zeichnet sich eine neue Phase technologischen Fortschritts ab, die weit über die Automatisierung gewöhnlicher Arbeitsprozesse hinausreicht. Denn erstmals könnte die Geschwindigkeit der KI-Entwicklung zunehmend von der Leistungsfähigkeit der KI selbst abhängen.

Was geschieht, wenn eine Technologie nicht nur menschliche Arbeit erleichtert, sondern zunehmend ihre eigene Weiterentwicklung vorantreibt?

Diese Frage beschäftigt inzwischen führende Unternehmen der KI-Branche. Das Wall Street Journal griff die Entwicklung Ende Oktober 2026 auf und berichtete über den rasch wachsenden Anteil künstlicher Intelligenz an der Entwicklung neuer KI-Modelle.

Im Mittelpunkt steht eine Untersuchung des amerikanischen KI-Unternehmens Anthropic, das mit Claude eines der weltweit führenden Sprachmodelle entwickelt hat.

Nach unternehmenseigenen Berechnungen stieg der Anteil der Forschungs- und Entwicklungsarbeit, bei dem Claude die Ausführung weitgehend übernimmt, von weniger als einem Prozent im Februar auf 26 Prozent im August 2026. Bei mehr als 90 Prozent der untersuchten Arbeit ist die KI inzwischen zumindest in der Lage, größere Aufgabenabschnitte unter enger menschlicher Anleitung auszuführen.

Diese Zahlen beschreiben einen grundlegenden Wandel: KI wird nicht mehr ausschließlich als Produkt entwickelt. Sie wird zunehmend selbst zum Werkzeug ihrer eigenen Entwicklung.

Eine vollständig autonome Selbstverbesserung ist damit noch nicht erreicht. Menschen bestimmen weiterhin die Forschungsziele, beaufsichtigen die Systeme und bewerten wesentliche Ergebnisse. Doch diese Rollenverteilung könnte sich weiter verändern.

Was bedeutet rekursive Selbstverbesserung?

In der KI-Forschung wird die Fähigkeit eines Systems, eigenständig eine leistungsfähigere Version seiner selbst zu entwickeln, als rekursive Selbstverbesserung bezeichnet. Der englische Fachbegriff lautet Recursive Self-Improvement, kurz RSI.

Die zugrunde liegende Idee ist vergleichsweise einfach: Ein KI-System verbessert seine eigene Architektur, seine Trainingsverfahren oder andere Bestandteile seiner Leistungsfähigkeit. Die daraus entstehende neue Generation ist wiederum besser darin, weitere Verbesserungen zu entwickeln. So könnte sich ein Kreislauf bilden, bei dem jeder Entwicklungsschritt die Voraussetzungen für den nächsten verbessert.

Bislang war technischer Fortschritt in der künstlichen Intelligenz maßgeblich von menschlichen Forschern abhängig. Sie formulierten Hypothesen, programmierten neue Verfahren, führten Experimente durch und entschieden, welche Ergebnisse weiterverfolgt werden sollten.

KI-Systeme können heute bereits erhebliche Teile dieser Arbeit übernehmen.

Der entscheidende Unterschied zur vollständigen rekursiven Selbstverbesserung liegt jedoch in der Eigenständigkeit. Solange Menschen die wesentlichen Forschungsrichtungen vorgeben und über den Einsatz neuer Modelle entscheiden, handelt es sich um KI-gestützte Entwicklung, nicht um einen vollständig autonomen Verbesserungsprozess.

Anthropic betont ausdrücklich, dass dieser Zustand bislang nicht erreicht sei. Auch sei keineswegs sicher, dass sich die gegenwärtige Entwicklung zwangsläufig bis zur vollständigen Selbstverbesserung fortsetzen werde.

Ein Viertel der Forschung weitgehend von KI ausgeführt

Um den technologischen Wandel messbar zu machen, entwickelte Anthropic einen eigenen Forschungsindex.

Dafür untersuchte das Unternehmen anhand interner Arbeitsunterlagen rund 15.000 einzelne Forschungs- und Entwicklungsaufgaben und ordnete sie verschiedenen Automatisierungsstufen zu. Die Skala reicht von vollständig menschlich ausgeführten Tätigkeiten bis zu Aufgaben, die eine KI ohne menschliche Mitwirkung selbstständig erledigen könnte.

Die im August erreichten 26 Prozent beziehen sich auf jene Tätigkeitsbereiche, bei denen Claude den größten Teil der Arbeit eigenständig ausführen kann, nachdem ein Mensch das übergeordnete Ziel vorgegeben hat.

Die Forscher bezeichnen diese Stufe als »AI leads«. Menschen bleiben dabei für die Beaufsichtigung zuständig.

Eine vollständig autonome Ausführung ohne menschliche Beteiligung wurde für keinen der untersuchten Forschungsbereiche festgestellt.

Wichtig ist außerdem, dass der Index nicht einfach die Zahl sämtlicher erledigter Aufgaben zählt. Die verschiedenen Tätigkeitsbereiche werden unter anderem nach dem dafür aufgewendeten menschlichen Arbeitszeitanteil gewichtet.

Es handelt sich somit um eine unternehmensinterne Schätzung des Automatisierungsgrades und nicht um den Nachweis, dass Claude bereits ein Viertel aller KI-Forschungsentscheidungen unabhängig trifft.

Die Messmethode besitzt weitere Grenzen. Anthropic nutzte eigene KI-Modelle auch zur Auswertung der Forschungsarbeit. Damit besteht das Risiko, dass die bewertenden Systeme ähnliche Fehler machen wie die untersuchten Modelle.

Das Unternehmen räumt diese Unsicherheit ein und spricht sich für unabhängige Prüfungen aus.

Trotz dieser Einschränkungen zeigt die Entwicklung, wie stark sich die Arbeitsweise innerhalb eines führenden KI-Labors innerhalb weniger Monate verändert hat.

Wenn Programmierer kaum noch selbst programmieren

Wie weit die Automatisierung bereits vorangeschritten ist, verdeutlichen weitere Angaben aus Anthropics Entwicklungsabteilung.

• Im Mai 2026 stammten nach Unternehmensangaben bereits mehr als 80 Prozent des neu in die eigene Codebasis übernommenen Programmcodes von Claude.
• Im zweiten Quartal produzierten die Entwickler im Tagesdurchschnitt rund achtmal so viele übernommene Codezeilen wie noch 2024.

Diese Steigerung bedeutet nicht, dass die Produktivität insgesamt um denselben Faktor gestiegen wäre. Die Menge geschriebenen Programmcodes ist kein verlässlicher Maßstab für dessen wirtschaftlichen oder technischen Wert. Dennoch zeigt sie, wie stark sich die Tätigkeiten der Entwickler verschoben haben.

Statt sämtliche Programme selbst zu schreiben, formulieren sie zunehmend Anforderungen, kontrollieren Ergebnisse und entscheiden über deren Verwendung.

Auch bei technischen Forschungsproblemen übernimmt Claude bereits anspruchsvolle Aufgaben. Anthropic beschreibt beispielsweise einen Vorfall, bei dem nach einer Softwareänderung zahlreiche Trainingsprozesse abstürzten. Das KI-System konnte die Ursache untersuchen, den Fehler reproduzieren und eine Lösung bestätigen.

Für die dafür erforderliche Arbeit benötigte Claude nach Unternehmensangaben rund zwei Stunden. Ein menschlicher Entwickler hätte voraussichtlich mehrere Tage gebraucht.

Solche Beispiele belegen noch keine allgemeine Überlegenheit künstlicher Intelligenz bei komplexer Forschung. Sie zeigen jedoch, weshalb sich der Entwicklungsprozess erheblich beschleunigen kann, wenn KI-Systeme zeitaufwendige technische Untersuchungen übernehmen.

Die entscheidende Grenze liegt beim wissenschaftlichen Urteil

Aus einem gelösten technischen Problem entsteht noch nicht automatisch eine bedeutende wissenschaftliche Entdeckung.

Forschung verlangt mehr als die Fähigkeit, bereits definierte Aufgaben effizient auszuführen. Sie setzt auch voraus, neue Fragestellungen zu erkennen, ungewöhnliche Hypothesen zu entwickeln und zu entscheiden, welche Ergebnisse tatsächlich von Bedeutung sind. Darin sieht Anthropic weiterhin einen wesentlichen Vorsprung menschlicher Wissenschaftler.

Eine KI kann beispielsweise unterschiedliche Trainingsverfahren ausprobieren, die Ergebnisse vergleichen und eine vorgegebene Kennzahl optimieren. Schwieriger ist die Entscheidung, ob die zugrunde liegende Forschungsfrage überhaupt sinnvoll ist oder ob ein ganz anderer Ansatz verfolgt werden sollte.

Auch hier zeigen sich allerdings Fortschritte.

In einem von Anthropic veröffentlichten Experiment untersuchten mehrere KI-Agenten eigenständig eine Forschungsfrage zur Sicherheit leistungsfähiger KI-Systeme. Sie entwickelten Hypothesen, führten Versuche durch und tauschten ihre Ergebnisse untereinander aus.

Innerhalb der begrenzten Versuchsanordnung erzielten sie herausragende Resultate. Die Übertragung auf große Produktionsmodelle gelang jedoch nicht ohne Weiteres. Zudem hatten Menschen das Forschungsproblem und die Bewertungskriterien vorgegeben.

Die Ergebnisse zeigen daher zugleich das Potenzial und die derzeitigen Grenzen automatisierter Forschung.

• Das technische Ausführen und Überprüfen von Experimenten wird zunehmend automatisierbar. 
• Die übergeordnete Entscheidung, welche Erkenntnisse angestrebt werden sollen, bleibt bislang wesentlich stärker vom Menschen abhängig.

Ein wirtschaftlicher Kreislauf mit wachsendem Vorsprung

Die Entwicklung hat unmittelbare Konsequenzen für den Wettbewerb zwischen den großen KI-Unternehmen.

Wer mithilfe leistungsfähiger KI-Systeme schneller neue Modelle entwickeln kann, verbessert möglicherweise seine Ausgangsposition für die nächste Entwicklungsrunde. Ein leistungsfähigeres Modell kann wiederum die Forschungsarbeit beschleunigen und damit die Entwicklung seines Nachfolgers unterstützen. Es entsteht ein potenzieller Verstärkungseffekt.

Bislang hing die Geschwindigkeit technologischer Innovation erheblich davon ab, wie viele qualifizierte Fachkräfte ein Unternehmen beschäftigen und welche finanziellen Mittel es für Forschung bereitstellen konnte. Mit zunehmender Automatisierung verschiebt sich dieses Verhältnis.

Ein kleineres menschliches Forschungsteam könnte künftig deutlich mehr technische Untersuchungen durchführen, sofern ausreichend leistungsfähige KI-Systeme und Rechenkapazitäten zur Verfügung stehen. Das bedeutet allerdings nicht zwangsläufig, dass kleinere Unternehmen dadurch leichter mit den Marktführern konkurrieren können. Denn die für anspruchsvolle KI-Forschung erforderlichen Rechenzentren, Hochleistungschips, Strommengen und spezialisierten technischen Infrastrukturen sind ausgesprochen kapitalintensiv.

Wenn die Leistungsfähigkeit eines bestehenden KI-Systems zunehmend darüber entscheidet, wie schnell dessen Nachfolger entsteht, könnten führende Entwickler zusätzliche Wettbewerbsvorteile gewinnen. Gleichzeitig können technologische Durchbrüche, neue Forschungsansätze oder kostengünstigere Verfahren die Marktverhältnisse verändern. Eine zwangsläufige Konzentration der Branche lässt sich aus den bisherigen Daten deshalb nicht ableiten.

Fest steht jedoch, dass die Beherrschung automatisierter Forschung zu einem immer wichtigeren wirtschaftlichen Wettbewerbsfaktor werden könnte.

Wenn die Kontrolle langsamer wird als die Entwicklung

Mit der zunehmenden Selbstständigkeit der KI-Agenten verändert sich auch die Aufgabe der menschlichen Kontrolle. Solange ein System einzelne Vorschläge erstellt, können Menschen diese vergleichsweise unmittelbar prüfen.

Anders verhält es sich, wenn Tausende KI-Agenten gleichzeitig Programme schreiben, Tests durchführen, Ergebnisse austauschen und weitere Arbeitsschritte auslösen. Anthropic berichtete für August 2026 von zeitweise rund 30.000 parallel arbeitenden Forschungs- und Entwicklungsagenten auf seiner wichtigsten internen Plattform.

Deren Aktivitäten werden nach Unternehmensangaben durch automatische Sicherheitsmechanismen überwacht. Diese sollen riskante Handlungen blockieren oder nachträglich auffälliges Verhalten erkennen.

Im untersuchten Zeitraum wurden etwa 0,002 Prozent von mehr als einer Milliarde überprüfter Entscheidungen durch die unmittelbaren Kontrollsysteme blockiert.

Eine geringe Zahl blockierter Vorgänge ist allerdings nicht automatisch ein Beleg dafür, dass das Gesamtsystem sicher funktioniert.

Dazu müsste auch bekannt sein, wie zuverlässig die Überwachung gefährliches Verhalten erkennt und wie viele problematische Vorgänge unentdeckt bleiben.

Außerdem können KI-Systeme Fehler produzieren, die nicht unmittelbar als Sicherheitsverletzung erkennbar sind. Falsche Annahmen, ungeeignete Experimente oder fehlerhafte Interpretationen können sich innerhalb komplexer Entwicklungsprozesse fortsetzen.

Die zentrale Herausforderung besteht deshalb darin, dass die Prüfung von KI-Ergebnissen mindestens so zuverlässig sein muss, wie deren Erstellung zunehmend schneller wird. Andernfalls könnte die menschliche Aufsicht zum Engpass werden – nicht nur wirtschaftlich, sondern auch bei der Gewährleistung der Sicherheit.

Auch OpenAI beschäftigt sich mit der Selbstverbesserung

Die Entwicklung ist keineswegs auf Anthropic beschränkt.

Auch OpenAI erklärte im September 2026, dass KI-Systeme bereits Teile der Forschung für kommende Modellgenerationen beschleunigen. Das Unternehmen verfolgt ebenfalls das Ziel, automatisierte KI-Forscher zu entwickeln, die unter menschlicher Aufsicht arbeiten.

Zugleich betont OpenAI, dass eine vollständig autonome rekursive Selbstverbesserung derzeit nicht stattfindet.

Beide Unternehmen sprechen sich dafür aus, den Fortschritt besser messbar zu machen und Sicherheitsstandards zu entwickeln, die mit der zunehmenden Leistungsfähigkeit Schritt halten.

Anthropic schlägt unter anderem regelmäßige Berichte zum Automatisierungsgrad der Forschung und eine unabhängige Überprüfung von Sicherheitsmaßnahmen vor.

Auch die eingesetzte Rechenleistung könnte dabei eine Rolle spielen. Sie ist ein vergleichsweise überprüfbarer Produktionsfaktor der KI-Entwicklung und könnte helfen, die Geschwindigkeit und den Umfang bestimmter Forschungsaktivitäten zu erfassen.

Allerdings besteht ein politisches und wirtschaftliches Dilemma.

Wenn ein einzelnes Unternehmen die Entwicklung besonders leistungsfähiger Modelle verlangsamt, während Wettbewerber ihre Forschung ungebremst fortsetzen, könnte es technologisch zurückfallen.

Wirksame gemeinsame Sicherheitsregeln müssten deshalb nicht nur technisch umsetzbar sein, sondern auch zwischen konkurrierenden Unternehmen und Staaten abgestimmt werden.

Die gesellschaftliche Kontrolle wird zur Zeitfrage

Die Aussicht auf eine sich selbst verbessernde künstliche Intelligenz eröffnet erhebliche wissenschaftliche Möglichkeiten. Leistungsfähigere KI-Systeme könnten helfen, komplexe Forschungsprobleme schneller zu untersuchen, neue Materialien zu entwickeln oder medizinische Erkenntnisse voranzubringen. Doch die Geschwindigkeit technischer Entwicklung ist nicht identisch mit gesellschaftlichem Fortschritt.

Wissenschaftliche Ergebnisse müssen überprüft, wirtschaftliche Veränderungen verarbeitet und neue Technologien in bestehende rechtliche und institutionelle Strukturen eingebunden werden. Gesetzgebungsverfahren, demokratische Entscheidungsprozesse und gesellschaftliche Verständigung folgen anderen zeitlichen Abläufen als automatisierte Softwareentwicklung.

Je stärker sich die Forschung durch KI beschleunigt, desto größer könnte deshalb der Abstand zwischen technischer Leistungsfähigkeit und den Möglichkeiten ihrer gesellschaftlichen Kontrolle werden. Hinzu kommt eine Veränderung innerhalb der Forschung selbst. Wenn KI-Systeme immer häufiger Aufgaben übernehmen, für die Wissenschaftler bislang die Unterstützung ihrer Kollegen benötigten, können sich auch die persönlichen Arbeitsbeziehungen verändern.

Ein Anthropic-Mitarbeiter beschreibt in der unternehmenseigenen Untersuchung, dass die früher üblichen kleinen gegenseitigen Hilfestellungen zwischen Kollegen zunehmend durch Anfragen an Claude ersetzt werden.

Was technisch effizienter wird, muss deshalb nicht in jeder Hinsicht die Zusammenarbeit zwischen Menschen stärken. Diese Beobachtung zeigt, wie weitreichend die Entwicklung bereits ist: KI verändert nicht allein die Ergebnisse wissenschaftlicher Arbeit, sondern zunehmend auch deren Organisation und soziale Grundlagen.

Wer entscheidet über die nächste Generation?

Ob künstliche Intelligenz eines Tages vollständig autonom ihre leistungsfähigeren Nachfolger entwickeln kann, ist weiterhin offen. Die heutigen Messwerte erlauben keine sichere Prognose darüber, wann oder ob diese Schwelle überschritten wird. Sie zeigen aber, dass die Aufgabenverteilung zwischen Menschen und KI innerhalb führender Forschungslabore bereits grundlegend im Wandel ist.

Damit verändert sich auch die Frage nach der Verantwortung.

Solange Menschen Forschungsziele bestimmen und den Einsatz neuer Modelle freigeben, bleibt die Entscheidungsgewalt grundsätzlich bei ihnen. Doch je umfangreicher und schneller KI-Systeme die eigentliche Entwicklungsarbeit übernehmen, desto anspruchsvoller wird es, ihre Entscheidungen nachvollziehen und wirksam kontrollieren zu können.

Die wirtschaftliche Versuchung ist groß, diesen Prozess weiter zu beschleunigen. Jede zusätzliche Automatisierung kann Forschungskapazitäten erhöhen und neue Wettbewerbsvorteile schaffen.

Die entscheidende Herausforderung wird deshalb nicht allein darin bestehen, immer leistungsfähigere künstliche Intelligenz zu entwickeln.

Sie besteht ebenso darin, sicherzustellen, dass Menschen die Folgen dieser Entwicklung noch ausreichend verstehen, bewerten und begrenzen können.

Denn sollte eine KI eines Tages tatsächlich in der Lage sein, ihren eigenen Nachfolger vollständig selbstständig zu erschaffen, wäre die technische Frage nach dem nächsten Entwicklungsschritt möglicherweise leichter zu beantworten als die gesellschaftliche:

Wer entscheidet dann noch, welche Entwicklung überhaupt stattfinden soll?