Wenn KI sich selbst programmiert: Anthropic fordert eine Pause

vor 4 Tagen
3 Min. Lesezeit

Anthropic, einer der führenden KI-Entwickler weltweit, veröffentlichte am 5. Juni 2026 einen bemerkenswerten Bericht: Über 80 % des Codes, den Anthropic heute einsetzt, hat Claude geschrieben. Das geht selbst Anthropic einen Tick zu schnell. Das Unternehmen fordert deshalb, dass alle großen KI-Labore weltweit bei der Entwicklung pausieren, bevor die Systeme beginnen, ihre eigenen Nachfolger zu bauen.

KI schreibt ihren eigenen Code – und wird immer besser

Anthropic plaudert dazu aus dem Nähkästchen: Ein typischer Entwickler schreibt heute achtmal so viel Code pro Tag wie noch 2024. Nicht, weil er schneller tippt, sondern weil jetzt Claude den Großteil der Programmierarbeit übernimmt.

2021 sah die Arbeit bei Anthropic noch aus wie in jedem anderen Technologieunternehmen: Menschen schrieben Code auf Laptops. Heute delegieren Softwareentwickler Aufgaben an KI-Agenten, die stundenlang selbstständig arbeiten. Selbst wenn die Aufgabe vage formuliert ist, zum Beispiel: „Finde heraus, warum das Netzwerk bei hoher Last langsamer wird", löst Claude das Problem in drei von vier Fällen eigenständig.

Was „rekursive Selbstverbesserung" bedeutet

Jetzt kommen wir zu einem etwas abstrakt klingenden Fachbegriff: rekursive Selbstverbesserung. Damit ist gemeint, dass eine KI so leistungsfähig ist, dass sie ihren eigenen Nachfolger entwerfen, trainieren und verbessern kann – ganz ohne menschliches Zutun. Anthropic betont jedoch, dass dieser Punkt bislang noch nicht erreicht sei. Aber die Richtung ist klar.

Laut der Forschungsorganisation METR verdoppelt sich die Zeitspanne, über die KI-Systeme eigenständig arbeiten können, etwa alle vier Monate. Claude hat sich regelrecht hochgearbeitet: 2024 konnte das KI-System eine Aufgabe nur vier Minuten eigenständig bearbeiten. Heute bewältigt Claude Aufgaben, an denen ein Mensch zwölf Stunden lang sitzt.

Anthropic benennt das Risiko klar: Wenn KI-Systeme fähig werden, ihre Nachfolger eigenständig zu entwerfen, wird es schwieriger, ihr Verhalten zu überwachen und zu steuern. Im schlimmsten Fall verlieren Menschen die Kontrolle über Systeme, die sie selbst gebaut haben.

Die Lösung, die Anthropic vorschlägt: Ein globaler Pausenknopf. Alle großen KI-Labore müssten gleichzeitig eine Pause einlegen, nur so ist sichergestellt, dass sich niemand einen Vorsprung verschafft. Das Prinzip kennt man aus der Rüstungskontrolle: Abrüstung funktioniert nur, wenn alle mitmachen. Passend dazu unser Blogartikel zu Claude Mythos – die vielleicht gefährlichste KI-Software der Welt.

Was bedeutet das für den Mittelstand?

Wer heute KI-Werkzeuge einsetzt, arbeitet mit Systemen, die sich in rasantem Tempo weiterentwickeln. Die KI-Plattform, die Sie heute nutzen, wird in sechs Monaten deutlich mehr können. Unternehmen, die jetzt die Grundlagen legen – Prozesse identifizieren, Daten strukturieren, Mitarbeiter schulen – profitieren von jedem Entwicklungssprung automatisch.

Für Geschäftsführer mittelständischer Unternehmen ergeben sich drei konkrete Handlungsfelder:

KI-Kompetenz aufbauen – und zwar jetzt, nicht irgendwann: Wer die Grundlagen nicht kennt, kann kommende Entwicklungen weder einordnen noch nutzen. Ein Maschinenbauer, der heute seine Angebotskalkulation mit KI automatisiert, versteht morgen besser, welche neuen Fähigkeiten auf den Markt kommen.
Datenstrategie prüfen: Sich selbst verbessernde Systeme brauchen Daten. Unternehmen, die ihre Daten sauber strukturiert haben, profitieren früher von leistungsfähigeren KI-Werkzeugen.
Regulatorische Entwicklungen beobachten: Der EU AI Act setzt Leitplanken. Wenn globale Pausenmechanismen diskutiert werden, betrifft das auch die KI-Werkzeuge, die Sie im Alltag einsetzen.

Die Technologie wartet nicht. Aber sie verlangt auch keine Panik. Wer sich systematisch vorbereitet, verschafft seinem Unternehmen einen Vorsprung – egal, ob KI sich in zwei Jahren selbst verbessert oder in zehn.

Sie möchten verstehen, wie KI-Werkzeuge Ihre Prozesse heute schon beschleunigen können? Vereinbaren Sie ein kostenloses Erstgespräch mit uns oder starten Sie mit einem unserer praxisorientierten KI-Kurse.

Glossar

KI-Agent: Ein KI-System, das eigenständig Aufgaben ausführt, Entscheidungen trifft und über längere Zeiträume ohne menschliche Anleitung arbeitet.
METR: Eine unabhängige Forschungsorganisation, die misst, wie lange KI-Agenten selbstständig an komplexen Aufgaben arbeiten können.
Rekursive Selbstverbesserung (RSI): Ein Szenario, in dem ein KI-System fähig wird, seinen eigenen Nachfolger zu entwerfen und zu trainieren – der dann wiederum einen noch besseren Nachfolger baut.