Intelligenzexplosion: Wenn die KI sich selbst baut
Die KI schreibt schon heute den größten Teil ihres eigenen Programmcodes. Beim Unternehmen Anthropic stammen laut einer neuen Studie über 80 Prozent des Codes von der KI.
Die Studie kommt von der Forschungsstelle GovAI. Mitgeschrieben haben Forscher aus Oxford, Cambridge und Berkeley sowie Mitarbeiter von OpenAI, Anthropic und Microsoft. Dazu kommen die KI-Pioniere Geoffrey Hinton und Yoshua Bengio. Ihre Aussagen geben nicht zwingend die Meinung ihrer Arbeitgeber wieder.
KI schreibt ihren eigenen Code
Anthropic gibt an: Im Januar 2025 stammten nur wenige Prozent des Programmcodes von der KI. Im Mai 2026 waren es schon über 80 Prozent. Auch in der Forschung legt sie zu. Der Anteil der Arbeit, den die KI weitgehend allein erledigt, stieg laut Studie von kläglichen 1 Prozent im März auf stattliche 26 Prozent im August 2026.
Und dann?
Die Autoren nennen das nächste Szenario „Intelligenzexplosion“. Bessere KI forscht besser und baut so noch bessere KI. Im Idealfall übernimmt sie die gesamte Forschung, und nichts bremst sie. Dann läuft der Fortschritt nach etwa eineinhalb Jahren zehnmal so schnell wie heute. Ein Jahr Entwicklung dauerte rund fünf Wochen.
Ob es so kommt, ist jedoch offen. Das Training eines großen KI-Modells, also seine Lernphase, dauert oft drei Monate oder länger. Das bremst. Die Autoren sagen selbst: Die Unsicherheit ist groß.
Zwei Seiten derselben Medaille
Der Nutzen wäre groß. Vorteile der KI kämen um Jahre oder Jahrzehnte früher, etwa bei medizinischen Heilmitteln oder neuen Fertigungsverfahren. Es gibt aber auch Risiken: Die Technik könnte schneller wachsen, als Gesellschaft und Politik reagieren können. Menschen könnten die Kontrolle über starke KI-Systeme verlieren. Bestes Beispiel: Interne KI-Agenten von OpenAI gelangten vor Kurzem unerlaubt ins Internet und drangen in die Plattform Hugging Face ein.
Was die Studie von der Politik will
Die Autoren wollen die Entwicklung lenken und begrenzen. Sie schlagen unter anderem vor:
Einblick verlangen: Die Labore sollen melden, wie viel Forschung die KI schon selbst erledigt.
Bremsen vorbereiten: Die Politik braucht Wege, das Tempo zu lenken, etwa einzelne Forschungsarbeiten zu pausieren.
Sicher testen: Riskante Tests laufen in abgeschotteten Netzwerken.
Notfallpläne schreiben: Sie gelten für Fälle extrem schneller Fortschritte.
Unser Tipp
Machen Sie sich nicht von einem einzigen KI-Modell abhängig. Denn das Lieblingsmodell von heute ist drei Monate später vielleicht schon Schnee von gestern. Unsere All-in-one-KI-Plattform Nexus bündelt mehrere Modelle an einem Ort: von ChatGPT über Claude bis Gemini.
Glossar
Intelligenzexplosion: Ein Szenario, in dem KI die Forschung an KI selbst übernimmt und sich dadurch immer schneller verbessert.
Training: Die Lernphase eines KI-Modells mit riesigen Datenmengen. Bei großen Modellen dauert sie oft Monate.
