Apple: Mit CLaRa schneller nach Informationen suchen

Apple macht KI? Ja, schon länger! Aber im Gegensatz zu OpenAI, das auf große öffentliche Chatbots setzt, integrierte Apple Künstliche Intelligenz direkt in seine Geräte – von Siri über die Foto-Erkennung bis zu „Apple Intelligence", das seit 2024 iPhone-Funktionen wie intelligentes Textzusammenfassen oder Benachrichtigungs-Priorisierung steuert. 

Jetzt geht der US-amerikanische Tech-Riese einen KI-Schritt weiter. Zusammen mit der Universität von Edinburgh hat Apple vor Kurzem ein Forschungspapier veröffentlicht. Das Thema: „CLaRa“. CLaRa steht für „Continuous Latent Reasoning“ und bedeutet auf Deutsch in etwa: „Kontinuierliches latentes Schlussfolgern".

Künstliche Intelligenz verarbeitet riesige Datenmengen. Doch diese Informationsflut lähmt die Systeme. CLaRa soll hingegen eine erstklassige Informationsverdichterin sein, die sich aufs Wesentliche konzentriert.

Intelligent komprimieren

Viele Unternehmen nutzen heute RAG (Retrieval-Augmented Generation), um KI-Modelle mit Firmendaten zu füttern. Ein sogenannter „Retriever" sucht in Dokumenten nach Schlüsselwörtern und übergibt die Fundstellen an einen „Generator“, der die Antwort formuliert. 

Das Problem: Oft erhält der Generator zu viele oder irrelevante Informationen. Er muss sich durch lange Texte kämpfen, was Zeit kostet und die Antwortqualität beeinträchtigen kann. Es ist, als würde man einem Mitarbeiter einen ganzen Aktenschrank geben, obwohl nur eine einzige Seite wichtig ist.

Ein aktueller Forschungsansatz von Apple und der Universität von Edinburgh namens CLaRa soll nun zeigen, wie KI-Systeme lernen, Wichtiges von Unwichtigem zu trennen. Dadurch sollen diese präziser und effizienter arbeiten. Statt ganzer Dokumente verarbeitet das System hochverdichtete, semantische „Extrakte“. 

Ein spezialisierter KI-Kompressor lernt, den Inhalt eines Dokuments auf wenige, aussagekräftige Informationseinheiten zu reduzieren. Unwichtige Füllwörter und sich wiederholende Passagen filtert er heraus, während der wesentliche Kern erhalten bleibt. Das Ergebnis ist eine Art destilliertes Wissen, eine Essenz, die alle Fakten enthält, aber deutlich weniger Speicherplatz benötigt.

Ein Hoch auf Teamwork 

Die eigentliche Stärke von CLaRa liegt jedoch im Zusammenspiel der beiden Komponenten. Retriever und Generator werden als Team trainiert und arbeiten im selben „semantischen Raum“, quasi im selben Büro und teilen sich obendrein dieselben Notizen.

Der Retriever lernt durch die Rückmeldungen des Generators, welche komprimierten Informationen für eine korrekte Antwort wirklich nützlich sind. So verbessert sich das System mit jeder Aufgabe selbst. Es lernt, nicht nur nach oberflächlicher Ähnlichkeit zu suchen, sondern die Relevanz von Informationen für die jeweilige Fragestellung zu bewerten.

Was bedeutet das für Unternehmen?

Dieser Ansatz macht KI-Textanalysen deutlich effizienter und präziser. Unternehmen können so ihre Wissensdatenbanken besser nutzen, da die KI schneller auf den Punkt kommt. Das reduziert den Rechenaufwand und verbessert die Qualität der Ergebnisse, sei es bei der Analyse von Kundenfeedback, technischen Dokumentationen oder internen Berichten. 

Jetzt das große Aber

CLaRa wurde hauptsächlich mit Wikipedia-Daten trainiert. Die Feinabstimmung erfolgte dann mit zusätzlichen Frage-Antwort-Datensätzen. Für den praktischen Einsatz sollte das System mit vielfältigeren Texten trainiert werden – von Programmcodes bis hin zu Fachartikeln. 

Die Tests liefen mit mittelgroßen KI-Modellen; größere Modelle könnten demnach noch bessere Ergebnisse liefern. Und die Technik könnte in komplexere Reasoning-Systeme integriert werden, die mehrstufig denken. Könnte, hätte… Die Zukunft wird zeigen, wie gut sich CLaRa im KI-Alltag bewährt. 

Solche Forschungsansätze zeigen, wohin die Reise geht. Doch zwischen wissenschaftlicher Publikation und produktionsreifen Systemen liegen oft Jahre. Unternehmen, die heute bereits effiziente RAG-Lösungen einsetzen, haben einen klaren Vorsprung – sie können neue Erkenntnisse schrittweise integrieren, ohne auf Durchbrüche warten zu müssen. 

Schon gewusst?

Bei vAudience bieten wir mit HyperRAG bereits heute ein produktionsreifes RAG-System, das Unternehmenswissen intelligent nutzbar macht und kontinuierlich mit den neuesten Entwicklungen weiterentwickelt wird.

Quelle: „CLaRa: Bridging Retrieval and Generation with Continuous Latent Reasoning“. Apple & University of Edinburgh.