Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation, kurz RAG, verbindet ein Sprachmodell mit externen Wissensquellen. Statt nur aus dem im Modell gelernten Wissen zu antworten, werden passende Dokumente, Datenbankeinträge oder andere Quellen gesucht und als Kontext für die Antwort verwendet. Im KI-Kontext wird RAG als wichtiges Muster für aktuelle, interne oder quellenpflichtige KI-Anwendungen eingeordnet - zugleich mit der Einschränkung, dass große Kontextfenster eine Alternative sein können und RAG nur so gut ist wie seine Quellen und Suchlogik.

Definition: Was bedeutet Retrieval Augmented Generation?

Retrieval Augmented Generation (RAG) bezeichnet eine Architektur, bei der ein KI-Modell externe Informationen abruft, bevor es eine Antwort formuliert. "Retrieval" bedeutet Abruf oder Suche; "Augmented Generation" bedeutet, dass die generierte Antwort durch diese abgerufenen Informationen erweitert wird.

Einfach gesagt: RAG ist wie eine Wissensdatenbank oder Dokumentensuche für ein Sprachmodell. Das Modell beantwortet eine Frage nicht nur aus seinem allgemeinen Trainingswissen, sondern bekommt zusätzlich passende Quellen in den Kontext gelegt.

Warum RAG im KI-Kontext wichtig ist

Im KI-Kontext steht RAG für den Übergang von allgemeinen Chatbots zu nutzbaren Wissenssystemen. Besonders relevant ist das Muster, wenn KI mit aktuellen, unternehmensinternen oder quellenpflichtigen Informationen arbeiten soll.

Der Newsletter ordnet RAG bereits 2024 als "Datenbank mit Wissen für ein LLM" ein. Gleichzeitig wird dort betont, dass größere Kontextfenster aktueller Modelle gegen RAG sprechen können und dass es je nach Aufgabe einen Sweetspot zwischen RAG und langen Kontextfenstern gibt.

Für Leser ohne Fachhintergrund ist wichtig: RAG ist kein einzelnes Produkt, sondern ein technisches Muster. Es kann in Chatbots, KI-Suchen, Recherchefunktionen, internen Wissensassistenten oder Agenten-Workflows auftauchen.

Wie RAG typischerweise funktioniert

Ein typischer RAG-Ablauf besteht aus drei Schritten: Erstens wird zu einer Nutzerfrage nach relevanten Informationen gesucht. Zweitens werden passende Textstellen oder Dokumente in den Kontext des Modells aufgenommen. Drittens erzeugt das Modell daraus eine Antwort.

In der Praxis hängt die Qualität stark davon ab, welche Dokumente indexiert wurden, wie gut die Suche relevante Treffer findet und wie zuverlässig das Modell die gefundenen Informationen verarbeitet. Deshalb kann RAG Quellenarbeit verbessern, aber nicht automatisch Wahrheit garantieren.

Der Begriff "Index" meint dabei eine strukturierte Sammlung durchsuchbarer Inhalte. "Ranking" meint die Sortierung der gefundenen Treffer danach, wie wahrscheinlich sie zur Frage passen. Beide Schritte beeinflussen, ob das Modell gute oder irreführende Informationen erhält.

Abgrenzung: RAG, lange Kontextfenster und KI-Suche

RAG und lange Kontextfenster lösen ein ähnliches Problem: Beide bringen zusätzliche Informationen zum Modell. Der Unterschied liegt in der Auswahl. Bei RAG wird vorher gesucht und gefiltert; bei langen Kontextfenstern kann deutlich mehr Material direkt in die Anfrage gelegt werden.

Der AI-Breakdown-Hinweis aus 2024 formuliert die Abwägung pragmatisch: Es kommt darauf an, was man vorhat. Große Kontextfenster können RAG in manchen Fällen weniger nötig machen, während RAG weiterhin nützlich bleibt, wenn Quellen gezielt ausgewählt, geprüft oder nachvollziehbar gemacht werden sollen.

Von KI-Suche unterscheidet sich RAG dadurch, dass Retrieval nur ein Teil des Systems ist. Eine KI-Suche kann Suchergebnisse präsentieren; RAG nutzt gefundene Inhalte als Arbeitsmaterial für eine generierte Antwort.

Stärken und Grenzen

Die Stärke von RAG liegt darin, Sprachmodelle mit externem Wissen zu verbinden. Das ist besonders nützlich, wenn Informationen nicht im Modellwissen enthalten, neuer als das Training, intern im Unternehmen oder quellenpflichtig sind.

Die Grenze liegt in der Verlässlichkeit der Abrufkette. Wenn die falschen Dokumente gefunden werden, Quellen schlecht gepflegt sind oder das Modell die Treffer falsch zusammenfasst, kann eine RAG-Antwort trotzdem falsch wirken - nur mit scheinbar besserer Begründung.

Darum braucht RAG redaktionelle und technische Kontrolle: gute Quellenauswahl, saubere Indizes, nachvollziehbare Treffer, klare Quellenprüfung und eine Bewertung, ob RAG oder ein langes Kontextfenster für den jeweiligen Anwendungsfall sinnvoller ist.

Weitere Seiten

• Chatbot
• Inferenz
• AI-Breakdown Themenradar

Quellen und Belege

AI-Breakdown-Ausgaben

• AI-Breakdown KW 37/2024: RAG? Ja oder Nein? Ein Retrieval-Augmented Generation (RAG) ist im weitesten Sinne eine Datenbank mit Wissen für ein LLM. Gegen die Verwendung einer solchen Datenbank sprechen, die immer größer werden Kontext-Fenster der aktuellen Generation. Eine Studie kommt zu dem Schluss, dass es immer noch einen Sweetspot für eine von beiden Methoden gibt. Noch kommt es, wie so oft, einfach darauf an, was man vorhat.

Externe Quellen

• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks: Grundlegende wissenschaftliche Quelle zum Begriff Retrieval-Augmented Generation und zur Verbindung von Retrieval und generativer Antworterzeugung.
• Retrieval-Augmented Generation for Large Language Models: A Survey: Überblicksquelle für RAG bei großen Sprachmodellen, einschließlich Einordnung von Nutzen, Grenzen und Qualitätsfragen.
• Using tools: Offizielle Quelle zum Zugriff von Modellen auf externe Werkzeuge und Systeme; unterstützend für die Einordnung von Retrieval als externer Informationszugriff.