RAG (Retrieval-Augmented Generation) ist eine Technik, bei der eine KI vor dem Antworten gezielt in einer Wissensquelle nachschlägt – etwa in Firmendokumenten, einer Datenbank oder im Web – und die gefundenen Passagen in ihre Antwort einbaut. So antwortet das Modell mit aktuellen, belegbaren Informationen statt nur aus dem Trainingswissen.
Wie funktioniert RAG?
Der Ablauf hat drei Schritte:
- Suchen (Retrieval): Zu deiner Frage werden die passendsten Textstellen aus der Wissensquelle herausgesucht – meist über eine semantische Suche, die nach Bedeutung statt nur nach Stichwörtern sucht.
- Anreichern (Augmented): Die Fundstellen werden zusammen mit deiner Frage in den Prompt des Sprachmodells gepackt.
- Antworten (Generation): Das LLM formuliert die Antwort auf Basis dieser Fundstellen – idealerweise mit Quellenangabe.
Warum RAG statt einfach alles in den Prompt?
Das Kontextfenster ist begrenzt – ein ganzes Firmenarchiv passt nicht hinein. RAG holt nur die relevanten Ausschnitte, das spart Tokens (und damit Kosten) und reduziert Halluzinationen, weil das Modell auf echte Textstellen verweisen kann statt zu raten. Anders als Fine-Tuning erfordert RAG kein neues Training: Neue Dokumente sind sofort nutzbar.
Wo begegnet dir RAG im Alltag?
- Chatbots, die Fragen zu hochgeladenen PDFs beantworten
- Firmeninterne Assistenten („Was steht in unserer Urlaubsrichtlinie?“)
- KI-Websuche und Recherche-Funktionen, die Antworten mit Links belegen
Verwandte Begriffe
LLM · Kontextfenster · Fine-Tuning · KI-Halluzination · Zum ganzen KI-Glossar