Retrieval-Augmented Generation
KI-Glossar
Ein Verfahren, bei dem ein Sprachmodell vor seiner Antwort gezielt Informationen aus einer externen Wissensquelle abruft und diese in seine Antwort einbezieht.
Kurzdefinition
Retrieval-Augmented Generation (RAG) ist eine Architektur, die ein Sprachmodell mit einem Abrufmechanismus kombiniert. Bevor das Modell eine Antwort generiert, sucht es in einer Dokumenten- oder Vektordatenbank nach relevanten Textpassagen und nutzt diese als Kontext.
Einfach erklärt
Sprachmodelle haben ihr Wissen beim Training erhalten und kennen keine Ereignisse danach. RAG löst dieses Problem: Wenn eine Frage gestellt wird, sucht das System zuerst in einer aktuellen Wissensquelle nach relevanten Dokumenten oder Textstellen. Diese Textstellen werden dem Modell zusammen mit der Frage übergeben, sodass es eine informierte und nachvollziehbare Antwort geben kann.
RAG ist deshalb besonders nützlich für Anwendungen, bei denen aktuelles oder organisationsinternes Wissen gefragt ist: ein internes Chatbot-System, das auf Unternehmensdokumente zugreift, ein Kundensupport-Assistent, der Produkthandbücher kennt, oder eine Recherche-Anwendung mit Zugriff auf aktuelle Nachrichtenquellen.
Beispiel aus dem Arbeitsalltag
Ein Unternehmen baut einen internen FAQ-Assistenten. Die Mitarbeitenden können Fragen zu HR-Prozessen stellen. Das RAG-System durchsucht die aktuellen HR-Dokumente und Betriebsvereinbarungen, findet die relevanten Abschnitte und übergibt sie dem Sprachmodell, das daraus eine verständliche Antwort formuliert. Die Antwort enthält einen Verweis auf das Quelldokument.
Warum ist der Begriff wichtig?
RAG reduziert einen der größten Schwachpunkte von Sprachmodellen: das Halluzinieren von nicht vorhandenen Fakten. Indem das Modell auf tatsächliche Quellen zurückgreift, werden Antworten nachvollziehbarer und überprüfbar.
Für Unternehmen, die KI-Anwendungen auf Basis eigener Dokumente und internem Wissen aufbauen wollen, ist RAG heute der verbreitetste Ansatz. Es setzt keine Anpassung des Modells voraus und ermöglicht es, den Wissensstand zu aktualisieren, ohne das Modell neu zu trainieren.
Chancen
- KI-Anwendungen können auf aktuelles, internes Wissen zurückgreifen
- Halluzinationen werden durch Anker in realen Quelltexten reduziert
- Antworten können mit Quellenverweisen belegt werden
- Kein Neu-Training des Modells bei Wissensaktualisierungen nötig
Risiken und typische Fehler
- Qualität der Antworten hängt stark von Qualität und Aktualität der Wissensquelle ab
- Schlecht strukturierte Dokumente erschweren das Retrieval
- Sensible Dokumente in der Wissensbasis können unerwartet abgerufen werden
- Technisch anspruchsvoller Aufbau erfordert Know-how oder externe Dienstleister
Verwandte Begriffe
Passende Inhalte im KI College
Lernen Sie Schritt für Schritt, wie Sie KI im Arbeitsalltag sinnvoll nutzen.
Use CasesKI im Arbeitsalltag anwenden
Entdecken Sie praktische Beispiele für typische Aufgaben im Beruf.
ToolsKI-Tools im Überblick
Finden Sie heraus, welche Tools zu welchen Aufgaben passen.