Retrieval Augmented Generation, kurz RAG, verbindet ein Sprachmodell mit einer Suche über die eigenen Inhalte. Statt aus dem Trainingswissen zu antworten, sucht das System zuerst die passenden Passagen aus Hilfe-Center, Dokumenten und Produktdaten — und formuliert die Antwort auf dieser Grundlage, idealerweise mit Quellenangabe. Das hält Antworten aktuell und nachvollziehbar, macht sie aber nur so gut wie die Quellen dahinter.
Warum das Modell allein nicht reicht
Ein Sprachmodell weiß, was in seinen Trainingsdaten stand — nicht, was in eurem Hilfe-Center steht. Es kennt weder die aktuelle Retourenfrist noch die Besonderheit des Tarifs, der letzte Woche eingeführt wurde. Und es hat eine unangenehme Eigenschaft: Wo es nichts weiß, formuliert es trotzdem flüssig.
Für den Kundenservice ist das disqualifizierend. Eine Antwort, die plausibel klingt und falsch ist, kostet mehr Vertrauen als gar keine. Die Lösung ist nicht, dem Modell mehr beizubringen — sondern es zur Laufzeit mit den richtigen Inhalten zu versorgen. Genau das leistet RAG.
Wie RAG funktioniert
1. Die Frage verstehen
Die Kundin fragt in ihren Worten: „kann ich die schuhe auch ohne karton zurückschicken?“ Das System erkennt das Anliegen und übersetzt es in eine Suchanfrage — nicht nach Wörtern, sondern nach Bedeutung. Auch wer nie das Wort „Retourenbedingungen“ schreibt, findet die Retourenbedingungen.
2. Die passenden Passagen finden
Die Suche läuft über die angebundenen Quellen: Hilfe-Center, Richtlinien, Produktdaten. Zurück kommen nicht ganze Dokumente, sondern die Abschnitte, die zur Frage passen — samt Herkunft.
3. Antwort auf dieser Grundlage formulieren
Erst jetzt kommt das Sprachmodell ins Spiel: Es bekommt Frage und gefundene Passagen und formuliert daraus eine Antwort. Die Anweisung dahinter ist streng: Antworte aus diesen Quellen — und wenn sie die Frage nicht hergeben, sag das.
4. Quellen mitliefern
Die fertige Antwort verweist auf ihre Grundlage. Das ist mehr als Kosmetik: Die Kundin kann nachlesen, das Team kann prüfen, und wenn eine Antwort falsch war, findet man die Quelle, die korrigiert werden muss — statt an einem Modell zu rätseln.
Was RAG besser macht — und was nicht
Die Stärken sind handfest: Aktualität, weil eine geänderte Quelle sofort wirkt. Nachvollziehbarkeit, weil jede Antwort einen Beleg hat. Datensparsamkeit, weil die eigenen Inhalte nicht in ein Modelltraining fließen müssen, sondern angebunden bleiben.
Die Grenze ist genauso handfest: RAG macht Antworten nicht wahr — es macht sie belegbar. Steht in der Quelle Unsinn, liefert das System Unsinn mit Quellenangabe.
Die Quellen entscheiden
Damit ist der wichtigste Punkt benannt: Die Qualität eines RAG-Systems ist die Qualität seiner Quellen. Ein mittelmäßiges Modell mit exzellentem Hilfe-Center schlägt ein exzellentes Modell mit chaotischer Ablage — jeden Tag.
Praktisch heißt das: vorhandene Quellen anbinden statt Inhalte abzutippen, je Thema eine verbindliche Quelle bestimmen, und Lücken dort schließen, wo echte Anfragen sie aufdecken. Das ist Arbeit, aber die richtige — und sie zahlt auf alles ein, nicht nur auf die KI. Das Vorgehen im Detail steht im Beitrag Wissensdatenbank für die KI aufbauen.
Was das für die Auswahl bedeutet
Wer Systeme vergleicht, kann mit drei Fragen viel über die RAG-Qualität lernen:
- Zitiert das System seine Quellen? Antworten ohne Beleg sind im Servicekontext ein Ausschlusskriterium.
- Respektiert es Zugriffsrechte? Interne Dokumente dürfen die Suche des Kundenchats nie erreichen — nicht als Antwort und nicht als Zitat.
- Wie kommt Aktualität ins System? Automatische Synchronisation der Quellen ist der Normalfall, manuelle Re-Importe sind ein Warnsignal.
Bei Helix-CX ist RAG die Grundlage jeder Antwort — mit Quellenzitaten und angebundenen Originalquellen. Die ehrliche Einschränkung aus diesem Beitrag gilt trotzdem: Auch unser System ist nur so gut wie das Wissen, das ihr ihm gebt.
Häufige Fragen
Ist RAG dasselbe wie das Training eines Modells?
Nein — das ist der Kernunterschied. Beim Training verändern Daten das Modell selbst; bei RAG bleibt das Modell unverändert und bekommt die Inhalte zur Laufzeit als Kontext mitgeliefert. Deshalb wirkt eine Änderung im Hilfe-Center bei RAG sofort, ohne dass jemand ein Modell neu trainiert — und deshalb müssen die eigenen Daten dafür auch nicht in ein Training fließen.
Halluziniert ein RAG-System nie?
Doch, nur seltener und anders. Wenn die Suche keine passende Passage findet, die Quellen sich widersprechen oder veraltet sind, kann die Antwort falsch sein — mit umso überzeugenderem Ton. Gute Systeme sagen in diesem Fall, dass sie es nicht wissen, und übergeben an einen Menschen.
Welche Quellen eignen sich für RAG?
Alles, was gepflegt und eindeutig ist: Hilfe-Center, Produktdaten, Richtlinien, strukturierte Dokumente. Ungeeignet ist, was intern widersprüchlich oder veraltet ist — RAG deckt solche Schwächen gnadenlos auf, weil es sie wortgetreu in Antworten verwandelt.
Wie bleibt ein RAG-System aktuell?
Über die Quellen, nicht über das Modell. Entscheidend ist, dass die Anbindung Änderungen automatisch übernimmt — eine geänderte Hilfe-Center-Seite sollte ohne manuellen Import in den Antworten ankommen. Wie man die Quellen dafür organisiert, beschreibt unser Beitrag zur Wissensdatenbank.
Quellen
Weiterlesen
Wissensdatenbank für die KI aufbauen — ohne zweite Wahrheit
Der größte Fehler beim KI-Wissen ist doppelte Pflege. Wie man vorhandene Quellen anbindet, Lücken aus echten Anfragen schließt und die Pflege verankert.
Was ist ein KI-Agent? Definition, Aufbau und Grenzen
KI-Agenten einfach erklärt: die Definition, die vier Bestandteile, ein Durchlauf Schritt für Schritt — und die Fälle, an denen Agenten heute noch scheitern.
KI-Agent oder Chatbot: der Unterschied, der über den Nutzen entscheidet
Chatbots geben Auskunft, KI-Agenten erledigen Vorgänge. Woran man die Bauformen erkennt, was ein Agent zusätzlich braucht — und wann ein Chatbot völlig reicht.