RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem eine KI vor der Antwort passende Stellen aus Ihren Dokumenten sucht und ihre Antwort darauf stützt. Statt nur aus ihrem antrainierten Wissen zu schreiben, bekommt das Sprachmodell bei jeder Frage die relevanten Auszüge aus Verträgen, Berichten oder Richtlinien mitgeliefert. So antwortet es mit Ihrem aktuellen Wissen, kann die Quelle nennen und muss dafür nicht neu trainiert werden. Neue Dokumente hochladen genügt, um das Wissen zu aktualisieren.
RAG in drei Schritten
- Retrieval (Abrufen). Ihre Frage wird mit Ihren Dokumenten abgeglichen. Das System sucht die Abschnitte, die am besten passen, nach Bedeutung, nach exakten Begriffen oder beidem.
- Augmentation (Anreichern). Diese Abschnitte werden zusammen mit Ihrer Frage an das Sprachmodell übergeben.
- Generation (Erzeugen). Das Modell formuliert die Antwort auf Grundlage der gefundenen Stellen und kann angeben, aus welchem Dokument und von welcher Seite sie stammen.
RAG oder Training? Beim Training (Fine-Tuning) verändern Sie das Modell selbst. Das ist aufwendig, muss bei jeder Änderung wiederholt werden und liefert keine Quellen. Bei RAG bleibt das Modell unverändert, nur die Dokumente ändern sich. Für die meisten Praxen, Kanzleien und Büros ist RAG deshalb der einfachere Weg zu einer KI, die die eigenen Unterlagen kennt. Mehr dazu in Eigene KI erstellen.
Die Grenzen. RAG ist nur so gut wie die Suche. Findet sie die falsche Stelle, antwortet das Modell auf falscher Grundlage. Deshalb sind Quellenangaben wichtig: Sie machen sichtbar, worauf eine Antwort beruht, und Sie können sie in Sekunden prüfen.
Das Praxisbeispiel: Wysors Wissensdatenbank
Sie laden 30 Verträge in ein KI-Tool hoch und fragen: „Wie hoch ist die Haftungsobergrenze in der Acme-Vereinbarung?" Viele Tools antworten dann: „Auf welches Dokument beziehen Sie sich?" Oder sie geben eine selbstsichere Antwort aus dem falschen Dokument, ohne Zitat.
Wir haben Wysors Wissensdatenbank gebaut, damit dieser Ablauf funktioniert: Dateien hochladen, Fragen in natürlicher Sprache stellen, Antworten mit Quellenangabe erhalten.
Wo einfache Dokumenten-KI an Grenzen stößt
Viele Dokumententools verwenden eine einzige Suchstrategie für jede Frage. Das führt zu drei typischen Problemen:
„Finde Klausel 7.3.2 im Dienstleistungsvertrag." Eine reine Bedeutungssuche liefert Absätze, die irgendwie mit Dienstleistungsverträgen zu tun haben, aber nicht die Klausel selbst. Referenznummern, IDs und exakte Begriffe gehen verloren.
„Was zeigt das Diagramm auf Seite 12?" Wird nur der Text aus dem PDF extrahiert, sind Diagramme, Grafiken, Zeichnungen und gescannte Notizen für die KI unsichtbar.
„Was hat der Q3-Bericht über Margen gesagt?" Über 20 Dokumente hinweg muss die Suche wissen, wo sie suchen soll, statt Sie nach der richtigen Datei zu fragen.
Wie der Knowledge-Base-Agent sucht
Wysors Dokumenten-Agent überlegt zuerst, was Sie fragen, und wählt dann den Suchweg:
- Konzeptuelle Fragen, etwa „Wie ist unser Ansatz zur Nachhaltigkeit?", bekommen eine bedeutungsbasierte Suche über alle Dokumente.
- Exakte Referenzen, etwa „Finde Klausel 7.3.2", bekommen eine präzise Suche nach genau diesen Begriffen.
- Visuelle Fragen, etwa „Was zeigt das Diagramm auf Seite 12?": Der Agent schaut sich die Seite selbst an.
- Dokumentübergreifende Fragen, etwa „Welche Empfehlungen haben wir in allen Kundenprojekten gegeben?": Der Agent zieht Abschnitte aus mehreren Dateien zusammen, mit Zitaten aus jeder Quelle.
Findet die erste Suche keine gute Antwort, versucht der Agent einen anderen Ansatz. Steht die Antwort nicht in Ihren Dokumenten, sagt er das, statt etwas zu erfinden.
Diagramme und gescannte Seiten
In vielen Geschäftsdokumenten steckt die eigentliche Information im Bild: Umsatzkurven, Organigramme, Grundrisse, gescannte Formulare mit handschriftlichen Notizen. Wenn Sie nach etwas Visuellem fragen, schaut sich Wysors Agent die tatsächliche Seite an, mit Achsen, Beschriftungen und Datenpunkten, und beschreibt, was dort zu sehen ist.
Ein Beispiel: Die Finanzleitung fragt „Zeig mir den Umsatztrend aus dem Q3-Deck." Die Antwort nennt die Werte aus dem Diagramm selbst, etwa den Anstieg von Q1 bis Q3, mit Verweis auf die Seite, statt nur den Text rund um das Diagramm zusammenzufassen.
Jede Antwort mit Quelle
Der Agent durchsucht standardmäßig Ihre gesamte Wissensdatenbank. Jede Antwort enthält Dokument und Seite:
- „Wie lautet unsere Rückgaberichtlinie?" Gefunden im Kundenhandbuch, Seite 8.
- „Wann läuft der Mietvertrag aus?" Gefunden im Vertrag mit der Hausverwaltung, Klausel 4.1.
- „Was hat der Q3-Bericht über Margen gesagt?" Gefunden im Q3-Bericht, Seite 12, mit den Diagrammdaten.
Wofür Teams das nutzen
- Kanzleien und Rechtsabteilungen fragen über Dutzende Verträge hinweg nach Haftungsgrenzen, Fristen und Pflichten, mit Klausel und Seite.
- Finanzteams lassen sich Kennzahlen aus Quartalsberichten mit eingebetteten Diagrammen herausziehen.
- Beratungen durchsuchen frühere Projektunterlagen nach Empfehlungen und Methoden.
- Personalabteilungen beantworten Fragen zu Richtlinien mit der genauen Fundstelle statt mit einem 200-seitigen Handbuch.
- Architektur- und Ingenieurbüros fragen nach Details in Plänen und technischen Zeichnungen.
Die Wissensdatenbank nimmt PDFs, auch gescannte, Word-Dateien, Textdateien und weitere Formate auf, bis zu 100 MB pro Datei. Sie funktioniert mit GPT, Claude, Gemini und weiteren Modellen. Eine Wissensdatenbank ist im kostenlosen Tarif enthalten, Plus enthält fünf, Premium zwanzig.
Und Ihre Daten?
Eine RAG-Lösung bekommt Ihre vollständigen Dokumente. Entscheidend ist deshalb, was der Anbieter damit tun darf. Wysor handelt als Auftragsverarbeiter nach Art. 28 DSGVO, nimmt sich keine Lizenz zur Weiterverwendung Ihrer Inhalte, trainiert nie damit und verkauft sie nie, auch nicht anonymisiert. Ihre Dokumente sind verschlüsselt und in der EU gehostet, und jeder angebundene KI-Anbieter arbeitet mit Zero Data Retention. Warum das wichtig ist, zeigt die Datenspur.
Häufige Fragen
Was ist RAG einfach erklärt? RAG bedeutet, dass eine KI vor jeder Antwort in einer Dokumentensammlung nach passenden Stellen sucht und ihre Antwort darauf stützt. So antwortet sie aus Ihren Unterlagen statt nur aus ihrem allgemeinen Wissen.
Wofür steht RAG? RAG steht für Retrieval-Augmented Generation, auf Deutsch etwa „durch Abruf erweiterte Texterzeugung". Gemeint ist die Kombination aus Suche (Retrieval) und Sprachmodell (Generation).
Was ist der Unterschied zwischen RAG und Fine-Tuning? Beim Fine-Tuning wird das Modell nachtrainiert und verändert. Bei RAG bleibt das Modell gleich und erhält bei jeder Frage passende Auszüge aus Ihren Dokumenten. RAG ist leichter aktuell zu halten und kann Quellen nennen.
Verhindert RAG Halluzinationen? Es verringert sie, weil die Antwort auf konkreten Textstellen beruht, verhindert sie aber nicht vollständig. Deshalb sollten Antworten Quellen enthalten, die Sie prüfen können.
Weiterlesen
- Eigene KI erstellen. So bauen Sie einen Assistenten mit Ihren Dokumenten.
- Was ist ein KI-Agent?. Der Unterschied zwischen Chatbot und Agent.
- PDF mit KI zusammenfassen. Sicher und DSGVO-konform.
- Die Datenspur. Was mit einer Datei passiert, sobald jemand sie weiterverwenden darf.
- Was ist ein Token bei KI? Einfach erklärt
- Was ist ein LLM? Large Language Models einfach erklärt
Fragen zur Wissensdatenbank? Schreiben Sie an [email protected] oder nutzen Sie das Kontaktformular in der App.
