AI-Serie Interview 8: Was ist RAG? Warum ein RAG-Projekt?

Was ist RAG?

RAG steht für Retrieval-Augmented Generation, auf Deutsch abrufgestützte Generierung.

Einfach ausgedrückt ist es eine Technik, die einem großen Sprachmodell ein jederzeit nachschlagbares Nachschlagewerk zur Seite stellt.

Stellen Sie sich das große Sprachmodell als einen "Super-Schüler" mit hervorragendem Gedächtnis und umfassendem Wissen vor. Aber dieser Super-Schüler hat zwei angeborene "Mängel":

1. Wissensstichtag: Sein Wissen beschränkt sich auf die Trainingsdaten. Was nach 2023 passiert ist, weiß er nicht.
2. Mögliches "Erfinden": Wenn er eine Frage nicht beantworten kann, sagt er nicht "Ich weiß es nicht", sondern erfindet eine plausible Antwort (das ist die KI-Halluzination).

RAG löst genau diese beiden Probleme. Der Arbeitsablauf ist einfach und besteht aus drei Schritten:

1. Abruf: Wenn Sie eine Frage stellen, durchsucht das System zunächst eine "externe Wissensdatenbank" (z. B. alle Ihre Firmendokumente, das aktuelle Wikipedia oder eine Sammlung von Gesetzestexten) und findet schnell die relevantesten Informationen. Das ist, als würde der Schüler zuerst in den Büchern nachschlagen.
2. Anreicherung: Das System kombiniert "Ihre Frage" und "die abgerufenen relevanten Abschnitte" zu einem erweiterten Prompt. Das ist, als würde man dem Schüler eine Referenz geben.
3. Generierung: Das große Sprachmodell generiert die endgültige Antwort basierend auf diesem erweiterten Prompt. Es verlässt sich nicht mehr nur auf das alte Wissen in seinem "Gedächtnis", sondern hauptsächlich auf die bereitgestellten "Referenzen". Das ist, als würde der Schüler mit dem Buch antworten, anstatt zu phantasieren.

Ein einfaches Beispiel:
- Traditionelles LLM: "Wie repariere ich mein Fahrrad Modell XX?" → Das Modell antwortet aus dem Gedächtnis, möglicherweise veraltet oder falsch.
- RAG: "Wie repariere ich mein Fahrrad Modell XX?" → Zuerst Abruf des aktuellen offiziellen Reparaturhandbuchs → Dann Generierung: "Laut Kapitel 3 des Reparaturhandbuchs von 2024 sollten Sie zuerst ..."

Warum ein RAG-Projekt?

Ein RAG-Projekt zu starten, dient im Wesentlichen dazu, Stärken zu nutzen und Schwächen auszugleichen, um das wahre Potenzial großer Sprachmodelle freizusetzen. Die Hauptgründe sind:

1. Lösung von "veraltetem Wissen" und "Halluzinationen"

   • Motivation: Das LLM soll Fragen zu aktuellen Ereignissen, internen Daten, privaten Dokumenten beantworten und dabei nachvollziehbare Quellen angeben.
   • Wert: Ein medizinisches Frage-Antwort-System mit RAG kann auf aktuelle medizinische Zeitschriften verweisen, um Symptome der neuesten COVID-Variante zu beantworten, anstatt veraltete Informationen von 2021 zu liefern – inklusive Quellenangabe, was das Risiko von "freiem Erfinden" drastisch reduziert.

2. KI mit "privaten Daten" arbeiten lassen, bei gleichzeitiger Sicherheit

   • Motivation: Jedes Unternehmen hat seine eigene Wissensdatenbank (Verträge, Code, Kundensupport-Aufzeichnungen usw.). Diese Daten können nicht einfach zum Nachtraining oder Feintuning des Modells verwendet werden (zu teuer, technisch schwierig, Datenleak-Risiko).
   • Wert: Mit RAG können Sie einen firmeninternen "KI-Frage-Antwort-Assistenten" erstellen. Nach einer Frage des Mitarbeiters sucht die KI in den internen privaten Dokumenten nach relevanten Informationen und antwortet. Die privaten Daten bleiben stets im Unternehmen und werden nicht zum Training an den Modellanbieter gesendet, was sowohl die Verständnisfähigkeit des LLM nutzt als auch die Datensicherheit gewährleistet.

3. Kostensenkung und Effizienzsteigerung

   • Motivation: Ein großes Modell neu zu trainieren oder zu feintunen, um neues Wissen aufzunehmen, ist, als würde man die gesamte Bibliothek erneut lernen – es erfordert enorme Rechenleistung und Kosten.
   • Wert: RAG erfordert fast kein Training, sondern nur den Aufbau eines Abrufsystems. Die Kosten können bei 1 % oder sogar weniger im Vergleich zum Feintuning liegen. Zudem wird bei Aktualisierung der Wissensdatenbank automatisch das Abrufergebnis aktualisiert, ohne das Modell neu trainieren zu müssen – "Echtzeit-Updates" sind möglich.

4. KI soll wissen, was sie weiß und was nicht

   • Motivation: Das Modell soll seine Wissensgrenzen klar erkennen.
   • Wert: Ein RAG-System kann eine Regel haben: Wenn kein relevantes Dokument gefunden wird, antwortet es direkt: "Es tut mir leid, in der Wissensdatenbank wurden keine relevanten Informationen gefunden. Bitte präzisieren Sie Ihre Frage." Dieser "Referenz-Fehlschlag"-Mechanismus macht die Funktionsweise der KI zuverlässiger und transparenter.

Zusammenfassung:

Ein RAG-Projekt wird in Angriff genommen, weil wir sowohl die starke Verständnis- und Ausdrucksfähigkeit großer Sprachmodelle nutzen als auch sie ehrlich, zuverlässig, aktuell und mit privatem Geschäftswissen vertraut machen wollen. Es ist, als würde man einem Supermotor (LLM) ein präzises steuerbares Lenkrad und eine stets aktuelle Navigationskarte (Abrufsystem) hinzufügen – derzeit einer der effektivsten und gängigsten technischen Wege, um LLMs in ernsthaften Bereichen wie Unternehmen, Medizin, Recht und Finanzen praktisch einzusetzen.