RAG: Wie KI-Systeme vor der Antwort Quellen suchen

Was ist RAG?

RAG, ausgeschrieben Retrieval Augmented Generation, verbindet 2 Schritte: den Abruf, englisch Retrieval, von passenden Dokumenten aus einer Datenquelle und die Erzeugung, englisch Generation, einer Antwort durch ein Sprachmodell. Das Modell antwortet damit auf Basis der gefundenen Texte statt nur aus seinem gelernten Wissen.

Der Begriff stammt aus einem Forschungspapier von 2020. Forschende um Patrick Lewis stellten das Verfahren unter dem Titel Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks vor, veröffentlicht auf der Konferenz NeurIPS 2020. NLP steht für Natural Language Processing, auf Deutsch Verarbeitung natürlicher Sprache.

Im Originalpapier heißen die beiden Seiten parametrisches und nicht parametrisches Gedächtnis. Das parametrische Gedächtnis war ein vortrainiertes Sprachmodell, das nicht parametrische ein Vektorindex der Wikipedia, durchsucht von einem vortrainierten neuronalen Suchmodell.

Wie funktioniert RAG Schritt für Schritt?

RAG läuft in 4 Schritten: Dokumente werden vorab zerlegt und in einen durchsuchbaren Index gelegt. Bei einer Frage sucht das System die passendsten Abschnitte heraus, gibt sie zusammen mit der Frage an das Sprachmodell weiter, und das Modell formuliert daraus die Antwort.

1. 1

   Indexieren

   Dokumente werden in Abschnitte zerlegt, das sogenannte Chunking, und jeder Abschnitt wird als Zahlenreihe für seine Bedeutung gespeichert.

2. 2

   Abrufen

   Zur Frage sucht ein Suchmodell die Abschnitte, deren Bedeutung am besten passt. Websuchen wie Google nutzen dafür ihren Suchindex und ihre Rankingsysteme.

3. 3

   Anreichern

   Die gefundenen Abschnitte werden der Frage beigefügt. Das Sprachmodell bekommt so den Stoff, auf dem seine Antwort beruhen soll.

4. 4

   Antworten

   Das Modell formuliert die Antwort aus Frage und Abschnitten und kann die genutzten Quellen angeben.

Frage
  → Suche im Index
  → passende Abschnitte + Frage
  → Sprachmodell
  → Antwort mit Quellen

Wie groß die Abschnitte sind und wie das Suchmodell gewichtet, legt jeder Anbieter selbst fest. Für die großen KI-Suchen sind diese Details meist nicht öffentlich.

Was bedeutet RAG für deine Website?

Bei RAG entscheidet der Abruf, welche Seiten überhaupt in eine KI-Antwort einfließen. Deine Seiten müssen deshalb für die Crawler erreichbar und indexiert sein und Fragen so klar beantworten, dass ein Suchsystem den passenden Abschnitt findet. Belegte Fakten und eigene Erfahrung machen sie zur bevorzugten Quelle.

Spezielle Tricks braucht es dafür laut Google nicht: Für die KI-Funktionen der Google-Suche sind weder eine llms.txt noch zerstückelte Texte oder besonderes Schema-Markup nötig. Welche Maßnahmen tatsächlich wirken, erklärt der Ratgeber GEO SEO, Begleitung bei der Umsetzung bietet die GEO Agentur der DTILE GmbH.

Wie du Inhalte so aufbereitest, dass Sprachmodelle sie finden und zitieren, erklärt der Eintrag LLMO.