Zum Hauptinhalt springen

Wie Sprachmodelle funktionieren

Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) ist ein Verfahren, bei dem ein Sprachmodell vor dem Antworten passende Texte aus einer externen Quelle abruft und seine Antwort auf diese Texte stützt.

Auch: RAG · Retrieval Augmented Generation · Abrufgestützte Generierung · Retrieval-gestützte Textgenerierung

Digital- & Sichtbarkeits-Analyst, CodaAI

Stand: 3 Min. Lesezeit

Retrieval-Augmented Generation (RAG) ist ein Verfahren, bei dem ein Sprachmodell vor dem Antworten passende Texte aus einer externen Quelle abruft und seine Antwort auf diese Texte stützt. Das Modell antwortet dann nicht allein aus seinem Modellwissen, sondern aus dem, was es für diese Frage nachgeschlagen hat. Sinngemäß übersetzt heißt RAG „durch Abruf erweiterte Generierung“.

Woher kommt der Begriff RAG?

Der Begriff stammt aus dem Paper „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks“ von Patrick Lewis und elf Mitautoren von Facebook AI Research, dem University College London und der New York University. Es wurde im Mai 2020 eingereicht und auf der Konferenz NeurIPS 2020 veröffentlicht (arXiv:2005.11401).

Die Autoren verbanden ein vortrainiertes Sprachmodell mit einem dichten Vektorindex der Wikipedia, den ein neuronaler Retriever durchsucht. Ihr Argument: Wissen, das in den Parametern eines Modells steckt, lässt sich schwer aktualisieren und schwer belegen. Ein externer Speicher lässt sich austauschen, und die abgerufenen Passagen zeigen, woher eine Aussage stammt. Laut dem Paper erzeugten die RAG-Modelle spezifischere, vielfältigere und faktentreuere Texte als ein Modell ohne Abruf.

Wie funktioniert RAG?

Ein RAG-System arbeitet in vier Schritten:

  1. Anfrage — Das System bereitet die Frage des Nutzers auf und zerlegt sie oft in mehrere Suchanfragen (Query Fan-out).
  2. Retrieval — Es sucht passende Dokumente oder Abschnitte: per Wortsuche, per Vektorsuche in einer Vektordatenbank oder mit beidem (Hybrid Retrieval).
  3. Kontext — Die besten Abschnitte landen zusammen mit der Frage im Kontextfenster des Modells.
  4. Generierung — Das Modell formuliert die Antwort auf Basis dieser Abschnitte und verweist auf die Quellen.

Mike King (iPullRank) beschreibt den Ablauf bei KI-Suchsystemen so: Die Anfrage wird in einen Vektor übersetzt, eine Vektorsuche liefert Kandidaten, diese werden neu gerankt, und auf den besten Passagen baut die Antwort auf. Zwischen Retrieval und Kontext liegt also fast immer ein Re-Ranking.

Was unterscheidet RAG von Grounding?

Inhaltlich wenig. Google beschreibt Retrieval-Augmented Generation in seinem Leitfaden für generative KI-Funktionen als Technik, die „auch als Grounding bekannt“ ist (Google Search Central, Stand Juli 2026). Beide Begriffe meinen dasselbe Prinzip: erst abrufen, dann antworten.

Der Unterschied liegt in der Perspektive. RAG ist der Begriff aus der KI-Forschung und gilt für jede externe Quelle — eine Wikipedia-Kopie, eine Produktdatenbank, ein Firmen-Wiki. Grounding ist die GEO-Sicht auf dasselbe Prinzip, wenn die Quelle die Websuche ist. Ein interner Chatbot mit RAG greift auf Ihre eigenen Dokumente zu. Eine KI-Suche mit Grounding greift auf den Webindex zu, und dort konkurriert Ihre Seite mit allen anderen.

Warum ist RAG für die KI-Sichtbarkeit wichtig?

RAG ist der Mechanismus, über den aktuelle Webinhalte in KI-Antworten gelangen. Google nennt RAG ausdrücklich als Technik seiner generativen KI-Funktionen wie AI Overviews und AI Mode: Die zentralen Ranking-Systeme rufen relevante, aktuelle Seiten aus dem Suchindex ab, und die Antwort zeigt anklickbare Links zu diesen Seiten (Google Search Central, Juli 2026).

Daraus folgt eine harte Bedingung. Lily Ray argumentiert, dass die großen KI-Suchprodukte auf RAG beruhen und Inhalte, die nicht indexiert sind und nicht ranken, gar nicht erst in das Kontextfenster des Modells gelangen (Substack, März 2026). Was nicht abgerufen wird, kann nicht zitiert werden.

Nicht jede KI-Antwort entsteht per RAG. Beantwortet ein System eine Frage ohne Suche, zählt allein das Wissen aus dem Training. Für die Sichtbarkeit brauchen Sie deshalb beide Wege: Präsenz in den Trainingsdaten und Präsenz in den Ergebnissen, die ein RAG-System abruft.

Was bedeutet das für Ihre Website?

Die Seite muss im Index stehen und für die Anfrage oder ihre Fan-out-Queries ranken. Ohne diesen Schritt kommt sie im Retrieval nicht vor. Klassische SEO-Arbeit — Indexierbarkeit, interne Verlinkung, Rankings — bleibt die Voraussetzung für jede Zitierung.

Danach entscheidet der einzelne Abschnitt. RAG-Systeme legen in der Regel nicht ganze Seiten in den Kontext, sondern ausgewählte Passagen (Grounding Snippets). Schreiben Sie deshalb Abschnitte, die für sich verständlich sind, mit der Antwort beginnen und genau ein Thema behandeln (Chunking). Ob das wirkt, zeigt die Citation Rate über Ihr Promptset.

Vom Begriff zur Zahl

Wie steht Ihr Unternehmen bei diesem Faktor da?

Das Digital Visibility Audit misst zu echten Einkäuferfragen, ob ChatGPT und die Google KI-Übersicht Ihr Unternehmen nennen — und woran es liegt, wenn nicht.

Visibility Snapshot · kostenlos

Empfiehlt die KI Sie, wenn Ihre Kunden fragen?

Stellen Sie fünf KI-Systemen die Frage Ihrer Kunden. In rund 20 Sekunden sehen Sie, ob Sie genannt werden — und wen die KI stattdessen empfiehlt.

  • ChatGPT
  • Claude
  • Gemini
  • Perplexity
  • Google AI Mode
Snapshot starten

Kostenlos · ohne Anmeldung