RAG ist angekommen.Jetzt wird es eingebaut.
Das Verfahren, das Sprachmodelle mit Firmendokumenten verbindet, ist breit untersucht und vielfach im Einsatz. Sein Forschungswachstum ist seit Mitte 2025 flach — während drei weiterführende Ansätze schneller wachsen, die klassisches RAG nicht ablösen, sondern in größere Systeme einbetten.
Was ist RAG?
Ein Sprachmodell weiß nichts über Ihr Unternehmen. RAG — Retrieval Augmented Generation, auf Deutsch etwa „Antworten mit vorgeschaltetem Nachschlagen“ — löst das so: Bevor das Modell antwortet, sucht ein Suchschritt passende Stellen in Ihren Dokumenten heraus und legt sie dem Modell vor. Die Antwort entsteht dann aus diesen Fundstellen statt aus dem Gedächtnis des Modells.
Das ist heute der übliche Weg, wenn ein Unternehmen einen KI-Assistenten auf eigene Verträge, Handbücher oder Protokolle setzen will. Ein großer Teil der Angebote in diesem Bereich basiert darauf.
Dieser Artikel prüft: Ist RAG ausgereift — und wo stößt es an Grenzen? Wir messen das nicht an Meinungen, sondern daran, wie sich die Forschungsliteratur bewegt.
So lesen Sie diesen Text · vier Belegarten
Die Kurve ist flach geworden.
RAG-Arbeiten wuchsen 2024 noch um 75 Prozent pro Halbjahr. Seit Mitte 2025 sind es 3 bis 12 Prozent. Gleichzeitig wachsen drei angrenzende Ansätze deutlich schneller.
Das Ursprungspapier ist von 2020 und kommt in unserem Bestand auf 890 interne Referenzkanten ✓ — also Zitate aus Arbeiten, die selbst in diesem Bestand liegen; die tatsächliche Zitationszahl ist höher. Der große Übersichtsartikel von Ende 2023 kommt auf 2.042 ✓ — der meistzitierte Treffer dieser Auswertung. Das Verfahren ist damit wissenschaftlich etabliert und breit untersucht. Dass es auch praktisch trägt, zeigen unzählige laufende Installationen — die sind allerdings nicht Gegenstand dieser Datenauswertung ○.
Interessant ist die zweite Ableitung. So entwickelte sich die Zahl der Arbeiten pro Halbjahr:
So sieht Reife aus, nicht Niedergang ○ — 1.228 Arbeiten im Halbjahr sind weiterhin ein starkes Feld. Aber die Neugier der Forschung wandert sichtbar weiter.
Drei angrenzende Ansätze wachsen schneller.
Balkenbreite = 1 px je 2 Arbeiten. 2026-H2 unvollständig (Datenstand
23.07.2026) und deshalb nicht abgebildet. Nicht auf das arXiv-Gesamtaufkommen
normalisiert — das wächst ebenfalls, und nicht zwingend gleichmäßig über alle
Teilgebiete. Der Vergleich bleibt informativ, ist aber kein normalisierter
Anteilsvergleich.
Daten als JSON ·
als CSV — nachrechnen erwünscht.
Der vierte Ansatz passt nicht in dieselbe Grafik, weil er zu jung ist: Context Engineering — erster Treffer im Januar 2025, dann 2 · 29 · 52 Arbeiten pro Halbjahr ✓. Es geht dabei nicht um besseres Suchen, sondern um die Frage, was ein System überhaupt vor sich hat, wenn es antwortet.
Und ein fünfter Faden, der in unserem Trend-Radar auftauchte: „agent memory“ ging von 2 auf 85 Titel-Treffer ✓ — also Wissen, das ein System über Sitzungen hinweg behält, statt es jedes Mal neu zusammenzusuchen.
Warum RAG der richtige Standard war.
Bevor wir zu den Grenzen kommen, gehört die faire Bilanz an den Anfang. RAG hat drei Dinge gelöst, an denen vorher jeder Ansatz gescheitert ist.
1 · Aktualität ohne Neutraining
Ein Sprachmodell jedes Mal neu zu trainieren, wenn sich ein Vertrag ändert, wäre wirtschaftlich unsinnig. RAG umgeht das: Das Wissen liegt außerhalb des Modells und kann jederzeit ausgetauscht werden.
2 · Belegbarkeit
Weil die Antwort aus abgerufenen Textstellen entsteht, lässt sich mitliefern, woher sie stammt. Self-RAG erweitert das 2023 um eine Selbstprüfung des Abrufs ✓.
3 · Wissen bleibt außerhalb der Modellgewichte
Firmendokumente müssen für RAG nicht in ein Sprachmodell eintrainiert werden. Das ist ein realer Vorteil — aber es ist nicht dasselbe wie Datenschutz. Die abgerufenen Textstellen werden beim Antworten an das Modell übermittelt; ob sie damit Ihren Systembereich verlassen, hängt an Hosting, Anbieter, Protokollierung und Vertrag. Wer ein extern betriebenes Modell nutzt, hat die zweite Frage damit nicht gelöst ○.
Wenn Sie heute einen Dokumenten-Assistenten brauchen, ist RAG eine solide, gut untersuchte Wahl. Die folgenden Abschnitte sind kein Argument dagegen — sie beschreiben, wo Sie beim Einkauf genauer hinsehen sollten.
- Angewandte Regel
- Ein Verfahren mit hohem absolutem Forschungsvolumen und tausendfach zitierten Grundlagenarbeiten ist wissenschaftlich etabliert und intensiv untersucht, auch wenn sein Wachstum nachlässt. Über die Leistung im Einzelfall sagt das nichts.
Was die weiterführenden Ansätze über RAG verraten.
Man muss keine Meinung über RAG haben, um seine Schwachstellen zu erkennen. Es genügt, zu lesen, woran die Forschung stattdessen arbeitet — denn jeder Nachfolgeansatz ist die Antwort auf ein bestimmtes Problem.
Zusammenhänge über mehrere Dokumente hinweg
Einfaches, abschnittsbasiertes RAG holt Textstellen. Wenn eine Antwort Informationen aus fünf Dokumenten verbinden muss, liefert es fünf Fundstellen — die Beziehung zwischen ihnen wird dabei nicht als eigenes Wissensobjekt abgebildet. Fortgeschrittene Aufbauten können das teilweise auffangen, etwa durch mehrstufigen Abruf oder Zerlegung der Frage. Genau dafür wurde GraphRAG 2024 vorgestellt ✓: Statt Textschnipsel wird ein Graph aus Entitäten und Beziehungen aufgebaut. Von einer Arbeit im ersten Halbjahr 2024 auf 109 im ersten Halbjahr 2026 ✓.
Widersprüche und Zeitbezug
Wenn zwei Dokumente sich widersprechen, weiß ein Abrufsystem nicht, welches gilt — außer man modelliert, wann was galt. Zep beschreibt 2025 eine Architektur, die Wissen als zeitlichen Graphen führt ✓ — also mit Gültigkeitszeiträumen statt als flachen Textbestand.
Was das System überhaupt sieht
Der jüngste Faden dreht die Frage um: Nicht „wie finde ich die richtige Stelle“, sondern „wie sieht der Arbeitsbereich aus, in dem entschieden wird“. Ein Übersichtsartikel vom Juli 2025 fasst das unter Context Engineering zusammen ✓.
Für ein Auswahlgespräch heißt das: Fragen Sie nicht „macht ihr RAG?“, sondern stellen Sie drei konkrete Fälle. Was passiert, wenn die Antwort in vier Dokumenten verteilt liegt? Was, wenn zwei Dokumente sich widersprechen? Was, wenn eine Regel seit März gilt und vorher eine andere galt? An diesen drei Fragen trennt sich ein Dokumentensuchsystem von einem, das Zusammenhänge kennt.
- Angewandte Regel
- Weiterführende Ansätze entstehen an den Stellen, an denen ein etabliertes Verfahren nicht trägt. Aus der Richtung der Forschung lässt sich deshalb ablesen, wo die Grenzen liegen — nicht, wie schwerwiegend sie im Einzelfall sind.
- Belegt durch
- arXiv:2404.16130 · 2501.13956 · 2507.13334 · Verlaufszahlen GraphRAG, Wissensgraph + LLM, Context Engineering
Wir haben hier ein Eigeninteresse.
Die Ansätze, die in diesem Artikel als Erweiterungen von RAG erscheinen — Graphen, Zeitbezug, Objekte mit Beziehungen — sind genau die, auf denen unsere eigenen Produkte aufbauen. Das sollten Sie beim Lesen wissen.
BrunoSan ist auf einem Objekt- und Beziehungsmodell gebaut, nicht auf einem Textindex. Wenn die Forschung sich in diese Richtung bewegt, bestätigt das eine Entscheidung, die wir vor der Messung getroffen haben. Das ist ein Grund, unsere Auswahl kritisch zu prüfen — deshalb liegen die Rohdaten zu diesem Artikel als JSON und CSV offen, und deshalb steht jede Zahl mit Suchbegriff und Datenstand dabei.
Was wir nicht behaupten können: dass unsere Begriffsauswahl neutral war ○. Wir haben nach GraphRAG, Wissensgraphen und Context Engineering gesucht, weil wir diese Ansätze kennen — und weil sie zu unserer Architektur passen. Eine unabhängige Auswahl hätte womöglich andere Kandidaten gefunden. Welche: —
Der Ansatz, den wir nicht gemessen haben
Es gibt eine Alternative, die RAG nicht erweitert, sondern überflüssig machen könnte: Sprachmodelle mit sehr großen Kontextfenstern. Wenn ein Modell hunderttausende oder Millionen Textbausteine auf einmal verarbeitet, lässt sich ein Dokumentenbestand direkt hineingeben — kein Abruf, kein Index, keine Graphen.
Diesen Strang haben wir nicht ausgewertet. Er passt nicht in unsere Produktarchitektur, und genau deshalb gehört der Hinweis hierher und nicht in eine Fußnote. Wie sich die Literatur zu großen Kontextfenstern gegenüber RAG entwickelt: — Das kommt in eine eigene Auswertung.
Unsere Vermutung — als solche gekennzeichnet — lautet: Beides wird kombiniert ○, weil große Kontextfenster weder die Kosten pro Anfrage noch die Nachvollziehbarkeit lösen. Aber das ist eine Einschätzung, keine Messung.
Viele messen. Wenige liefern den Code mit.
Dieser Abschnitt gehört nicht zur RAG-These. Er ist ein Nebenbefund aus derselben Abfrage — relevant für jeden, der eine Studienzahl in einem Angebot findet.
4.352 als empirisch klassifiziert
250 als empirisch klassifiziert
864 als empirisch klassifiziert
Wie in unseren anderen Auswertungen lässt sich aus diesen beiden Randwerten die Schnittmenge nicht berechnen — nur ihre Grenzen. Zwischen 79 und 84 Prozent der RAG-Arbeiten sind als empirisch klassifiziert und führen keinen Code-Verweis ✓. Bei GraphRAG liegt die Spanne bei 81 bis 83 Prozent, bei Wissensgraph + LLM bei 76 bis 85. Der genaue Wert: —
Das heißt nicht, dass diese Ergebnisse falsch sind oder nie überprüft wurden. Es heißt: Sie können es aus der Veröffentlichung allein meist nicht erkennen.
Wie zuverlässig die automatische Code-Erkennung selbst ist, haben wir nicht an einer Stichprobe geprüft: — Diese Prüfung steht aus und kommt in die nächste Auswertung.
Wie diese Zahlen entstanden sind.
- Datenbasis
- 602.340 arXiv-Arbeiten aus cs.AI, cs.LG, cs.CL, cs.CV, cs.RO · 01.04.2007 bis 23.07.2026 · 11,6 Mio. Referenzkanten
- Suchverfahren
- Begriffssuche in Titel und Abstract — nicht im Volltext. FTS5 mit Tokengrenzen (unicode61). Suchbegriffe: “retrieval-augmented generation“ | “retrieval augmented generation“ · “graphrag“ | “graph rag“ · “knowledge graph“ AND (“llm“ | “language model“) · “context engineering“
- Wichtigste Einschränkung
- Keine Normalisierung auf das Gesamtaufkommen. arXiv wächst insgesamt, und nicht zwingend gleichmäßig über alle Teilgebiete. Ein Teil des Anstiegs aller vier Kurven geht darauf zurück; die absoluten Wachstumsraten sind Obergrenzen. Der Vergleich zwischen den Kurven bleibt informativ, ist aber kein normalisierter Anteilsvergleich.
- Preprints, nicht begutachtete Literatur
- arXiv ist in der KI das dominierende Publikationsmedium, aber ein Teil der Arbeiten durchläuft nie eine Begutachtung. Bei den hier zitierten Grundlagenarbeiten ist das unkritisch — für die Breite des Feldes gilt: Die Qualität ist heterogen.
- Begriffswachstum ist nicht dasselbe wie Forschungswachstum
- Die Kurven messen die Verbreitung von Bezeichnungen. Ein wachsender Begriff kann neue Forschung anzeigen — oder die nachträgliche Bündelung bestehender Verfahren unter einem neuen Namen. Beispiel aus dieser Auswertung: „Think-on-Graph“ von Juli 2023 arbeitet graphgestützt, taucht unter dem Suchbegriff „GraphRAG“ aber nicht auf.
- Auswahl der weiterführenden Begriffe
- Von uns gewählt, nicht aus den Daten abgeleitet. Siehe Abschnitt 05.
- Überschneidungen
- Die Mengen überlappen: GraphRAG-Arbeiten sind meist auch RAG-Treffer. Anteil der Mehrfachtreffer: —
- Zitationen
- Referenzkanten innerhalb dieses Bestands — kein Google-Scholar-Wert. Die tatsächliche Zitationszahl liegt höher.
- Code-Erkennung und „empirisch“
- Felder llm_has_code und llm_is_empirical, LLM-gestützt befüllt, nicht manuell validiert. Erwartete Fehlerquote: — Aussagen auf dieser Basis beschreiben den Datensatz, nicht die Publikationsrealität.
Fünf Fragen an jeden Anbieter eines Dokumenten-Assistenten.
Die ersten drei folgen direkt aus den Grenzen in Abschnitt 04. Sie lassen sich in zehn Minuten am eigenen Material prüfen.
- 01 Verteilte Antwort. Stellen Sie eine Frage, deren Antwort in vier Dokumenten steckt. Kommt eine zusammengesetzte Antwort — oder vier Fundstellen?
- 02 Widerspruch. Laden Sie zwei Dokumente hoch, die sich widersprechen. Merkt das System den Konflikt — oder wählt es stillschweigend eines aus?
- 03 Zeitbezug. Fragen Sie nach einer Regel, die seit März gilt und vorher anders lautete. Kennt das System die Gültigkeitszeiträume?
- 04 Nichtwissen. Fragen Sie etwas, das in keinem Dokument steht. Kommt „weiß ich nicht“ — oder eine plausibel klingende Erfindung?
- 05 Beleg. Führt jede Aussage zur konkreten Stelle im Originaldokument — Seite und Absatz — oder nur zum Dateinamen?
- Angewandte Regel
- Fragen 01 bis 03 folgen aus den Belegen dieses Artikels. 04 und 05 sind Betriebserfahrung — sie stehen so nicht in der ausgewerteten Literatur.
Sieben Antworten, die wir nicht geben.
Leerstellen
- Wie viel besser ist GraphRAG als klassisches RAG — in Zahlen?
- — Wir haben Publikationsverläufe ausgewertet, keine Benchmark-Ergebnisse verglichen.
- Ab welcher Dokumentenmenge lohnt ein Graph gegenüber einem Textindex?
- — Keine Studie in unserem Bestand untersucht das nach Bestandsgröße.
- Was kostet der Umstieg?
- — Hängt an Datenqualität und Systemlandschaft. Keine belastbare Spanne.
- Ist das flachere Wachstum Reife — oder eine Verlagerung in Teilgebiete?
- — Beides ist plausibel. Unsere Suchbegriffe erfassen benannte Teilgebiete nicht.
- Bleibt der Anteil von RAG am Gesamtaufkommen konstant?
- — Nicht gemessen. Bei insgesamt moderatem arXiv-Wachstum wäre auch „stabile Präsenz“ eine gültige Lesart statt „nachlassendes Interesse“.
- Wie entwickeln sich Modelle mit sehr großen Kontextfenstern gegenüber RAG?
- — Nicht ausgewertet. Siehe Offenlegung in Abschnitt 05.
- Hätte eine unabhängige Auswahl andere Ansätze gefunden?
- — Möglich. Siehe Offenlegung in Abschnitt 05.
Die zweite und dritte Frage entscheiden in der Praxis über das Budget ○ — und sie lassen sich nur an Ihrem eigenen Dokumentenbestand beantworten, nicht aus einem Datensatz.
Ihren Dokumentenbestand bewerten lassen DoWell UG · Hamburg
Alle Quellen dieses Artikels.
| arXiv-ID | Titel | Datum | Rolle | Zit. |
|---|---|---|---|---|
| 2312.10997 | Retrieval-Augmented Generation for Large Language Models: A Survey | 2023-12-18 | Übersicht | 2.042 |
| 2404.16130 | From Local to Global: A Graph RAG Approach to Query-Focused Summarization | 2024-04-24 | Erweiterung | 962 |
| 2005.11401 | Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks | 2020-05-22 | Ursprungsarbeit | 890 |
| 2310.11511 | Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection | 2023-10-17 | Weiterentwicklung | 534 |
| 2504.19413 | Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory | 2025-04-28 | Erweiterung | 532 |
| 2501.13956 | Zep: A Temporal Knowledge Graph Architecture for Agent Memory | 2025-01-20 | Erweiterung | 209 |
| 2408.08921 | Graph Retrieval-Augmented Generation: A Survey | 2024-08-15 | Übersicht | 192 |
| 2307.07697 | Think-on-Graph: Deep and Responsible Reasoning of Large Language Models | 2023-07-15 | Erweiterung | 175 |
| 2507.13334 | A Survey of Context Engineering for Large Language Models | 2025-07-17 | Übersicht | 108 |
| BrunoSan arXiv | Eigene Auswertung über 602.340 Arbeiten · Begriffssuche mit Tokengrenzen · Zitationen aus 11,6 Mio. aufgelösten Referenzkanten | 2026-07-26 | Eigene Erhebung | — |
„Rolle“ ist unsere Einordnung, keine Angabe der Autoren. Zitationszahlen sind Referenzkanten innerhalb des BrunoSan-Bestands.
Was Leser dazu meistens fragen.
Ist RAG jetzt veraltet?
Sollen wir auf GraphRAG warten?
Was ist der Unterschied zwischen RAG und einem Wissensgraphen?
Was ist mit Modellen, die den ganzen Bestand auf einmal lesen können?
Warum legen Sie einen Interessenkonflikt offen?
Ist dieser Text mit KI erstellt?
Um zu sehen, dass eine Kurve flach wird und eine andere steigt, braucht es einen versionierten Zeitreihenbestand: 602.340 wissenschaftliche Arbeiten von 2007 bis vorgestern, jede als eigenes Objekt mit ID, Datum und Referenzkanten. Genau das Objektmodell, um das es in diesem Artikel inhaltlich geht — angewandt auf uns selbst.
Dasselbe Prinzip für Ihre Dokumente: Atomizer zerlegt Verträge, Rechnungen und Protokolle in Objekte mit ID und Beziehungen. BrunoSan Assistant beantwortet Fragen darauf — mit Quelle zur Originalstelle, und mit „weiß ich nicht aus deinen Daten“ als vollwertiger Antwort. Den arXiv-Bestand gibt es als MCP-Server.
Nach
Agentic AI: Drei frühe Forschungssignale →
Wo Gedächtnis und Zeitbezug in der
Forschungssprache gerade auftauchen — und warum das Urteil dort „zu früh“ lautet.
KI-Agenten:
Neu ist nur das Wort →
Warum die Verfahren hinter
„Agentic AI“ aus 2022 und 2023 stammen.