RAG-Systeme für Medienhäuser: Sechs Wege zu kontrollierbaren KI-Outputs

RAG-Verfahren entlasten bei der Recherche, machen Archive wieder nutzbar und erschließen neue Monetarisierungsmodelle. Auf dem Papier ist der Aufbau simpel: Ein Sprachmodell wird um eine speziell zugeschnittene Datenbank erweitert. Wie das technisch abläuft und was es für die Praxis in Medienhäusern bedeutet, fassen wir zusammen.

Was unterscheidet RAG von einem normalen Sprachmodell?

Retrieval-Augmented Generation (zu Deutsch etwa „abrufgestützte Erweiterung“) ist ein mehrstufiger Prozess, der bei jeder Anfrage an ein entsprechend modifiziertes Sprachmodell abläuft. Das Modell bezieht sich dabei auf zusätzliche Wissensquellen: auf interne oder externe Datenbanken, auf Firmenarchive und Metadaten oder auf Echtzeitdaten. Themenfremde oder halluzinierte Antworten werden dadurch seltener.

RAG ist aber mehr als eine angeschlossene Datenquelle. Die Nutzeranfrage (Query) wird dynamisch um relevante Fakten aus dem Zusatzwissen erweitert (Context Augmentation). 

Den Rahmen setzt der System Prompt. Er gibt vor, wie das Modell mit Daten und Eingabe umzugehen hat. So orientiert das Modell seine Token-Wahrscheinlichkeiten an den aufbereiteten Daten und stützt sich nicht mehr allein auf sein vortrainiertes Wissen. RAG ist damit die Kombination aus kuratierter Wissensquelle und angepasstem Prompt.

Wie ein RAG-System in vier Phasen arbeitet

Soll ein Sprachmodell ausschließlich aus dem eigenen Datenfundus antworten, muss die Pipeline um Datenbanken oder andere designierte Wissensbestände ergänzt werden. In der Praxis läuft das in vier Phasen ab.

Phase 1: Die Daten, die als Referenz dienen sollen, werden in Vektoren überführt. Ein Embedding-Modell, deutlich kleiner als ein reguläres Sprachmodell, zerlegt die Datensätze in kleinere Bestandteile („Chunks“) und übersetzt natürliche Sprache in numerische Tokens.

Phase 2: Das System sammelt die passenden Informationen (Retrieving). Ein Embedding-Modell wandelt auch die Nutzeranfrage in einen Vektor um, ein Suchalgorithmus durchsucht die Vektordatenbank nach ähnlichen Vektoren. So filtert das System, was aus der Wissensquelle für diese Anfrage relevant ist.

Phase 3: Im Augmentierungsprozess werden der Eingabe die gefundenen Informationen hinzugefügt. Wie exklusiv sich das Modell darauf bezieht, definiert der Prompt. Ob die Daten aus internen oder externen Quellen stammen, ist zweitrangig. Aktuell und akkurat müssen sie sein: Jede Lücke verfälscht das Ergebnis.

Phase 4: Der finale Prompt besteht aus System Prompt, abgerufenem Kontext und Nutzeranfrage. Ab hier arbeitet das Sprachmodell unverändert. Von einer regulären Anwendung unterscheidet sich ein RAG-Verfahren also allein durch die Dateneingabe und den Prompt.

Sechs Gründe, warum RAG-Verfahren für Redaktionen interessant sind

Generative Künstliche Intelligenz verändert die Medienbranche spürbar: Falschnachrichten entstehen schneller als zuvor, das Vertrauen in die Medien leidet darunter. Zugleich ist die Technologie ein gern genutztes Mittel, um Kosten zu sparen, vor allem dort, wo es um Masse statt Qualität geht. RAG-Verfahren verbinden die Möglichkeiten von KI mit einem Qualitätsanspruch.

• Kosteneffizient und sofort wirksam: Finetuning ist aufwendig. RAG stellt Wissen vergleichsweise einfach bereit und kann ein vorbereitender Schritt vor einem Finetuning sein.
• Aktualität im KI-Output: Vortrainierte Sprachmodelle haben einen Stichtag, an dem der Trainingsdatensatz eingefroren wurde. Über Echtzeitdaten bleibt ein RAG-System auf dem Laufenden.
• Belegbare Aussagen: Richtig gepromptet und mit der passenden Datenbank verbunden, gibt ein Modell Quellen und Zitate an. Das erleichtert die interne Prüfung und wirkt nach außen als Vertrauensmarker.
• Mehr Kontrolle über den Output: An der Technik hinter den Sprachmodellen ändert RAG nichts. Der Output aber beruft sich auf Quellen, die die Redaktion selbst ausgesucht hat.
• Assistenz bei Faktencheck und Recherche: Bei journalistischen Inhalten bleibt menschliche Kontrolle unerlässlich. Ein RAG-System kann Material vorsortieren und Rechercheteams eine Richtung geben.
• Neue Produkte und Erlösmodelle: Personalisierte Inhalte, Content-Moderation und Serviceangebote im Kundenservice lassen sich leichter umsetzen. Das KI-Reallabor des KI.M hat zum Beispiel getestet, wie sich Live-Radio-Transkripte als Wissensquelle nutzen lassen.

Was beim Einsatz von RAG zu beachten ist

Auch ein RAG-Verfahren kommt nicht ohne menschliches Zutun aus. Über Aufbau und Anpassung des Systems entscheiden die Teams im Haus. Drei Punkte verdienen besondere Aufmerksamkeit.

• Datenmenge: Wird viel externes Wissen abgerufen, entstehen lange Prompts, die nicht jedes Sprachmodell verarbeiten kann. Je nach Setup sind kleinere Modelle für RAG sogar prädestiniert. Helfen kann auch eine Doppel-LLM-Architektur: Ein großes Modell komprimiert den Prompt, ein kleineres, feinabgestimmtes Modell führt ihn zügig aus.
• Datenschutz: Empfehlenswert ist die Arbeit mit On-Premise-Modellen. So lässt sich verhindern, dass Systeme mit Zugriff auf sensible oder unveröffentlichte Daten Informationen an die Server Dritter weiterleiten. Zugriffsrechte sollten eng gefasst sein und beim eigenen Team liegen.
• Datenrichtigkeit: Die Kontrolle über die Informationen liegt bei den Entwickler:innen. Der Erfolg des Systems hängt damit maßgeblich von der KI-Kompetenz im Haus ab. Stimmt die Grundlage nicht, hilft die beste Architektur nichts. Voraussetzung sind gut geführte Archive und ordentliche Metadaten.

Fazit: Mit RAG KI-Nutzung kontrollierbar machen

RAG-Verfahren bieten Medienhäusern einen pragmatischen Einstieg in die kontrollierte Nutzung generativer KI. Sie verbinden die Leistungsfähigkeit großer Sprachmodelle mit redaktionell kuratierten Datenbeständen und punkten dort, wo klassische Sprachmodelle versagen: bei Halluzinationen und beim fehlenden Zugriff auf aktuelles, firmeneigenes Wissen. Die Implementierung bleibt vergleichsweise kosteneffizient.

Entscheidend ist die Datenqualität. Ein RAG-System ist nur so gut wie die Archive und Metadaten, mit denen es arbeitet. Wer diese Grundlagen schafft und klare Datenschutzregeln etabliert, gewinnt ein belastbares Recherche- und Produktionswerkzeug und legt zugleich die Basis für neue Serviceangebote. 

RAG ist kein Allheilmittel, aber der schnellste Weg zu KI-Outputs, für die eine Redaktion auch geradestehen kann.