Warum Model Freezing für Medien-Workflows wichtig ist

Wenn du schon mal eine redaktionelle Anwendung auf Basis von Modellen wie ChatGPT, Claude oder Gemini gebaut hast, kennst du das Phänomen: Am Montag liefert der Prompt perfekte Zusammenfassungen. Am Donnerstag ist das Ergebnis plötzlich zu kurz, der Tonfall zu salopp oder die Struktur zerschossen. Am Code wurde nichts geändert. Was ist passiert?

Der Anbieter hat im Hintergrund das Modell aktualisiert. Was für Privatanwender:innen meist eine Verbesserung darstellt, ist für automatisierte Medien-Workflows ein Albtraum. Dieser Albtraum hat sogar einen Namen: Model Drift.

Ein Fokus unserer Arbeit beim KI-Kompetenzzentrum Medien (KI.M) ist es, Medienschaffende dabei zu unterstützen, die Kontrolle über generative Künstliche Intelligenz zu erhalten. Ein Schlüsselkonzept ist dabei das sogenannte „Model Freezing“ im operativen Betrieb.

Was bedeutet Model Freezing?

Um mögliche Missverständnisse unter den Techies direkt auszuräumen: Gemeint ist nicht das Einfrieren einzelner Layer (Weights) während des Fine-Tunings oder des Trainings. Es geht um das Einfrieren des Status quo in der Anwendung. 

Statt über eine API (Schnittstelle) auf ein Modell in der Cloud zuzugreifen, das sich unter der Haube ständig verändert, lädst du ein offenes Modell (wie Llama, gpt-oss, QwenLM, Mistral oder Gemma) herunter und betreibst es auf eigener Infrastruktur (On-Premise oder in einer kontrollierten Cloud-Instanz).

Das Modell ist damit „gefreezed“. Es ist eine statische Datei. Es lernt nicht dazu, es vergisst nichts, es verändert sich nicht. Es bleibt Bit für Bit identisch – heute, morgen und in zwei Jahren.

Warum Medienhäuser statische Modelle brauchen

In der redaktionellen Praxis ist „besser“ nicht immer das Ziel. Oft zählt „verlässlich“ mehr, und genau das leisten eingefrorene Modelle. 

Schutz vor der „Safety-Schere“ 

Große Anbieter passen ihre Sicherheitsfilter (Guardrails) permanent an. Gesellschaftlich ist das sinnvoll, für den Journalismus kann es zum Risiko werden. Wer über Kriminalität oder Kriege berichtet, erlebt womöglich, dass eine API den Dienst verweigert, weil das Thema als „unsafe“ markiert wurde. Ein eigenes, lokales Modell arbeitet dagegen weiter wie bisher. 

Kalkulierbare Kosten 

API-Preismodelle sind volatil. Baut ein Anbieter seine Preisstruktur um, explodieren im schlimmsten Fall deine operativen Kosten (OpEx) über Nacht. Beim Betrieb eigener, statischer Modelle verlagerst du die Kosten auf die Hardware (CapEx) und Strom. Diese sind planbar.

Wann ist Model Freezing die richtige Strategie?

Nicht für jedes Projekt lohnt sich der Aufwand, eigene Server zu betreiben. Der folgende Check hilft bei der Entscheidung.

Für den Eigenbetrieb mit eingefrorenem Modell sprechen vor allem zwei Situationen:

• Datenschutz hat Priorität. Personenbezogene Daten oder exklusive Recherchen sollten das Haus nicht verlassen; ein lokales Modell sichert die Datensouveränität.
• Das Anfragevolumen ist hoch. Ab einer gewissen Menge an Anfragen (Tokens) ist der Eigenbetrieb oft günstiger als laufende API-Gebühren.

Bei einer API solltest du dagegen bleiben, wenn du State-of-the-Art brauchst: Für sprachlich und logisch besonders anspruchsvolle Aufgaben sind die Spitzenmodelle (Frontier Models) der großen Anbieter offenen Modellen zum Eigenbetrieb derzeit noch überlegen. 

Fazit: Langeweile ist gut

In der IT-Infrastruktur von Medienhäusern ist Langeweile ein Qualitätsmerkmal. Niemand will Überraschungen im Redaktionssystem, schon gar nicht mitten in der Produktion. 

Model Freezing ist oft der Schritt vom Experimentieren zum Produzieren. Es bedeutet, Verantwortung für den Tech-Stack zu übernehmen. Ja, du musst dich um Hardware (oder entsprechende Cloud-GPUs) kümmern. Ja, du musst Modell-Updates selbst einspielen, wenn du es willst, nicht wenn der Anbieter es will. Aber der Lohn ist ein System, das dir gehört und das genau das tut, was es soll. Nicht mehr und nicht weniger.