Dr. Jeannette Gorzala über die Kennzeichnungspflicht: „Das Label kommt am Ende. Die größten Risiken entstehen am Anfang.“

Das Kennzeichnen von KI-generierten und KI-bearbeiteten Inhalten war bisher eine rein freiwillige Geste. Plattformbetreiber haben teilweise freiwillig und nach eigenen Erwägungen bestimmte KI-Kennzeichnungen eingeführt: Instagram setzt auf „KI-Info”-Hinweise, LinkedIn nutzt Content Credentials, andere Plattformen haben keine vergleichbaren Maßnahmen gesetzt. Damit standen vor allem im digitalen Raum oft KI-Inhalte neben Originalinhalten, ohne dass diese klar unterscheidbar waren. Am 2. August 2026 machte Art. 50 der KI-Verordnung aus der freiwilligen Selbstoffenbarung eine gesetzliche Verpflichtung für all jene, die im beruflichen Kontext KI-Inhalte herstellen.

Die Europäische Union verfolgt damit ein klares Ziel. „Über visuelles Labeling soll das Publikum KI-Inhalte besser einordnen können. Durch die sichtbare Kennzeichnung sollen Irreführungen in Bezug auf Content vermieden werden”, erklärt Dr. Jeannette Gorzala. Im Gesetzgebungsprozess zur KI-VO vertrat sie die europäische KI-Industrie. In der Praxis hat sie wesentlich zur Konkretisierung der praktischen Umsetzung der Transparenz- und Kennzeichnungspflichten beigetragen. 

Warum überhaupt KI-Content kennzeichnen?

Nicht jeder KI-Inhalt muss gekennzeichnet werden. Eines der entscheidenden Kriterien ist die Frage nach der Eignung des Inhalts zur Täuschung über dessen Authentizität oder Wahrhaftigkeit: Wenn sich ein KI-Inhalt dazu eignet, sein Publikum über die Realität zu täuschen, ist er grundsätzlich kennzeichnungspflichtig.

„KI-Anwendungen produzieren mittlerweile derartig qualitativen Content, dass Menschen nicht mehr zwischen künstlichen und originalen Inhalten unterscheiden können”, sagt Gorzala. Frühere verräterische Details, wie anatomische Fehler oder unlogische Schatten, seien fast vollständig verschwunden. Wir können ohne technische Werkzeuge schlicht nicht mehr erkennen, ob ein Inhalt von einem KI-System stammt oder nicht.

Ein KI-generiertes Foto, dass etwa zwei Politikerinnen bei einem fiktiven Gipfeltreffen zeigt. Oder ein KI-Video eines verheerenden Waldbrands, der nie stattgefunden hat. „Diese Beispiele illustrieren besonders gut den Irreführungscharakter von KI-Inhalten, wenn diese alleine für sich stehen, und der KI-Einsatz nicht ausgewiesen ist”, so Gorzala. 

Weiter führt Gorzala aus: „Grundsätzlich spricht jedoch nichts gegen den KI-Einsatz beim Erstellen von Inhalten – ganz im Gegenteil. Es lassen sich mit Unterstützung von KI-Tools auch großartige kreative und künstlerische Projekte umsetzen.” Wesentlich ist jedoch, bei Irreführungseignung auf eine korrekte Kennzeichnung zu achten. 

Vor allem ein Thema für Anbieter: Technisches Watermarking

Neben der visuellen Kennzeichnung gibt es auch eine technische Kennzeichnungspflicht, die vor allem Tool-Anbieter wie OpenAI oder Anthropic betrifft. Alle Inhalte, die mit KI-Anwendungen erstellt oder bearbeitet werden, müssen auch maschinell als solche ausgewiesen werden. Die rein vom Menschen wahrnehmbare visuelle Kennzeichnung reicht in einem stark digital vernetzten Informationsökosystem wie heute nicht mehr aus. Relevant ist das beispielsweise in zwei Szenarien, die Gorzala benennt:

• Model Collapse: Je mehr KI-Inhalte als Trainingsdaten in KI-Modelle zurückfließen, desto schlechter deren Qualität. Langfristig besteht in der Kennzeichnungspflicht sogar eine Chance für die KI-Industrie. Denn nur wenn sie KI-Inhalte von Nicht-KI-Inhalten unterscheiden kann, verhindert sie den Verfall ihrer eigenen Modelle.
• Verfälschte Forschung: KI-Inhalte können auch Forschungsergebnisse beeinflussen. Ein bekannter Fall betrifft KI-generierte Vogelbilder, die Tiere in unrealistischen Szenarien und Habitaten zeigten. Der Rückfluss dieser Bilder in ornithologische Studien führte zu unrichtigen Schlussfolgerungen und Ergebnissen.

Was bedeutet das konkret für Unternehmen?

„Der erste Schritt ist immer der aufwändigste. Was muss ich kennzeichnen? Wie setze ich es um? Wer ist verantwortlich? Sobald die Prinzipien definiert sind, ist es ein minimaler Aufwand”, resümiert Gorzala. 

Die Auseinandersetzung mit der Kennzeichnungspflicht ist für Unternehmen auch eine Möglichkeit, sich kritisch mit dem KI-Einsatz im eigenen Haus zu befassen: Was passiert mit meinen Brand Assets, wie Logos, originale Produktfotographien, wenn sie in ein KI-Tool eingegeben werden? Darf meine Agentur KI-Tools einsetzen, und unter welchen Umständen? Wer diese Themen scheut, muss mit signifikanten Risiken rechnen, insbesondere IP-Probleme und möglichen Haftungsthemen. 

Bestehende KI-Inhalte, die vor dem 2. August 2026 erzeugt wurden müssen nicht rückwirkend gekennzeichnet werden. Die Pflicht gilt nur vorwärtsgerichtet: visuelle Kennzeichnung ab dem 2. August für neu produzierte KI-Inhalte, technische Kennzeichnung mit verlängerter Frist ab dem 2. Dezember 2026. Gorzalas Empfehlung: „Schrittweise auf Content umstellen, der den Kennzeichnungsanforderungen entspricht. Es bietet sich beispielsweise an, bei einer Aktualisierung einer Website oder anderen Marketingmaterialien alte, nicht gekennzeichnete Inhalte auszuscheiden, und sich so am aktuellsten Stand zu präsentieren.”

Vier Fragen, die den Prozess vereinfachen

Auf die Frage nach „goldenen Regeln” gibt Gorzala eine klare Checkliste für Unternehmen:

1. Welche Rolle habe ich? Anbieter (Tool selbst entwickelt) oder Betreiber (bestehende Tools nutzen)? 
2. Welcher Content-Typ? Bild, Video, Audio oder Text? Für audiovisuelle Medien und Text gelten unterschiedliche Regeln.
3. Ist der Content kennzeichnungspflichtig? Hier vor allem Prüfung, ob eine Irreführungseignung des KI-generierten oder KI-bearbeiteten Inhalts vorliegt. 
4. Wie setze ich es um? Muster vom EU AI Office oder eigenes Label entwickeln.

Dazu komme die Inhaltskontrolle vor der Veröffentlichung, um rechtliche und finanzielle Risiken sowie Markenrisiken zu vermeiden. 

Fazit: Ein Label macht KI-Inhalte nicht legitim 

„Das Labeling ist der letzte Schritt im Inhalteerstellungsprozess”, betont Gorzala. Davor liege eine breite Palette an Fragen in den Bereichen Urheberrechte, Datenschutz und Datentransfer sowie Haftungsfragen, die geklärt werden sollten. „Aktuell fokussieren wir uns auf den letzten Schritt im Herstellungsprozess von KI-Inhalten, nämlich das richtige Anbringen des KI-Labels. Das Label kommt am Ende. Die größten Risiken entstehen am Anfang”, gibt Gorzala zu bedenken. Mit ihrem Framework CLEAR hat sie einen Rahmen geschaffen, der Unternehmen ganzheitlich dabei unterstützt, KI-Inhalte rechtssicher und erfolgreich zu erstellen.