Inhaltetransparenz in Redaktionen: Neues zur KI-Kennzeichnungspflicht nach der EU-KI-Verordnung

Dr. Jeannette Gorzala, Rechtsanwältin und CEO der Beratung ACT AI NOW, erklärte im Webinar am 15. Oktober 2026, wie die Regeln praxisnah umgesetzt werden können, und warum ausgerechnet der Audiobereich vor den größten Herausforderungen steht.

Visuelle Hinweise auf den Einsatz von Künstlicher Intelligenz lassen sich in Bildern oder Videos sehr unkompliziert einbauen. Im Radio oder bei Podcasts fehlt diese Bildebene naturgemäß. Akustische Ausweichlösungen sind also gefragt. 

Die Audio-Herausforderung

Ein gesprochener Warnhinweis vor jedem KI-generierten Werbespot oder Moderations-Take kostet wertvolle Sendezeit und kann den redaktionellen Fluss stören.

Nichtsdestotrotz besteht bei geklonten oder sehr realistischen synthetischen Stimmen das Potenzial zur Irreführung, da Zuhörer:innen das synthetische Stimmen-Double mit echten Menschen verwechseln könnten. Ein klarer Fall also für die KI-Kennzeichnungspflicht gemäß KI-VO. Auch bei komplett generisch gemixten KI-Stimmen rät Dr. Jeannette Gorzala aktuell zur Ausweisung, sofern diese sehr menschlich klingen. Grund hierfür ist auch in diesem Fall die Gefahr der Irreführung. Ausnahmen gelten nur für Stimmen, die hörbar maschinell, also beispielsweise abgehackt oder metallisch, klingen oder durch imperfekte Betonung bzw. Aussprache erkennbar sind.

Da Werbeblöcke im Radio gruppiert werden und unterschiedliche Formate – Inhalte mit und ohne KI-Elemente – enthalten, ist aktuell sehr zweifelhaft, ob ein pauschaler KI-Hinweis am Anfang und Ende jedes Werbeblocks ausreichend ist. Eine weitere Komplexität ist, dass Zuhörer:innen jederzeit, und damit auch mitten in Programmen, einschalten können. Die Leitlinien weisen darauf hin, dass auf derartige Umstände bei der Kennzeichnung bedacht zu nehmen ist. Gorzala empfiehlt allgemein, KI-Hinweise elegant und kreativ in das Programm einzubauen (etwa: „Unser KI-Moderator...“,„Der KI-Verkehrsbericht...“ ) und langfristig auf sogenannte „Earcons“ – also auf etablierte akustische Signale wie sie beispielsweise von den Eurovision-Tönen bekannt sind – zu setzen. Damit Earcons als Mittel der KI-Kennzeichnung akzeptiert werden, müssen diese mit Begleitmaßnahmen, insbesondere der Aufklärung des Publikums, eingeführt werden.

In der Praxis führt das zu einem Dilemma: Denn die Rechtsprechung ist kurz nach Inkrafttreten der Kennzeichnungspflicht noch nicht eindeutig. Konventionen, auf die sich Anbieter und Publikum verständigt haben, fehlen bislang.

Chatbots und Avatare: Interaktionstransparenz ab dem Erstkontakt

Die KI-VO regelt auch, wie der direkte Kontakt zwischen einem KI-einsetzenden Medienhaus und Rezipient:innen auszusehen hat. Nutzer:innen müssen stets wissen, ob sie mit einer Maschine oder einem Menschen kommunizieren, denn Medienhäuser setzen zunehmend auf KI-Assistenz, Chatbots oder digitale Avatare im Kundenservice und der Content-Distribution. Hier verlangt das Gesetz eine zeitnahe Aufklärung, die spätestens beim Erstkontakt erfolgen muss. Versteckte Hinweise im Impressum oder unklare Abkürzungen am Ende eines Dialogs reichen dabei nicht aus. Eine Ausnahme besteht lediglich dann, wenn der KI-Einsatz aus dem Kontext klar wird. „Dort, wo klar ist, dass Menschen mit einem KI-System interagieren, muss natürlich kein zusätzlicher Hinweis angebracht werden“, erklärt Gorzala.

Wann generierte Inhalte als Deepfake gelten

Eine weitere Säule der Transparenzvorgaben betrifft Deepfakes. Der rechtliche Begriff greift hier weiter als im allgemeinen Sprachgebrauch: Eine bewusste Täuschungsabsicht ist rechtlich gesehen nicht erforderlich. Entscheidend ist allein, ob der Inhalt objektiv dazu geeignet ist, das Publikum über seine Authentizität oder Wahrhaftigkeit zu täuschen. Die KI-VO zielt dabei auf KI-Inhalte ab, die realen Bezugsobjekten (Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen) ähneln.

Redaktionen müssen solche Inhalte mit visuellen Hinweisen versehen, zum Beispiel mit standardisierten „AI“-Icons oder klaren Text-Labeln wie „KI-generiert“ oder „KI-bearbeitet“. Vor allem bei fotorealistischen Symbolbildern – etwa ein KI-generiertes Symbolbild für einen Verkehrsunfall – empfiehlt die Juristin, das Bild mit dem AI Icon zu kennzeichnen. Ohne Hinweis könnte das Publikum nämlich annehmen, dass das KI-Symbolbild ein tatsächliches Bild vom Unfallort ist, über den berichtet wird. Ungekennzeichnete KI-Bilder in der Berichterstattung über die Sturzflut in Nepal unterstreichen die Wichtigkeit einer klaren Kennzeichnung und damit die Unterscheidung zwischen Wirklichkeit und KI-Illustration. Diverse ungekennzeichnete KI-Bilder zirkulierten in europäischen Medien und erweckten einen falschen Eindruck der Auswirkungen und Betroffenheit durch die Sturzflut in Nepal.

Auch die Werbeindustrie muss die Regelungen für verpflichtende KI-Kennzeichnung beachten. Zwar müssen fantastische, offensichtlich irreale Motive (wie sprechende Möbel oder Fabelwesen) nicht markiert werden, da in diesen Fällen kein Irreführungspotenzial besteht, doch sobald ein Produkt oder eine Dienstleistung realitätsnah dargestellt werden, sind Kennzeichnungspflichten zu prüfen und gegebenenfalls umzusetzen.

Warum ein Human-Content-Siegel das Problem nur verschiebt

Um den Aufwand des Labellings und den schlechten Ruf KI-generierter Inhalte zu umgehen, wird in der Branche oft die Idee diskutiert, rein menschlich erstellte Inhalte mit einem „Human-Content-Siegel“ zu markieren. Das kann als ergänzendes Qualitätsmerkmal und Zwecken der Positionierung natürlich überlegt werden – die regulatorische Kennzeichnungspflicht wird damit jedoch nicht erfüllt. 

Gorzala beschreibt zudem, wieso ein solches Siegel als ausschließliches Instrument mit weiteren bedeutenden Schwächen verbunden wäre. Zum einen wird der Nachweis rein menschlicher Arbeit durch die tiefe Integration von generativen Funktionen in Standard-Software immer aufwendiger, bis fast unmöglich. In der Praxis ist der Einsatz oft kaum noch nachverfolgbar, weil die Technik in unsere alltäglichsten Gegenstände implementiert ist.

Zum anderen droht ein massives Reputationsrisiko. „Das Problem eines Human-Content-Siegels wäre auch, dass es den Umkehrschluss erzeugt, dass nicht gekennzeichneter Inhalt weniger vertrauenswürdig sei“, warnt Gorzala. Tausende ungelabelte (Archiv)-Inhalte stünden plötzlich unter Generalverdacht. Rückwirkend alle Inhalte zu sortieren und entsprechend des Human-Content-Ansatzes korrekt zu kennzeichnen, wäre sehr aufwändig und würde am Umfang des digitalen Medienraums scheitern. 

Fazit: Praxis mitgestalten und Vertrauen bewahren 

Die direkte Umsetzung der KI-VO verlangt von Medienunternehmen, ihre bestehenden Workflows bei der Content-Erstellung zügig rechtlich abzusichern und klare Kennzeichnungsprozesse zu etablieren. Wer verbindliche interne Richtlinien für den Einsatz von generativen Tools und deren Ausweisung schafft, schützt die eigene redaktionelle Glaubwürdigkeit und vermeidet rechtliche Risiken.

Gerade im Audiobereich zeigt diese Bestandsaufnahme: Regulatorische Anforderungen mit einer zugleich hörerfreundlichen Umsetzung für alle Gruppen von KI-Audioinhalten in Einklang zu bringen, ist aktuell noch eine Herausforderung. Earcons als akustisches Hinweissignal sind hier eine Chance, deren Umsetzung von einer Zusammenarbeit der Branche abhängt.

Die Kennzeichnungspflicht ist mit rund drei Monaten Anwendbarkeit noch relativ neu, die praktische Umsetzung und Auslegung entsteht gerade erst. Trotz der Bewegung im Feld ist für Medienunternehmen ein Punkt klar: Sie dürfen dieses Thema nicht ignorieren. Vielmehr gilt es gerade jetzt zu Beginn, wo sich die Praxis etabliert und das Publikum neu orientiert, das Vertrauen der Leser:innen und Zuhörer:innen nachhaltig durch vertrauenswürdige Praktiken zu gewinnen. Ein rechtmäßiger und transparenter Umgang mit KI-Anwendungen, in Ergänzung zu den hohen Standards der regulierten Medienpraxis, ist ein starkes Differenzierungsmerkmal in einem zunehmend mit KI-Inhalten bespielten Informationsökosystem.