Deepfakes: Darf ich das? Und sollte ich?

Willkommen in der Realität von Deepfakes. Diese von KI erzeugten oder manipulierten Inhalte ähneln echten Personen, Orten oder Ereignissen so täuschend, dass sie als authentisch wahrgenommen werden (Art. 3 Nr. 60 KI-VO). Für Medienschaffende bedeutet das eine neue Dimension der Quellenkritik: Nicht nur die Glaubwürdigkeit von Informant:innen steht auf dem Prüfstand, sondern auch die Echtheit von Videos und Audioaufnahmen selbst.

Ein hypothetisches Szenario könnte folgendermaßen aussehen: Eine Lokalzeitung berichtet über ein angeblich geleaktes Interview mit einer bekannten Politikerin. Das Voice Cloning war so überzeugend, dass niemand Zweifel an der Echtheit des Interviews hatte. Der Artikel geht viral, wird tausendfach geteilt. Und später muss er widerrufen werden. Vertrauen verspielt, Schaden angerichtet.

Dabei eröffnet die Technologie durchaus spannende Möglichkeiten. Dein Avatar könnte augenscheinlich direkt vom Einsatzort berichten, ohne dass du jemals dort warst. Für eine Reportage über historische Ereignisse könntest du nie gedrehtes Filmmaterial erstellen: Interviews mit Zeitzeug:inen oder Einsatzkräften, die so nie stattgefunden haben.

Aber wie weit willst du dabei gehen? Willst du dazu beitragen, dass die Grenzen zwischen Fiktion und Realität weiter verschwimmen? Was darf seriöser Journalismus und was nicht?

Auch wir können dir keine pauschale Antwort auf ethisch komplexe Fragen wie diese geben, aber wir können dir mögliche Handlungsfelder aufzeigen:

Tipps & Tricks für die Praxis

• Redaktionsstandards etablieren: Definiere klare Regeln, wann und wie KI in deiner Redaktion eingesetzt wird. Ohne interne Leitplanken entstehen Grauzonen, die später zu Problemen führen.
• Visuelle Inhalte kritisch prüfen: Auch scheinbar authentische Videos können gefälscht sein. Spezialisierte Erkennungstools nach dem Prinzip „KI prüft KI“ werden immer ausgefeilter. Mach dich damit vertraut.
• Eigene KI-Inhalte transparent kennzeichnen: Seit dem 2. August 2026 ist die Kennzeichnung nach der KI-Verordnung der Europäischen Union in bestimmten Fällen Pflicht: Deepfakes gehören dazu (Art. 50 KI-VO). Für die Umsetzung stellt die EU-Kommission seit Juni 2026 offizielle Icons bereit. Transparenz schafft jedoch schon heute Vertrauen und sollte zu redaktionellen Standards gehören.
• Schule dein Team: Technisches Verständnis kann vor Täuschung schützen. Wer Deepfakes erkennt und versteht, fällt schwerer darauf herein. Investiere in Medienkompetenz.
• Eigene Inhalte schützen: Überlege, wie du Videos vor Manipulation bewahren kannst. Digitale Wasserzeichen oder Content Credentials der Content Authenticity Initiative sind erste Schritte.
• Kreativ, aber verantwortungsvoll nutzen: Deepfakes können in Bildung oder historischen Rekonstruktionen wertvoll sein, wenn sie ethisch eingesetzt und klar als solche kommuniziert werden.

Rechtliche Hintergründe und Risiken

Die KI-VO definiert Deepfakes präzise als durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die „wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden“ (Art. 3 Nr. 60 KI-VO). Auf eine Täuschungsabsicht kommt es dabei nicht an. Nach den Leitlinien der EU-Kommission greift die Pflicht auch dann, wenn niemand getäuscht werden soll und nicht einmal eine reale Person dargestellt wird. 

Entscheidend ist allein, dass der Inhalt echt wirken könnte.

Technisch funktionieren Deepfakes über generative KI-Modelle, die aus großen Datenmengen lernen, wie ein Gesicht oder eine Stimme typischerweise aussieht oder klingt. Diese Modelle erzeugen dann neue Inhalte, die so wirken, als wären sie authentisch. Die Verfahren reichen von Bild-zu-Bild-Verwandlungen über Sprachsynthetisierung bis hin zu vollständigen Video-Manipulationen. Entscheidend ist: Die Grenzen zwischen Realität und Fiktion verschwimmen für Betrachtende vollständig.

Medienhäuser experimentieren bereits mit diesen Möglichkeiten. In einem Dokumentarformat könnte ein Historiker ein Interview mit John F. Kennedy führen, das auf echten, belegbaren Zitaten basiert, aber vollständig KI-generiert ist. Solche Anwendungen können Archivmaterial zum Leben erwecken und komplexe historische Zusammenhänge veranschaulichen. Genau hier aber liegt die juristische Herausforderung: Wo verläuft die Grenze zwischen legitimer kreativer Nutzung und problematischer Täuschung?

Die Leitlinien der EU-Kommission geben darauf inzwischen zumindest teilweise eine Antwort: Digitale Repliken realer (auch verstorbener) Personen, De-Aging und vollständig KI-generierte Darsteller sind regelmäßig Deepfakes. Als Teil eines erkennbar künstlerischen oder fiktionalen Werks profitieren sie aber von der abgeschwächten Offenlegung. KI-generierte Hintergründe, Spezialeffekte und übliche technische Nachbearbeitung fallen dagegen in der Regel gar nicht darunter.

Transparenzpflicht nach KI-Verordnung

Art. 50 Abs. 4 KI-VO verlangt grundsätzlich die Kennzeichnung von Deepfake-Inhalten. Die Vorschrift gilt seit dem 2. August 2026. Die Regelung ist jedoch differenziert: Ausnahmen gelten bei „offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werken oder Programmen“. Hier beschränkt sich die Transparenzpflicht darauf, „das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt“.

Die praktische Umsetzung galt lange als offene Flanke. Inzwischen hat die EU-Kommission ihre finalen Leitlinien zu Art. 50 KI-VO veröffentlicht. Zur Frage des „Wie“ der Umsetzung der Kennzeichnungspflichten gibt es den Verhaltenskodex, dem man sich auf freiwilliger Basis unterwerfen kann. 

Die wichtigste Klarstellung für Redaktionen betrifft Form und Zeitpunkt: Der Hinweis muss klar und unterscheidbar sein und spätestens beim ersten Kontakt mit dem Inhalt erscheinen. Ein Vermerk im Impressum, unter einer Menüebene oder erst im Abspann genügt nicht. Die Kennzeichnung gehört an oder in den Inhalt selbst. Eine rein technische, unsichtbare Markierung in den Metadaten reicht bei Deepfakes ebenfalls nicht aus.

Auch die Frage, wen die Pflicht trifft, ist präzisiert. Sie richtet sich an den Betreiber, der das KI-System zur Erzeugung oder Manipulation in eigener Verantwortung in einem beruflichen Kontext einsetzt. Für bereits veröffentlichte, ungekennzeichnete Deepfakes werden Betreiber nach den Leitlinien nur ermutigt, nachzukennzeichnen. Verpflichtet sind sie dazu nicht. Der Aufwand wäre wohl meist unverhältnismäßig hoch. 

Verstöße gegen Art. 50 KI-VO können nach Art. 99 KI-VO mit Geldbußen bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes geahndet werden.

Weitere Rechtsbereiche im Überblick

Aus juristischer Perspektive ist allerdings nicht nur die KI-VO entscheidend.

Persönlichkeitsrecht und Recht am eigenen Bild 

Deepfakes greifen massiv in Persönlichkeitsrechte ein. Wer Stimmen oder Gesichter ohne ausdrückliche Zustimmung der betroffenen Person nutzt, riskiert nicht nur zivilrechtliche Klagen auf Unterlassung und Schadensersatz, sondern kann auch strafrechtlich belangt werden. Besonders problematisch wird es, wenn Deepfakes Personen in kompromittierenden oder rufschädigenden Situationen zeigen. 

Für einen Teil dieser Fälle zieht die KI-Verordnung ab dem 2. Dezember 2026 eine harte Grenze: Dann ist es durch die „Digitale-Omnibus-Verordnung zur KI“, einem Änderungspaket zur KI-VO, ausdrücklich verboten, mit KI sogenannte „Nudifications“, also realistische Darstellungen intimer Körperteile oder sexueller Handlungen einer bestimmbaren Person ohne deren Zustimmung zu erzeugen (Art. 5 Abs. 1 lit. ba KI-VO).

Urheberrecht

Basieren Deepfakes auf geschützten Originalbildern, Videos oder Tonaufnahmen, entstehen schnell Urheberrechtsverletzungen. Aber nicht nur die Nutzung fremder Werke steht im Fokus, sondern auch die Frage, wem die Rechte an KI-generierten Inhalten zustehen.

Strafrecht: 

Manipulierte Aussagen können verschiedene Straftatbestände erfüllen: von Verleumdung und übler Nachrede bis hin zum Betrug. Besonders brisant wird es, wenn Deepfakes in Gerichtsverfahren als vermeintliche Beweise eingesetzt werden. Ein eigener Deepfake-Tatbestand fehlt bislang. 

Das Bundesjustizministerium hat im April 2026 den Referentenentwurf eines Gesetzes gegen digitale Gewalt vorgelegt: Ein neuer § 201b StGB soll das unbefugte Zugänglichmachen ansehensschädigender Deepfakes erfassen, ein erweiterter § 184k StGB sexualisierte Deepfakes. Stand August 2026 ist das Gesetz noch im Verfahren.

Medienrecht

Der Medienstaatsvertrag  verpflichtet Medienanbieter zur Einhaltung journalistischer Grundsätze auch beim Einsatz virtueller Elemente. Berichterstattung und Informationssendungen müssen unabhängig und sachlich sein. Nachrichten sind vor ihrer Verbreitung mit der nach den Umständen gebotenen Sorgfalt auf Wahrheit und Herkunft zu prüfen (§ 6 MStV; siehe auch § 19 MStV für Telemedien).

Medienpolitische Dimension

Aus medienpolitischer Sicht sind Deepfakes ein zweischneidiges Schwert. Einerseits können sie das Vertrauen in Medien fundamental erschüttern und demokratische Meinungsbildungsprozesse gefährden. Falsche Wahlinformationen, gefakte Politiker-Statements oder diffamierende Clips von Kandidaten können Wahlkämpfe manipulieren und das Vertrauen in demokratische Institutionen untergraben. Der sogenannte „Liar’s Dividend“, also die Möglichkeit, echte aber unbequeme Inhalte als Deepfakes zu diskreditieren, verstärkt dieses Problem zusätzlich.

Andererseits eröffnen Deepfakes neue Möglichkeiten für kreative Formate, inklusive Kommunikation und politische Bildung. Historische Persönlichkeiten können „wiederauferstehen“, um komplexe Zusammenhänge zu erklären, oder Inhalte können barrierefrei in Gebärdensprache übersetzt werden. Entscheidend ist die transparente und verantwortungsvolle Verwendung.