Warum bald fast jedes KI-Bild als Deepfake gekennzeichnet werden muss

Wir erleben derzeit eine regulatorische Zeitenwende im digitalen Medienrecht. Mit dem am 8. Mai 2026 vorgelegten Entwurf der Leitlinien zur Umsetzung der Transparenzpflichten nach Artikel 50 der europäischen KI-Verordnung (KI-VO) schafft die Europäische Kommission die ersten konkreten Fakten für die Praxis. Bislang herrschte in vielen Branchen Unklarheit darüber, welche KI-generierten Inhalte tatsächlich rechtlich als „Deepfake“ eingestuft werden und wer die Kennzeichnungspflichten zu tragen hat. Der neue Leitlinien-Entwurf stellt unmissverständlich klar, dass der Anwenderkreis riesig ist und die Ausnahmen eng gefasst sind. Für Unternehmen, Medienschaffende und Agenturen bedeutet dies akuten Handlungsbedarf, da Verstöße gegen die Transparenzvorgaben immense finanzielle Risiken bergen (EU-Kommission, Entwurf der Leitlinien zu Art. 50 KI-VO v. 08.05.2026).

Strengere Spielregeln für die berufliche KI-Nutzung

Die gesetzliche Pflicht zur Kennzeichnung trifft nach Artikel 50 Absatz 4 KI-VO die sogenannten „Betreiber“ von KI-Systemen. Wir weisen in unserer Beratungspraxis regelmäßig darauf hin, dass dieser Begriff im Sinne der Verordnung extrem weit verstanden werden muss: Betreiber ist jede natürliche oder juristische Person, die ein KI-System in eigener beruflicher Verantwortung verwendet. Damit geht die Pflicht weit über die eigentlichen Entwickler oder Anbieter der Software hinaus.

In der täglichen Praxis sind davon fast alle modernen Berufszweige betroffen, die digitale Medien produzieren. Redaktionen, die KI in der Bildbearbeitung oder Audioproduktion nutzen, sowie Filmproduktionen, die De-Aging-Effekte oder digitale Doubles einsetzen, stehen hierbei in vorderster Reihe. Ebenso erfasst sind Gameentwickler sowie Influencer, die mit virtuellen Avataren oder eigenen KI-Klonen arbeiten. Auch Werbeagenturen, die fotorealistische Visuals oder synthetische Testimonials erstellen, müssen die neuen Regeln zwingend beachten. Hinzu kommen Verlage mit KI-vertonten Hörbüchern oder Unternehmen, die KI-Stimmen für interne und externe Schulungen oder Synchronisationen verwenden.

Die weite Definition des Deepfake-Begriffs

Viele Marktteilnehmer hofften bis zuletzt, dass sich die Kennzeichnungspflicht auf offensichtliche Fälschungen real existierender Personen – wie die bekannten Deepfakes von Politikern oder Prominenten – beschränken würde. Diese Hoffnung hat die EU-Kommission mit dem aktuellen Entwurf zunichte gemacht. Die KI-VO definiert einen Deepfake als KI-erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Die Kommission legt dies extrem weit aus: Erfasst sind demnach alle Inhalte, die etwas zeigen, das in der realen Welt so existieren könnte. Ein fotorealistisch generiertes, jedoch frei erfundenes menschliches Gesicht oder ein synthetisches Model fällt somit unter die Kennzeichnungspflicht, obwohl kein realer Mensch nachgebildet wurde. Eine Ausnahme gilt laut Kommission nur für offensichtlich unrealistische Darstellungen. Als plastische Beispiele nennt der Entwurf eine Sphinx, die mit ausgebreiteten Schwingen über den Eiffelturm fliegt, oder ein Video von Mäusen, die in menschlicher Sprache über Käsesorten streiten. Solche Inhalte sind für den Betrachter sofort als Fiktion erkennbar und bedürfen keiner Deepfake-Markierung. Demgegenüber geben die Leitlinien für die klassische, geringfügige Bildbearbeitung mittels KI Entwarnung: Technische Anpassungen wie Licht- und Farbkorrekturen verändern die wahrgenommene Authentizität des Bildes in der Regel nicht und bleiben kennzeichnungsfrei.

Journalismus, Marketing und die Kunst im Visier

Wir sehen in dem Entwurf eine deutliche Differenzierung je nach Einsatzzweck. Dreh- und Angelpunkt der Regulierung ist die Frage, ob die KI-Bearbeitung die Wahrnehmung des Betrachters hinsichtlich der Echtheit des Inhalts berührt. Deshalb müssen journalistische Medien im Zweifel weitaus mehr kennzeichnen als Akteure in der Werbung oder der bildenden Kunst. Bei journalistischen Aufnahmen löst fast jede inhaltsverändernde KI-Nutzung eine Kennzeichnungspflicht aus.

Für „offensichtlich künstlerische, kreative, satirische oder fiktionale“ Werke sieht die KI-VO zwar eine formelle Erleichterung vor: Die Erzeugung oder Manipulation muss zwar offengelegt werden, allerdings darf dies so geschehen, dass der Genuss oder die Darstellung des Werks nicht beeinträchtigt wird – etwa durch eine dezente Platzierung im Abspann oder in den Metadaten. Filme und Videospiele profitieren sicher von dieser Privilegierung. Bei Mischformen, wie besonders aufwendig und kreativ gestalteten Werbespots, entscheidet laut Kommission jedoch stets der Einzelfall. Wichtig ist: Inhalte, die primär erkennbar informativen oder kommerziellen Zwecken dienen, sind von dieser Erleichterung ausdrücklich ausgeschlossen.

Eine weitere wichtige Neuerung betrifft KI-generierte Texte. Diese sind zwar per Definition keine Deepfakes, unterliegen aber einer eigenen Transparenzpflicht, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Das betrifft Themen von gesellschaftlicher Relevanz wie Verbraucherschutz, Gesundheit, Umwelt oder Politik. Eine Kennzeichnungspflicht für solche Texte entfällt nur dann, wenn der Text einer echten, tiefgehenden menschlichen Überprüfung und redaktionellen Kontrolle unterzogen wurde. Wir warnen ausdrücklich davor, diese Ausnahme auf die leichte Schulter zu nehmen: Eine bloße Rechtschreibprüfung oder ein flüchtiges Drüberschauen reichen laut EU-Kommission keineswegs aus. Es ist eine echte inhaltliche Auseinandersetzung durch eine verantwortliche Person erforderlich.

Drastische Bußgelder und konkrete Umsetzungsvorgaben

Wer die neuen Vorgaben ignoriert, dem drohen drakonische Konsequenzen. Bei Verstößen gegen die Kennzeichnungspflichten sieht die KI-VO Bußgelder von bis zu 15 Millionen Euro oder bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor – je nachdem, welcher Betrag höher ist. Zudem drohen massive wettbewerbsrechtliche Risiken. Die Wettbewerbszentrale hat bereits in ihrem Leitfaden angekündigt, Verstöße gegen die Transparenzpflichten aus Art. 50 KI-VO als unlauteres Marktverhalten gerichtlich zu verfolgen.

Wie die Kennzeichnung konkret auszusehen hat, erarbeitet das KI-Amt der EU (AI Office) derzeit in einem sogenannten „Code of Practice“. Der Entwurf sieht präzise Vorgaben vor: Bilder benötigen ein prominent platziertes, unverwechselbares Kennzeichnungs-Icon. Bei Echtzeit-Videos (wie Deepfake-Livestreams) muss ein dauerhaft sichtbares Icon oder ein akustischer sowie visueller Disclaimer zu Beginn und in regelmäßigen Abständen eingebunden werden. Bei Audioinhalten unter 30 Sekunden reicht ein Hinweis zu Beginn, bei längeren Tonspuren muss dieser regelmäßig wiederholt werden. Die finale Fassung der Leitlinien wird im Sommer erwartet, pünktlich vor dem Inkrafttreten der Durchsetzungskompetenzen ab dem 2. Dezember 2026.

Wir unterstützen Sie bei der rechtssicheren KI-Compliance

Die neuen Transparenzpflichten erfordern von Unternehmen eine sofortige Überprüfung ihrer internen Workflows beim Einsatz generativer KI. Da Studien zeigen, dass als KI-generiert gekennzeichnete Inhalte vom Verbraucher im Marketing oft schlechter bewertet werden, stehen Unternehmen vor einer strategischen und rechtlichen Gratwanderung. Wir unterstützen Sie umfassend dabei, Ihre Medienproduktion rechtssicher zu gestalten, Haftungsrisiken zu minimieren und maßgeschneiderte Compliance-Prozesse für den Einsatz von KI-Systemen in Ihrem Unternehmen zu etablieren. Melden Sie sich jederzeit bei uns für eine fundierte und kompetente Beratung im IT- und Medienrecht – wir stehen Ihnen als verlässlicher Partner zur Seite.

hekem