KI, „Deepfakes“ und Face-Swap-Apps können Personen imitieren

Im Internet gibt es eine Vielzahl an Foren, in denen man sich zur Aufgabe macht, die Gesichter anderer möglichst realistisch auf bloßstellendes Material zu montieren – etwa Nackt- oder Erotikbilder, aber vor allem auch Hardcore-Pornos. Und das, ohne dass sie sich jemals so vor einer Kamera gezeigt hätten. Insbesondere mit den neuen Möglichkeiten von Künstlicher Intelligenz erlauben es viele beliebte Smartphone-Apps, mit nur wenigen Schritten jedes beliebige Gesicht in Videoaufnahmen zu montieren. Die Ergebnisse werden durch sogenanntes Machine-Learning immer besser und können in der Regel kaum mehr vom Original unterschieden werden. Aus einem einfachen Profilfoto werde so schnell ein kurzer Videoclip mit dem Gesicht der betreffenden Person. Die Beratungsstelle für Opfer von digitaler Gewalt verweist auf Studien, denen zufolge rund 90 bis 95 Prozent aller Deepfakes nicht-einvernehmliche Pornografie betreffen. Etwa 90 Prozent davon sei gegen Frauen gerichtet.

Deepfakes gibt es aber längst nicht mehr nur bei Rache-Pornos, denn der Fantasie der Einsatzmöglichkeiten von KI bei der Imitation von Gesichtern und Stimmen sind quasi keine Grenzen gesetzt. Stalking, digitales Mobbing, Verleumdung oder andere Hass-Taten gelingen leider viel zu leicht mit der neuen Technologie. Doch wie ist die Rechtslage bei diesen Deepfakes?

Was sind Deepfakes?

Moderne Algorithmen machen es möglich: Millionen von Klicks fahren dabei vor allem die Videos ein, die mit fortgeschrittenen KI-Algorithmen erstellt werden, die sog. „Deepfakes“. Der Prozess nennt sich „maschinelles Lernen“. Dafür wird eine große Menge an Trainingsdaten gesammelt, in denen das Gesicht gut zu erkennen ist. Etwa Szenen mit bestimmten Filmstars, oder Aufzeichnungen von bekannten Streamerinnen oder YouTuberinnen. Diese werden dann analysiert, bis die KI quasi eine Vorstellung von den Gesichtern Details bekommt, und können dann so auf das Zielmaterial kopiert werden, dass jeder Gesichtszug des Originals gleichbleibt – dafür aber mit einem anderen Gesicht. Und das kann alles sein, von Playboy-Bildern bis hin zu Internet-Pornos.

Etwas weniger realistisch, aber dafür viel einfacher, sind Face-Swap-Apps, die sich inzwischen jeder aufs Handy laden kann. Eine schnelle Suche nach „Face Swap“ in Googles Play Store förderte 30 Anwendungen zutage. Die beiden beliebtesten Apps – Reface und FaceApp – wurden allein jeweils mehr als 100 Millionen Mal heruntergeladen. Teilweise reicht da ein Click und ein bisschen Tüftelei, um ähnlich realistische Ergebnisse wie bei Deepfakes zu kriegen. Mit Face-Swap-Apps lassen sich Film- und Videoszenen derart manipulieren, dass der Kopf einer Person auf den Körper einer Figur oder eines Darstellers in einem Film montiert oder auch ein ganzes Filmset virtuell nachgebaut werden kann.

Auch fremde Stimmen – wie etwa die von Fernsehstars – zu imitieren, ist heute kein Problem mehr – hat aber schon zu rechtlichen Problemen geführt.

Diese Dinge waren auch früher schon möglich, jedoch recht aufwendig und optisch recht einfach als „Fake“ auszumachen. Mittlerweile ist jedoch ein Algorithmus entwickelt worden, der mit Hilfe von künstlicher Intelligenz und sogenanntem Machine-Learning – wobei der Algorithmus besser wird, je öfter er abgewandt wird – täuschend echt zum Beispiel Gesichter anderer Menschen auf die der Darsteller projiziert. Dadurch eröffnen sich auch für streitsüchtige Ex-Partner nun ganz neue Möglichkeiten: Selbst wenn man zur Zeit der Beziehung nie sein Sexleben per Videokamera mitgeschnitten hat, kann man nachträglich trotzdem einen fremden Porno so modifizieren, dass auf einmal der (nun) ungeliebte Ex-Partner mitspielt.

Verletzung des Persönlichkeitsrechts und der DSGVO

Personen, die in Deepfakes imitiert werden, werden zunächst in ihrem allgemeinen Persönlichkeitsrecht verletzt. Das Allgemeine Persönlichkeitsrecht ist ein durch Art. 2 Abs. 1 i.V.m. 1 Abs. 1 Grundgesetz geschütztes Grundrecht. Eine Montage in einem Porno wäre schwere Verletzung der persönlichen Ehre und betrifft sogar die sog. Intimsphäre, also den absolut geschützten Kern des Persönlichkeitsrechts, wenn durch diese Abbildung bzw. Bearbeitung eine fehlerhafte oder herabwürdigende Darstellung des Betroffenen entsteht. Hierzu hat der Bundesgerichtshof nach einem Beschluss des Bundesverfassungsgerichts auch geurteilt: Eine unrichtige (weil verfälschte) Information dient überhaupt nicht der Meinungsbildung und unterliegt dieser daher nicht. Der Eingriff in die Intimsphäre der Betroffenen sei daher auch nicht durch die „künstlerische Neuschöpfung“ oder eine Nutzung im Pressekontext von den jeweiligen Grundrechten gerechtfertigt. Eine Verletzung des Persönlichkeitsrechts kann zu verschiedenen zivilrechtlichen Ansprüchen führen – auf Löschung, Unterlassung, Schadensersatz und Schmerzensgeld (Dazu später mehr).

Die Montage fremder Gesichter ist sogar noch ein speziellen Vorschriften geregelt: Einmal im Kunsturhebergesetz, welches in §§ 22, 23 KUG das sog. Recht am eigenen Bild schützt. Außerdem ist die Datenschutzgrundverordnung (DSGVO) einschlägig – die gilt darüber hinaus nicht nur für Bilder und Videos, sondern auch etwa für die Imitation einer fremden Stimme. Beides sind personenbezogene Daten nach DSGVO. Und das systematische Speichern für die Deepfakes oder schon das Benutzen für ein Face Swap bzw. Deepfake sind eine – im Zweifel rechtswidrige – Verarbeitung. Denn eingewilligt hat die Person sicher nicht. Damit ist das Deepfaken meist eine Verletzung des Datenschutzrechts. Auch hier bestehen u.a. Ansprüche von Betroffenen, insbesondere auf Schadensersatz nach Art. 82 DSGVO.

Strafbarkeit von Deepfakes

Eine Strafbarkeit ergibt sich daher zunächst aus dem Bundesdatenschutzgesetz nach § 42 BDSG. Hier droht eine Geldstrafe oder Haftstrafe bis zu 2 Jahren, wenn man bei der Datenverarbeitung die „Absicht“ hat, einen anderen zu schädigen. Gerade bei Rachepornos von Ex-Freunden wird das der Fall sein.

Strafrechtlich kann man außerdem den Ersteller solcher Fake-Pornos wegen Beleidigung, Verleumdung oder übler Nachrede (§§ 185 – 187 Strafgesetzbuch, StGB) anzeigen. Da die Darstellung der Person in kompromittierenden, sexuellen Positionen in der Regel ihre Würde berührt und das Einsetzen per Deepfake eine Missachtung der Person selbst darstellt, kommt die Beleidigung nach § 185 StGB in Betracht. Soweit damit behauptet wird, das Opfer habe tatsächlich an den konkreten, abgebildeten Handlungen teilgenommen, ist auch die Üble Nachrede nach § 186 oder die Verleumdung nach § 187 StGB denkbar. Da ja indirekt behauptet wird, die Person hätte bei einem Porno mitgemacht, kommt hier die Verleumdung in Betracht, die mit maximal 5 Jahren Freiheitsstrafe bei öffentlicher Verbreitung im Internet den höchsten Strafrahmen hat

Nach § 201a Strafgesetzbuch – der hat es erst 2015 so ins StGB geschafft – ist es außerdem verboten, Bildaufnahmen zugänglich zu machen, die geeignet sind, das Ansehen einer Person erheblich zu gefährden. Das könnte jedenfalls bei tatsächlichen Nacktaufnahmen zutreffend sein. Zumindest ließe sich diskutieren, ob das bei solchen Deepfake-Montagen auch zutrifft, obwohl das Gesetz hier nur von „Aufnahmen“ spricht. Das Ergebnis wäre auch hier eine Geldstrafe oder Freiheitsstrafe mit bis zu 2 Jahren.

Es gibt auch noch § 184k StGB. Dieser Paragraph stellt eher darauf ab, dass wirklich unbefugt Aufnahmen von „den Genitalien, dem Gesäß“ oder „der weiblichen Brust“ gemacht und dann verbreitet werden. Das ist bei Deepfakes eher nicht anzunehmen, denn hier stammen die entsprechenden Körperteile ja gerade nicht von der verletzten Person.

Denkbar ist – je nach Einzelfall – auch eine Strafbarkeit wegen Nachstellung (sog. Stalking) nach § 283 StGB möglich. Digitales Stalking wird seit einigen Jahren explizit erfasst. So ist es z.B. strafbar, „eine Abbildung dieser Person, eines ihrer Angehörigen oder einer anderen ihr nahestehenden Person“ im Netz zu verbreiten (Abs. 1 Nr. 7). Außerdem, einen Inhalt (z.B. Video, Foto oder Audio) unter Vortäuschung der Urheberschaft der Person zu verbreiten, der geeignet ist, diese Person verächtlich zu machen oder in der öffentlichen Meinung herabzuwürdigen (Abs. 1 Nr. 8). Eine Strafbarkeit kommt aber nur in Betracht, wenn die Tat „wiederholt“ geschieht und geeignet ist, die Lebensgestaltung der betroffenen Person nicht unerheblich zu beeinträchtigen.

Wie können sich Betroffene gegen Rechtsverstöße wehren?

Vorgehen gegen Plattformen und Websites

Für Betroffene wird es zunächst am Wichtigsten sein, das betreffende Video bzw. Bild unzugänglich zu machen und eine Weiterverbreitung zu unterbinden. Die schnellste Möglichkeit ist ein Vorgehen gegen die Sozialen Netzwerke, bei denen solche Videos verbreitet werden. Diese sind rechtlich verpflichtet, solche rechtsverletzenden Inhalte schnell zu prüfen und ggf. zu löschen, um sich nicht haftbar zu machen (notice-and-takedown). Hierfür können Sie entweder die von den Plattformen bereitgestellten Beschwerdeverfahren (etwa Online-Formulare oder Melde-Buttons) nutzen, die nach Artikel 16 Digital Services Act (DSA) verpflichtend sind. Doch auch jeder andere Kontaktweg an die Netzwerke ist zulässig, solange die Meldung präzise und nachvollziehbar ist, so das KG Berlin.   

Für jede Meldung und jedes weitere Vorgehen ist es zudem wichtig, alle Beweise zu sichern, insbesondere Screenshots anzufertigen, URLs und Upload-Zeitpunkte zu speichern. Zudem helfen auch verschiedene Stellen für Opfer digitaler Gewalt bei der Beweissicherung und beim Kontakt zu Plattformen.

Ist man mit der Entscheidung des Netzwerks nicht einverstanden, so kann man die nach Artikel 20 DSA verpflichtende interne Beschwerdestelle des Netzwerks kontaktieren. Ist man auch mit der in diesem Rahmen getroffenen Entscheidung nicht zufrieden, kann man zudem nach Art. 21 DSA eine zertifizierte außergerichtliche Streitbeilegungsstelle kontaktieren. Derzeit existiert hier in Deutschland nur die „User Rights GmbH“.

Auch gegen Google kann man auf Basis von Art. 17 Datenschutzgrundverordnung (DSGVO) vorgehen und verlangen, dass Verlinkungen auf andere Webseiten-Inhalte entfernt werden.

Schließlich ist über das notice-and-takedown-Verfahren ein Vorgehen gegen alle Webseiten selbst möglich, auf denen so ein Material zu finden ist.

Reagieren diese Plattformen bzw. Websites nicht, können sie auch auf dem gerichtlichen Weg können zum Löschen gezwungen werden. Über eine einstweilige Verfügung im Eilverfahren bzw. über eine Klage können hier Beseitigungs- und Löschungsansprüche geltend gemacht werden wegen Verletzung des Persönlichkeitsrechts.

Anzeigen und Meldungen bei Behörden

Soziale Netzwerke haben nach Art. 34 und 35 DSA außerdem die Pflicht, Missbrauchsrisiken für Desinformation zu minimieren, Deepfakes zu erkennen, typische Verbreiteraccounts zu sperren und ihre Kennzeichnung technisch zu erleichtern. Besteht der Verdacht, dass das Netzwerk hier diesen Pflichten nicht nachkommt oder nicht ausreichend auf Meldungen reagiert, kann man dies an die Bundesnetzagentur (nationale DSA-Aufsichtsstelle) oder der EU-Kommission melden.

Zwar haben soziale Netzwerke nach Artikel 18 DSA auch eine Meldepflicht bei Verdacht auf Straftaten. Sicherheitshalber sollte man als Betroffener aber zusätzlich die Urheber bzw. Verbreiter solcher Deepfakes bei der Polizei oder Staatsanwaltschaft anzeigen und – falls nötig – Strafantrag stellen. Hier kommen je nach Einzelfall mehrere Straftaten in Betracht, z.B. eine strafbare Datenschutzverletzung nach § 42 BDSG oder eine Verleumdung nach § 187 StGB. Eine Anzeige bzw. ein Antrag können auch später bei möglichen zivilrechtlichen Gerichtsverfahren helfen, weil die Behörden andere Möglichkeiten haben, die Täter ausfindig zu machen und man in die Ermittlungsunterlagen Akteneinsicht nehmen kann.

Außerdem kann man das Ganze den Datenschutzaufsichtsbehörden anzeigen, die dann ebenfalls ermitteln müssen. Dem Verbreiter bzw. Deepfake-Monteur drohen dann nach Art. 83 Abs. 5 DSGVO hohe Bußgelder bis zu einer Grenze von 20 Millionen Euro.

Vorgehen gegen Täter und Verbreiter

Schließlich ist der zivilrechtliche Weg einer einstweiligen Verfügung bzw. Klage direkt gegen den Urheber bzw. gegen jeden weiteren Veröffentlichenden möglich. Zum einen auf Löschung des Videos auf allen Kanälen, zum anderen auf Unterlassung jeglicher zukünftigen Weiterverbreitung, ebenfalls wegen Persönlichkeitsrechtsverletzungen.

Zum anderen kann man im Klageverfahren auch Schadensersatzansprüche gegen alle geltend machen, die hier schuldhaft gehandelt haben, also sowohl gegen den Urheber als auch gegen alle, die wissentlich einen Deepfake weiterverbreitet haben. Ansprüche ergeben sich zum einen aus Art. 82 DSGVO, der auch immateriellen Schadensersatz vorsieht, eine Art Schmerzensgeld. Zum anderen aus einer Verletzung des Persönlichkeitsrechts der abgebildeten Person aus Art. 2 Abs. 1, Art. 1 Grundgesetz (GG). Hierbei ist jedoch zu beachten, dass ein Schmerzensgeld wegen der erlittenen Persönlichkeitsverletzung nur dann gewährt wird, wenn „das Persönlichkeitsrecht derart schwer verletzt worden ist, dass ein unabwendbares Bedürfnis nach einem finanziellen Ausgleich besteht“ (KG Berlin, Urt. v. 15.05.2007, Az. 9 U 236/06). Bei Rachepornos ist das sicher der Fall.

Schließlich kann sogar der Urheber der verwendeten Vorlage den Täter wegen Verstößen gegen das Urheberrecht auf Schadensersatz- oder Unterlassungsansprüche in Anspruch nehmen. Denn zum einen sind solche Vervielfältigungen ohne Einwilligung des Urhebers rechtswidrig. Zudem könnte die Montage eine Entstellung des Werkes darstellen, die das sog. Urheberpersönlichkeitsrecht verletzt.

Kann die „Videomontage“ überhaupt legal sein?

Kann es nicht aber auch legale Montagen geben – z.B. solche, die zu belustigenden oder künstlerischen Zwecken gefertigt wurden oder die – wie eine Karikatur auch – dazu dienen, meine Meinung zu untermauern? Hier kommt es im Einzelfall darauf an, ob die Bearbeitung dazu geeignet ist, potenzielle Zuschauer über das Zustandekommen des Inhaltes zu täuschen und sie dazu bringt, zu glauben, das Video sei echt.

Bezogen auf die konkrete Zulässigkeit dieser sogenannten Deepfakes ist uns zwar noch kein Urteil bekannt. Jedoch haben sich deutsche Gerichte in der Vergangenheit immer wieder mit bearbeiteten und zusammengeschnittenen Fotos oder Videos beschäftigt und hierfür einige Feststellungen getroffen: Zwar sei nach Ansicht des LG Offenburg (Urt. v. 12.03.2011, Az. 2 O 415/10) nicht automatisch eine Verletzung der Rechte des Abgebildeten anzunehmen, nur weil er oder sie auf einem zusammengeschnittenen Foto abgebildet ist. Aber wenn durch diese Abbildung bzw. Bearbeitung aber eine fehlerhafte oder herabwürdigende Darstellung des Betroffenen entsteht, verletzt es diesen in seinen Persönlichkeitsrechten und er hat einen Unterlassens- und eventuell auch einen Schadensersatzanspruch. Hierzu hat der Bundesgerichtshof (BGH / Urt. v. 08.11.2005, Az. VI ZR 64/05) nach einem Beschluss des Bundesverfassungsgerichts (BVerfG / Beschl. v. 14.02.2005, Az. 1 BvR 240/04) auch geurteilt: Eine unrichtige (weil verfälschte) Information dient überhaupt nicht der Meinungsbildung und unterliegt dieser daher nicht. Der Eingriff in die Intimsphäre der Betroffenen sei daher auch nicht durch die „künstlerische Neuschöpfung“ oder eine Nutzung im Pressekontext von den jeweiligen Grundrechten gerechtfertigt.

Letztlich folgt daraus, dass kaum Fälle denkbar sind, in denen eine täuschend echte Deepfake-Montage tatsächlich legal verbreitet werden darf, da diese Technik fast immer dazu geeignet ist, andere über den Inhalt zu täuschen. Zumindest dürfte immer eine Verletzung des Rechts am eigenen Bild vorliegen.

Meinungskrieg mit KI? – Fake-News werden in Zukunft realistischer

Dadurch, dass Künstlicher Intelligenz immer besser wird und es immer schwieriger wird, den technischen Eingriff in das Originalmaterial nachzuvollziehen bzw. nachzuweisen, gibt es also einige Gefahren – für betroffene Personen, Urheber und ggf. auch Unternehmen.

Auch kann durch die Nutzung einer Fake-App das Gesicht von Menschen zum Beispiel innerhalb von journalistischen Beiträgen vertauscht werden. Dies bietet ein enormes Missbrauchspotential für solche, die bereits jetzt „alternative facts“ oder Fake-News im Internet verbreiten.

Wenn Sie von missbräuchlich genutzten Inhalten betroffen sind, können Sie möglicherweise eine Abmahnung gegen den Täter aussprechen. Wir unterstützen Sie dabei.