Geschrieben von Rechtsreferendar Fabian Kurti und Rechtsanwalt Yannick Hoppe LL.M. (Stellenbosch)
Die öffentliche Debatte über den ausreichenden Schutz bei Deepfakes ist seit den jüngsten Vorwürfen der Schauspielerin Collien Fernandes gegen Christian Ulmen neu entfacht. Fernandes wirft Ulmen vor, er habe fake-Profile unter ihrem Namen erstellt und Bildmaterial verschickt, das den Anschein erwecken sollte, Fernandes werde bei sexuellen Handlungen gezeigt. Ulmen bestreitet die Vorwürfe. Bundesjustizministerin Stefanie Hubig (SPD) hat den Fall zum Anlass genommen, der Öffentlichkeit ihren Gesetzesentwurf zum Schutz vor digitaler Gewalt zu präsentieren.
Deepfakes in der Mitte der Gesellschaft
Die sog. „Deepfake-Pornografie“, bei der mittels KI-Tools eine der betroffenen Person täuschend ähnlich aussehende Darstellung erzeugt wird, die explizite sexuelle Handlungen zeigt, ist eine der krassesten Ausprägungen von „digitaler Gewalt“ im Zusammenhang mit Deepfakes. Dennoch tauchen Deepfakes im multimedialen Zeitalter auch in anderen Erscheinungsformen auf. Selbst dem früheren Bundeskanzler Olaf Scholz blieben die Gefahren der künstlichen Intelligenz (KI) nicht unbekannt, als Dritte eine gefälschte Rede veröffentlichten, in der sich Scholz für ein Verbotsverfahren der Partei Alternative für Deutschland (AfD) aussprach. Der europäische Gesetzgeber definiert „Deepfakes“ als einen „durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“ (Art. 3 Nr. 60 KI-VO). Es geht also um Inhalte abseits von Überspitzung und Satire, bei dem der Durchschnittsbetrachter nicht mehr unterscheiden kann, ob es sich um einen tatsächlichen oder einen KI-fantasierten Vorgang handelt. Besonders gefährlich werden diese Möglichkeiten für Betroffene, wenn sie, zur Erstellung pornografischer Inhalte genutzt werden.
Das Allgemeine Persönlichkeitsrecht und seine Durchsetzung
Auf der zivilrechtlichen Ebene begründen (pornografische) Deepfakes regelmäßig einen schweren Eingriff in die Privat- und Intimsphäre. Ist die reale Person erkennbar, liegt außerdem eine Verletzung des Rechts am eigenen Bild gem. §§ 22, 23 Abs. 2 KUG vor. Bei einem Eingriff in die Intimsphäre entfällt die sonst im Bereich des Persönlichkeitsrechts erforderliche Abwägung der widerstreitenden Interessen. Im Grundsatz sind die Rechtsfolgen in zivilrechtlicher Hinsicht damit eindeutig. Betroffenen steht bei Verletzung des Allgemeinen Persönlichkeitsrechts (Art. 2 Abs. 1, Art. 1 Abs. 1 GG) ein Beseitigungs- und Unterlassungsanspruch zu. Da es sich bei der Verbreitung von Deepfake-Pornografie um eine besonders schwerwiegende Persönlichkeitsrechtsverletzung handelt, dürfte darüber hinaus auch ein Anspruch auf Zahlung einer Geldentschädigung bestehen.
Die Herausforderung liegt jedoch an anderer Stelle: Den Tätern gelingt es oftmals durch unterschiedliche Techniken ihre Identität zu verschleiern, während Inhalte sich auf den einschlägigen Plattformen verselbständigen. Betroffene können sich daher häufig nur mit Löschungsaufforderungen an die Plattformbetreiber wenden und sind auf deren Kooperation angewiesen. Die Erfahrungen zeigen, dass sich gerade diese aber regelmäßig nicht in der Verantwortung sehen. Abhilfe schafft der „Digital-Service-Act“ (DSA), wonach Plattformbetreiber bei Kenntnis von Rechtsverletzungen zur Löschung entsprechender Inhalte verpflichtet sind. In der Praxis gestaltet sich ein Vorgehen gegen die Plattformbetreiber trotz gesetzlicher Regelungen jedoch schwierig, da die Betreiber oft nicht erreichbar sind, Meldungen über rechtswidrige Inhalte häufig unzureichend bearbeitet werden oder aus Sicht der Plattform die Anforderung einer „offensichtliche Rechtsverletzung“ nicht erfüllt ist. Denn bisher sind soziale Netzwerke nach der etablierten Rechtsprechung des Europäischen Gerichtshofs im Rahmen des sogenannten „Notice & take down-Verfahrens“ privilegiert. Eine Verpflichtung zur Entfernung von Inhalten setzt erst bei konkreter Kenntnisnahme durch eine substantiierte Meldung des Betroffenen ein. Diese Meldung muss so präzise sein, dass der Rechtsverstoß für den Betreiber ohne detaillierte juristische Untersuchung erkennbar ist. Da der Europäische Gerichtshof (EuGH) hierbei die Voraussetzung der Offensichtlichkeit betont, sind Plattformen bei komplexen Abwägungen derzeit nicht zur sofortigen Löschung gezwungen. An diesem Haftungsregime der Plattformen hat auch der DSA nichts geändert.
Ansätze zur Regulierung KI-generierter Deepfakes
Zentrales Regelungswerk zur Regulierung von KI im Allgemeinen und Deepfakes im Speziellen ist die europäische Verordnung über künstliche Intelligenz (KI-VO), die zu großen Teilen heute schon unmittelbare Anwendung findet. Nach ihren Regelungen müssen Deepfakes künftig als solche gekennzeichnet werden (Art. 50 Abs. 4 Satz 1 KI-VO). Bei Verstößen soll es im Ermessen der Mitgliedsstaaten stehen, welche verhältnismäßigen Sanktionen sie als zweckmäßig erachten (Art. 99 Abs. 1 KI-VO). Mit der Durchsetzung der
KI-VO und ihren Kennzeichnungspflichten von Deepfakes ist es aber nicht getan, denn eine Persönlichkeitsverletzung tritt im Fall von pornografischen Deepfakes ungeachtet einer möglichen Kennzeichnung ein. Wer in sozialen Medien plötzlich mit künstlich erzeugten Nacktaufnahmen der eigenen Person konfrontiert wird, dürfte in deren Kennzeichnung nur einen schwachen Trost finden. Bei Deepfakes mit pornografischem Inhalt bietet die KI-Verordnung somit keinen ausreichenden Schutz für Betroffene.
Mit den Mitteln des Strafrechts
Gerade weil sich die zivilrechtliche Durchsetzung von Ansprüchen des allgemeinen Persönlichkeitsrechts häufig als schwierig darstellt, kann die Verfolgung solcher Darstellungen nicht allein den Betroffenen überlassen werden. Vielmehr ist es auch Aufgabe des Strafrechts, den Betroffenen Schutz zu gewähren und präventiv auf Täter einzuwirken. Hierbei ist es grundsätzlich vertretbar, von Strafbarkeitslücken im aktuellen Strafgesetzbuch auszugehen.
Eine Verletzung der persönlichen Ehre des Einzelnen steht bereits jetzt unter Strafandrohung. In Bezug auf Deepfakes werden dabei regelmäßig die Straftaten der üblen Nachrede nach
§ 186 StGB oder die Verleumdung nach § 187 StGB relevant. Voraussetzung ist jeweils die Behauptung einer ehrverletzenden Tatsache, die geeignet ist, den Ruf einer Person zu schädigen. Die Veröffentlichung von Deepfake-Pornografie wird dabei häufig zumindest die implizite Behauptung enthalten, dass die betroffene Person an solchen Handlungen teilgenommen habe, was grundsätzlich zu einer Rufschädigung geeignet ist. Soweit der Täter – wovon in diesem Zusammenhang regelmäßig auszugehen ist – positive Unkenntnis der Unwahrheit seiner Behauptung hat, kommt eine Strafbarkeit wegen Verleumdung in Betracht, anderenfalls kann die üble Nachrede einschlägig sein. Auch an eine Strafbarkeit wegen Beleidigung nach § 185 StGB ist zu denken. Eine Beleidigung liegt bei der Kundgabe von Missachtung oder Nichtachtung gegenüber der betroffenen Person vor. In der Rechtswissenschaft existieren jedoch auch kritische Stimmen dahingehend, ob implizite Behauptungen überhaupt als Äußerungen im Sinne dieser Vorschrift gewertet werden können. Diese sogenannten „Ehrschutzdelikte“ schützen betroffene Personen damit im Zweifelsfall nicht erschöpfend. Die Strafverfolgungsbehörden werden bei diesen Delikten, bis auf wenige Ausnahmen, nach § 194 StGB nur auf Antrag tätig, was zunächst erstmal die Kenntnis der betroffenen Personen voraussetzt. Im Übrigen stellen diese Delikte Persönlichkeitsrechtsverletzungen unterhalb der Grenze einer ehrenrührigen und rufschädigenden Behauptung von vornherein nicht unter Strafe.
Jedenfalls hinsichtlich der bloßen Herstellung von (pornografischen) Deepfakes kann von Strafbarkeitslücken ausgegangen. Die „Ehrschutzdelikte“ schützen den sozialen Geltungsanspruch und setzen damit die Verbreitung der Deepfakes voraus. Dies gilt gleichermaßen für eine Strafbarkeit nach § 33 KUG, wonach das öffentliche zur Schaustellen von Bildnissen einer Person ohne deren Einwilligung grundsätzlich strafbar ist. Das Herstellen von pornografischen Deepfakes erwachsener Personen – z.B. am heimischen Computer – bleibt nach derzeitiger Rechtslage jedoch straffrei.
In der analogen Welt stellt § 201a StGB die Verletzung des höchstpersönlichen Lebensbereichs und von Persönlichkeitsrechten durch Bildaufnahmen unter Strafe. Nach
§ 201a Abs. 1 Nr. 1 StGB macht sich beispielsweise strafbar, wer unbefugt von einer anderen Person in der Wohnung oder einem gegen Einblick besonders geschützten Raum eine Bildaufnahme herstellt und dadurch den höchstpersönlichen Lebensbereich der abgebildeten Person verletzt oder eine solche Aufnahme nach § 201a Abs. 2 StGB anderen Personen zugänglich macht. Bereits der Wortlaut dieser Vorschrift setzt das Herstellen einer „Bildaufnahme“ voraus, d.h. das Fotografieren oder Filmen einer realen Person in einer bestimmten Situation. Da es sich bei (pornografischen) Deepfakes aber um künstlich hergestellte und damit gerade keine realen Bildaufnahmen handelt, muss davon ausgegangen werden, dass eine Strafbarkeit nach dieser Vorschrift nicht in Betracht kommt. Aus diesem Grund dürfte auch eine Strafbarkeit nach § 184k StGB wegen Verletzung des Intimbereichs durch Bildaufnahmen ausscheiden.
Nicht ohne Grund ist daher die dahingehende Verschärfung des Strafrechts Gegenstand des politischen Diskurses. Es erschließt sich nicht, warum das Anfertigen heimlicher Bildaufnahmen nach § 201a StGB strafbar ist, die heimliche Anfertigung von pornografischen und täuschend echten Deepfakes aber allenfalls durch Auffangtatbeständen im Falle ihrer Veröffentlichung sanktioniert werden soll. Um der Flut an digitalen Manipulationen Herr zu werden, muss die Debatte über Änderungen im Strafrecht auch berücksichtigen, dass nicht erst die Verbreitung, sondern auch das Herstellen sexualisierter Deepfakes eine Rechtsverletzung darstellt.
Insofern ist zu begrüßen, dass Bundesjustizministerin Hubig angekündigt hat, die Strafbarkeit von Deepfakes insgesamt zu regeln sowie die Herstellung und die Verbreitung pornografischer Deepfakes unter Strafe zu stellen. Geplant ist eine Überarbeitung des § 184k StGB dahingehend, dass bereits die Herstellung von pornografischen Deepfakes erfasst sein soll, soweit die betroffene Person darin identifizierbar ist. Hinsichtlich der Verbreitung ist die Einführung eines neuen § 201b StGB geplant, der die Verletzung von Persönlichkeitsrechten durch den Anschein eines täuschend echten Inhalts sanktioniert, soweit dies dazu geeignet ist, dem Ansehen der Person erheblich zu schaden.
Diese Reformbestrebungen sind jedoch nicht neu. Ein ähnlicher Entwurf wurde bereits in der vergangenen Legislaturperiode diskutiert und aus unterschiedlichen Gründen teilweise scharf kritisiert. So bestehen Bedenken hinsichtlich der Zweckmäßigkeit und der verfassungsrechtlichen Umsetzbarkeit. Auch scheint es paradox, dass der Anschein eines täuschend echten Inhalts in Bezug auf § 201b StGB-E womöglich durch eine
„KI-Kennzeichnung“ ausgeräumt werden könnte und insofern die Strafbarkeit nach
§ 201b StGB-E entfallen lässt. Gleichzeitig wird kritisiert, dass eine Strafbarkeit der Herstellung von pornografischen Deepfakes zu weit gehe. Dabei ist zu berücksichtigen, dass unter Umständen bereits bei einem Anfangsverdacht des Herstellens weitreichende Ermittlungsmaßnahmen gegen mutmaßliche Täter durchgeführt werden könnten.
Es gilt daher abzuwarten, inwieweit ihre finale Fassung die bislang thematisierten Vorschläge und Bedenken aufgreift. Jedenfalls muss trotz berechtigter Bedenken der Reformbestrebungen die zentrale Frage eines effektiven Opferschutzes bestehen bleiben.
Verschärfung nützt nur bei konsequenter Rechtsdurchsetzung
Im Zuge der berechtigten Diskussion über Änderungen im Strafrecht darf nicht außer Acht gelassen werden, dass Betroffenen nur dann geholfen werden kann, wenn gleichzeitig auch die effektive Rechtsdurchsetzung gegen Plattformbetreiber als Beschleuniger der Persönlichkeitsverletzungen gewährleistet wird.
Nach derzeitiger Rechtslage ist es ausreichend, wenn eine Zustellung an die großen US-Plattformen wie Meta, Google und X an deren EU-Sitz in Irland erfolgen kann. Die Rechtsdurchsetzung eines in Deutschland erwirkten Urteils ist in Irland jedoch nur mit erheblichem Zeitaufwand möglich. Zwingend erforderlich wäre daher ein inländischer Zustellungsbevollmächtigter in jedem EU-Mitgliedsstaat, sodass Klageschriften, gerichtliche Anordnungen oder behördliche Bußgeldbescheide unmittelbar im eigenen Land rechtssicher zugestellt werden können.
Zudem muss der Gesetzgeber gewährleisten, dass Verantwortliche von Rechtsverletzungen sich nicht weiter hinter der Anonymität des Internets verstecken können. Es gilt hier einen angemessenen Ausgleich zwischen dem Recht auf anonyme Meinungsäußerung und den Rechten von Betroffenen zu schaffen. Dies kann etwa dadurch erreicht werden, dass der Gesetzgeber die Plattformanbieter dazu verpflichtet, die Identität ihrer Nutzer im Hintergrund zu verifizieren. Nur dadurch erlangt die Justiz eine reale Handhabe gegen Täter, während das Recht auf anonyme Meinungsäußerung als hohes demokratisches Gut nach außen hin unangetastet bleibt.
Dr. Lucas Brost und Yannick Hoppe sind Rechtsanwälte der Kölner Medienkanzlei BROST CLAẞEN, die auf den presserechtlichen Schutz von Unternehmen und Personen spezialisiert ist. Fabian Kurti ist Referendar in der Wahlstation.
Weitere Hintergründe zu der rechtlichen Einordnung von Deepfakes: