Künstliche Intelligenz entwickelt sich rasant und damit mehren sich die Möglichkeiten des Missbrauchs. Seit Jahren kämpfen Betroffene mit der Verbreitung von manipulierten Bildern und Videos. Doch beim Umgang mit sexualisierten Deepfakes weist das deutsche Strafrecht weiterhin Lücken auf.
Im Rahmen der Menschenrechtswoche in Tübingen drehte sich ein Vortrag in der Achtbar um ein Thema, das mit der schnellen Entwicklung von künstlicher Intelligenz besonders an Relevanz gewinnt: nicht einvernehmliche sexualisierende Deepfakes. Die Referentin Maria Pawelec forscht derzeit selbst in Tübingen dazu, wie die Privatsphäre von Bürger*innen vor Missbrauch durch Deepfakes geschützt werden kann. Die studierte Politikwissenschaftlerin zeigte, wie zugänglich aktuelle Technik ist, welche Folgen das für Betroffene hat und warum Politik und Gesellschaft handeln müssen.
Sind Frauen die Opfer und Männer die Täter?
Wie die Referentin betonte, sind besonders junge Frauen und Mädchen betroffen, wobei die Täter oft aus dem direkten sozialen Umfeld wie aus der Schule oder dem Bekanntenkreis stammen. Trotzdem gebe es bisher nur wenige wissenschaftliche Untersuchungen zu den Tätern. Die von Pawelec präsentierten Studien suggerieren, dass Männer ebenso häufig Opfer sexualisierender Deepfakes sein können, wenn auch aus anderen Gründen. Denn neben sexuellen Motiven spielten auch finanzielle Interessen, Neugier, Gruppendruck oder der Wunsch nach sozialer Anerkennung eine Rolle. Wer in dem Problem ausschließlich Frauenhass sieht, greift nach Ansicht der Referentin daher zu kurz.
Konkretere Aussagen zu Tätergruppen und Handlungsmotiven ließen sich schwer treffen, da die Forschung bislang nicht mit der rasanten Entwicklung der Technologie Schritt halten könne. Hinzu komme, dass viele Fälle nie gemeldet würden. Deepfakes würden häufig ausschließlich über Messenger oder E-Mail verbreitet oder lediglich zum privaten Gebrauch erstellt. Für den kommenden Herbst sei eine deutschlandweite repräsentative Umfrage zum Thema KI-Deepfakes geplant, die neue Erkenntnisse liefern könnte.
Welche Folgen mit sexualisierenden Deepfakes einhergehen
Auch die gravierenden Folgen für Betroffene machte die Referentin deutlich. Angstzustände, Depressionen, sozialer Rückzug oder sinkende berufliche Chancen seien mögliche Konsequenzen. Nicht nur die psychischen Folgen bei Einzelpersonen stellten ein Problem dar. Deepfakes verstärkten Sexismus und Diskriminierung in der gesamten Gesellschaft und würden gezielt eingesetzt, um Aktivistinnen oder Politikerinnen einzuschüchtern und aus öffentlichen Debatten zu verdrängen. So hätten etwa im Zuge eines Deepfake-Skandals in Südkorea tausende Schülerinnen und Studentinnen ihre Social-Media-Accounts gelöscht. Auch der Missbrauch von Kindern durch KI-Darstellungen nehme zu.
Gekommen um zu bleiben
Die Politikwissenschaftlerin betonte, dass das Erstellen von KI-Darstellungen nun zu unserer Gesellschaft gehöre und wohl auch künftig Teil dieser bleibe. Die Frage sei nicht, wie wir gänzlich dagegen vorgehen, sondern wie wir nun nachhaltig damit umgehen können. Rechtlich bestünden weiterhin Lücken. Das zeige sich etwa daran, dass es im deutschen Strafrecht bislang keinen eigenen Straftatbestand für sexualisierende Deepfakes gibt.
Zwar bringe die europäische KI-Verordnung neue Transparenzpflichten für KI-generierte Inhalte, sie schütze Privatpersonen jedoch nur eingeschränkt. Hoffnung setzt die Referentin auf eine neue EU-Richtlinie zur Bekämpfung von Gewalt gegen Frauen, die künftig auch nicht einvernehmliche sexualisierende Deepfakes unter Strafe stellen soll. Zudem sollten sogenannte Nudifier-Anwendungen, also Entkleidungs-Anwendungen, in der Europäischen Union ab Dezember 2026 verboten werden.
Wie schütze ich mich und andere?
Leider sei es kaum möglich, sich selbst zu schützen, so Pawelec. Fotos im Internet seien für viele Menschen beruflich oder privat unvermeidbar, und mit der zunehmenden Verbreitung biometrischer Daten wachse das Missbrauchspotenzial weiter. Umso wichtiger sei es, im Ernstfall richtig zu handeln. Solche Arten von Deepfakes sollten umgehend gemeldet werden. Soziale Medien seien sogar verpflichtet, solcherlei Anfragen priorisiert zu behandeln.
Zu beachten sei dabei unbedingt, dass bei der Anzeige von Deepfakes von Kindern keine Screenshots angefertigt werden sollten, betonte Pawelec. Diese würden unter Kinderpornographie fallen, deren Besitz in Deutschland strafbar ist. Stattdessen sollte schnellstens die Polizei informiert werden. Unterstützung bieten außerdem Meldestellen und Beratungsangebote wie HateAid, Respect! im Netz oder Anna Nackt.
Gesetze allein werden das Problem aber nicht lösen – so die zentrale Botschaft des Vortrags. Künstliche Intelligenz werde bleiben und biete auch zahlreiche Chancen. Immer wichtiger seien deswegen Medienkompetenz, technische Schutzmaßnahmen und zugängliche, weitreichende Hilfsangebote für Betroffene. Der Aktivismus beginne schon im kleinen Kreis, betonte die Politikwissenschaftlerin: Fehlverhalten nicht unkommentiert lassen, aufklären und Betroffene unterstützen. Gleichzeitig könne digitale Gewalt aber nur mit der Zusammenarbeit von Plattformen, Politik und Gesellschaft eingedämmt werden.
Berühmte Personen waren zuerst betroffen
Deepfakes sind mithilfe künstlicher Intelligenz erzeugte oder manipulierte Bilder, Videos oder Audiodateien. Während sie zunächst vor allem durch gefälschte Fotos bekannt wurden, lassen sich zum Beispiel auch Stimmen klonen oder Videos erstellen. Was früher technisches Fachwissen erforderte, funktioniert heute mit frei zugänglichen Webseiten oder Apps ohne großen Aufwand. Oft reicht schon ein Foto und ein kurzer Prompt.
Wie schnell die neue Technologie Aufsehen erregte, zeigen bekannte Beispiele in der Vergangenheit: Schon 2018 schlug eines der ersten öffentlichen Video-Deepfakes hohe Wellen. Das Video zeigte den ehemaligen US-Präsidenten Barack Obama, der seinen Nachfolger Donald Trump beleidigte. Den Clip erstellte der Regisseur Jordan Peele, um vor den Gefahren manipulierter Medien zu warnen. 2023 sorgten ein KI-generiertes Bild von Papst Franziskus im weißen Daunenparka sowie gefälschte Bilder einer angeblichen Verhaftung Donald Trumps weltweit für Aufmerksamkeit. Immer mehr Deepfakes wirken auf den ersten Blick täuschend echt.
Ob das Erstellen von Bild- oder Audiodateien jedem Nutzer frei zugänglich sein sollte, ist umstritten. Problematisch wird es nämlich beispielweise bei nicht einvernehmlichen sexualisierenden Deepfakes. Diese Fälle digitaler sexueller Gewalt im Netz machen immer wieder Schlagzeilen. Für eine kurze Zeit gab es die App DeepNude, deren einziger Zweck es war, Frauen digital entkleiden. Weiter ist es zum Beispiel möglich, auf Telegram manipulierte Bilder zu erstellen oder in Gruppen zu verbreiten. In Südkorea sind diese teils sogar auf Schulen oder Universitäten spezialisiert. International bekannt wurden vor allem sexualisierte Deepfakes einiger Weltstars, sowie Fälle, in denen KI-Anwendungen wie GrokAI zur Erstellung täuschend echter Nacktbilder genutzt wurden.
Beitragsbild: Charlotte Grabarits
