29. Januar 2024, 13:50 Uhr | Lesezeit: 6 Minuten

Es ist ein Skandal, der nicht nur Taylor Swifts Fangemeinde in Aufruhr versetzt, sondern auch die Politik erreicht. Zahlreiche pornografische Deepfakes der Sängerin fluten X und das Unternehmen bekommt sie tagelang nicht unter Kontrolle. Nun gibt es ein Update.

Update: X hebt Such-Sperre auf

Zumindest das Dilemma mit der gesperrten Namenssuche hat X nun wieder rückgängig gemacht. „Taylor Swift“ lässt sich wieder erfolgreich in der Bildersuche auf X eingeben. Dennoch werde man „weiterhin wachsam sein, was die Verbreitung solcher Inhalte angeht und sie entfernen, wo immer wir sie finden“, versicherte X-Manager Joe Benarroch gegenüber Bloomberg. Mit der Sperre hatte X versucht, die Suche nach den pornografischen Deepfakes vorübergehend zu verhindern.

Immer mehr Deepfakes

Unter Deepfakes versteht man Bilder, Videos oder Tonaufnahmen, die mithilfe von KI generiert oder bearbeitet werden. Nach dem heutigen Stand der Technik wirken Deepfakes häufig täuschend echt. Deepfake-Pornografie wird ganz überwiegend gegen den Willen und das Wissen der Betroffenen angefertigt und verbreitet und ist daher eine Form von bildbasierter sexueller Gewalt. Besonders betroffen sind Frauen und Mädchen, während es sich bei den Tätern in den meisten Fällen um Männer handelt.

Durch stark beworbene Software-Angebote und Nudify-Apps lassen sich pornografische Deepfakes kostenlos und niedrigschwellig generieren. Die Verbreitung läuft, nahezu unkontrolliert, unter anderem über soziale Netzwerke. So auch im Fall von Taylor Swift am vergangenen Mittwoch. Beispielsweise wurde eines der Deepfakes auf X innerhalb von 17 Stunden etwa 47 Millionen Mal aufgerufen, bevor es von X gelöscht wurde. Am Donnerstagmorgen begann X, einige der Konten zu sperren, die die Deepfakes teilten. Der Erfolg fiel mäßig aus, da die Bilder schnell an anderer Stelle erneut hochgeladen wurden. Auch Reddit, Facebook und Instagram begannen, die Deepfakes zu löschen.

X sperrt „Taylor Swift“-Suche

Grundsätzlich verbieten es die Richtlinien von X, manipulierte Medien überhaupt hochzuladen. Am Freitag kündigte das Sicherheitsteam von X an, „aktiv alle identifizierten Bilder [zu] entfernen“ und „passende Maßnahmen gegen die verantwortlichen Accounts“ einzuleiten. X-Manager Joe Benarroch sagte außerdem: „Es handelt sich um eine vorübergehende Maßnahme, die mit großer Vorsicht durchgeführt wird, während wir der Sicherheit in dieser Angelegenheit Priorität einräumen.“ Am folgenden Samstag meldeten erste X-Nutzer Fehlermeldungen bei der Suche nach „Taylor Swift“. Gleiches gilt für Namenskombinationen mit den Suchbegriffen „AI“ (Artificial Intelligence) und „Deepfake“.

Statt also von Anfang an den Upload von Deepfake-Pornografie zu verhindern, mühen sich X, Reddit und Meta nun, der Konsequenzen einigermaßen Herr zu werden. Und sperren dafür die Namen der Betroffenen in der Suche. Doch selbst wenn alle kompromittierenden Bilder für immer aus dem Internet verschwinden – was praktisch unmöglich ist –, ist der Schaden für Taylor Swift bereits angerichtet. Und das gilt nicht nur für die Sängerin, sondern alle von Deepfake-Pornografie betroffenen Personen.

Lesen Sie auch: Suchmaschinen unternehmen kaum etwas gegen gefälschte Promi-Nacktbilder 

Swifties kämpfen gegen Deepfakes

Laut The Verge ließe sich die Sperre von X allerdings spielend leicht umgehen, wenn man nur die Reihenfolge der Suchbegriffe ändere. Damit erscheint diese Maßnahme von X als zahnlos und allenfalls symbolisch. Ebenfalls mit einem starken Zeichen – und mutmaßlich größerem Einfluss – handelten die Swifties, die Fan-Gemeinschaft von Taylor Swift. Auf sämtlichen Social-Media-Plattformen versuchen sie, die Deepfakes zu verdrängen, indem sie die betroffenen Suchbegriffe mit eigenen Memes und Bildern überspülen.

Die pornografischen Inhalte verschwinden dadurch nicht, büßen aber auf X, Instagram und Co. zumindest etwas von ihrer Sichtbarkeit ein. Keinen Einfluss dürfte diese Aktion aber auf einschlägige Porno-Websites haben, sollten Nutzer die Deepfakes dort bereits hochgeladen haben.

Fans von Taylor Swift rufen außerdem die erwachsene Fangemeinde dazu auf, die Deepfakes gezielt auf Social Media zu suchen und zu melden. Elon Musk solle das Problem endlich in den Griff bekommen, lautet ein Appell.

Fall könnte US-Politik aufrütteln

Mit Taylor Swift ist nun eine außergewöhnlich bekannte Prominente von Deepfake-Pornografie betroffen. Doch sie ist weder die einzige, noch sind nur berühmte Frauen gefährdet. Zumindest ein Hoffnungsschimmer steht im Raum: Taylor Swifts Reichweitenstärke könnte Politik und Unternehmen tatsächlich unter Druck setzen, sich mit der Deepfake-Problematik und KI-generierter Pornografie zu beschäftigen.

Die demokratische Kongressabgeordnete Yvette Clarke arbeitet auf ein Gesetz zur Bekämpfung von Deepfake-Nudes hin. Sie sagt: „Was Taylor Swift passiert ist, ist nichts Neues. Seit Jahren werden Frauen ohne ihre Zustimmung zur Zielscheibe von Deepfakes. Und mit den Fortschritten bei der künstlichen Intelligenz wird es einfacher und günstiger, Deepfakes zu erstellen.“

Karine Jean-Pierre, die Sprecherin des Weißen Hauses, fordert, dass der Kongress ein entsprechendes Gesetz erarbeiten soll. Außerdem müssten Social-Media-Unternehmen wie X und Meta stärker an der Durchsetzung ihrer Richtlinien arbeiten, „um die Verbreitung von Fehlinformationen und nicht-einvernehmlichen, intimen Bildern von echten Menschen zu verhindern.“ Auch mit Blick auf die US-Präsidentschaftswahl im November 2024 wäre ein wirkungsvolles Instrument gegen Desinformation durch Deepfakes wünschenswert.

X will Moderationsteam wieder aufbauen

Laut dem europäischen AI Act müssen KI-generierte Inhalte – und dazu zählen auch Deepfakes – gekennzeichnet werden. Diese Regelung ist zwar begrüßenswert, wird die Ersteller von gezielt gefälschtem Material und Pornografie aber kaum von ihren Tätigkeiten abhalten. Außerdem ist ein gekennzeichnetes Deepfake-Nacktbild für Betroffene nicht weniger demütigend als ein echtes.

Zumindest bei X scheint sich etwas zu tun: Elon Musk hatte bei der Übernahme von Twitter einen Großteil des Moderationsteams entlassen. Nun aber sollen laut Bloomberg wieder 100 Vollzeitbeschäftigte im Bereich Content-Kontrolle eingestellt werden. Ihr hauptsächliches Ziel ist allerdings, Kinderpornografie zu bekämpfen. Das ist zweifellos ein wichtiger Schritt, reicht aber nicht aus, um die relative Sicherheit aller auf X zu gewährleisten.

Mehr zum Thema

„Nudify“-Apps Missbrauch mit KI-generierten Nacktbildern nimmt zu – Anwalt klärt über Rechte auf 

KI-Deepfakes Apple entfernt „Nudify“-Apps aus dem App Store 

KI-generierte Deepfakes Suchmaschinen unternehmen kaum etwas gegen gefälschte Promi-Nacktbilder 

Noch keine Äußerung von Taylor Swift

Taylor Swift selbst hat sich offiziell noch nicht zu den Deepfakes geäußert, soll aber „furious“ (wütend) gewesen sein. Eine ihre nahestehende Person sagte gegenüber der Daily Mail: „Taylors Familien- und Freundeskreis ist wütend, und ihre Fans natürlich auch.“ Zudem solle die Sängerin rechtliche Schritte gegen die Urheber der Deepfake-Posts erwägen. Die Quelle stellt außerdem klar: „Diese gefälschten KI-Bilder sind missbräuchlich, beleidigend, ausbeuterisch und wurden ohne Taylors Zustimmung und/oder Wissen erstellt.“

Letztlich braucht es aber statt rein individuellen Vorgehensweisen systematische und strukturelle Mechanismen, die das Erstellen und Verbreiten von Deepfake-Pornografie signifikant einschränken. Dabei spielen neben den Social-Media-Unternehmen wie X und Meta auch die Suchmaschinen eine große Rolle. Doch auch die Maßnahmen von Google und Bing wirken überfordert im Kampf gegen Deepfake-Pornografie.