X

Porno-Fakes von Taylor Swift: 4chan sieht sich jetzt herausgefordert

Kürzlich haben pornografische Fakes von Taylor Swift für viel Aufregung gesorgt, die Prominenz der Sängerin sorgte sogar dafür, dass sich die Politik des Themas sexualisierter Fakes annehmen will. Für einige Nutzer auf 4chan bedeutet das aber wohl ein "Jetzt erst recht".
06.02.2024  11:43 Uhr

Swift-Fakes: Medien und Politik in Aufregung

Bereits in den Kommentaren zu unserer ursprünglichen Meldung zu den Swift-Fakes merkten einige an, dass das alles andere als neu ist, da es solche gefälschten Bilder auf einschlägigen Seiten schon lange gibt. Dazu kommt, dass einige auch meinten, dass die Bilder nicht einmal besonders gut gemacht waren. Dennoch gab es eine gewaltige Aufregung, was wohl daran liegt, dass die meisten Fans von Taylor Swift - die sich selbst "Swifties" nennen - derartige Bilder zum ersten Mal im Leben zu sehen bekamen. Woher diese Bilder stammen, war zunächst nicht bekannt, mittlerweile gibt es aber eine Studie dazu, die herausfinden wollte, woher diese Bildfälschungen stammen.


Wie die New York Times (NYT) berichtet, ist das Ergebnis dieser Studie nicht überraschend, zumindest für Kenner der Netzszene. Denn die generativen Fakes wurden von 4chan-Nutzern erstellt. Allerdings war es nicht ihr primäres Ziel, Swift und ihren Fans Schaden zuzufügen. Vielmehr sei es eine Art Spiel, und zwar um zu testen, ob sie generative KIs dazu bringen können, unzüchtige und manchmal auch gewalttätige Bilder zu erstellen. Freilich ist und bleibt 4chan eine Jauchegrube, denn es ging hier ausschließlich um Bilder von Frauen.

Und dennoch: Es war auch bzw. primär ein technisches Problem: "Einige 4chan-Nutzer erklärten, dass sie lieber versuchen, die Sicherheitsvorkehrungen der Mainstream-KI-Bildgeneratoren zu überwinden, als mit alternativen Open-Source-Bildgeneratoren realistische sexuelle Inhalte zu erstellen", schreibt Graphika laut NYT, das die Analyse vorgenommen hat. "Sie teilten auch mehrere Verhaltenstechniken, um Bildaufforderungen zu erstellen, die zum Ziel haben, Verbote zu umgehen und erfolgreich sexuell explizite Promi-Bilder zu erstellen."

Anvisiert wurden dabei vor allem Microsoft-Tools wie Bing Image Creator und Microsoft Designer, aber auch Dall-E direkt (auf dem beide Microsoft-Anwendungen basieren). Die kritische Berichterstattung über die Fakes wird auf 4chan das Gegenteil erreichen, auch das dürfte Kenner der Plattformen kaum überraschen. Denn auf 4chan sieht man sich dadurch weiter herausgefordert - darauf müssen die Anbieter solcher Generatoren auch reagieren - und zwar indem sie direkt Aktionen von 4chan und vergleichbaren Plattformen analysieren und kontern.

Zusammenfassung
  • Pornografische Fakes von Taylor Swift sorgen für politische Debatte
  • Fans von Swift, genannt "Swifties", schockiert von Fälschungen
  • Studie untersucht Herkunft der gefälschten Bilder
  • 4chan-Nutzer kreierten die generativen Fakes als Spiel
  • Ziel war das Umgehen von Sicherheitsvorkehrungen bei KI-Tools
  • Microsoft-Tools wie Bing Image Creator im Fokus der Hacker
  • Berichterstattung über Fakes spornt 4chan-Nutzer zu weiteren Aktionen an
Verwandte Themen
Künstliche Intelligenz X/Twitter
☀ Tag- / 🌙 Nacht-Modus
Desktop-Version anzeigen
Impressum
Datenschutz
Cookies
© 2024 WinFuture