Beispiel eines Deepfakes von Midjourney - Trump verhaftet (Foto: r/midjourney subreddit)
Das Tool wurde unter anderem dazu verwendet, Bilder von Ex-US-Präsident Donald Trump in Handschellen und von Papst Franziskus in einer hippen weißen Daunenjacke zu fälschen.
Hochkarätige Deepfakes
Die Fotos sind dank KI mittlerweile so realistisch, dass Midjourney nach der Aufregung um die gefälschten Promi-Bilder jetzt den Stecker zieht. Midjourney stellt die kostenlose Nutzung seines KI-Bildgenerators ein, damit es deutlich schwieriger wird, mithilfe des Tools hochkarätige Deepfakes zu erstellen. CEO David Holz erklärte dazu, dass das Unternehmen die kostenlosen Testversionen aufgrund der "außerordentlichen Nachfrage und des Missbrauchs der Testversionen" einstellt.Die neuen Sicherheitsvorkehrungen hätten nicht ausgereicht, um Missbrauch während der Testphase zu verhindern, so Holz. Bis auf Weiteres müssen Nutzer damit mindestens 10 Dollar pro Monat zahlen, um die Technologie zu testen. Das hält zwar Nutzer nicht davon ab, Deepfakes zu erstellen. Das Unternehmen will aber Bezahl-Accounts besser verifizieren, sodass man bei missbräuchlicher Nutzung die Verantwortlichen schneller finden kann.
Zusammenfassung
- KI-Bildgenerator Midjourney stellt kostenlose Testversion ein.
- Nutzer stellten Deepfakes her, die glaubwürdig schienen.
- Fotos so realistisch, dass Midjourney den Stecker zieht.
- Keine kostenlose Nutzung, da "außergewöhnlicher" Missbrauch der Testversion.
- Nutzer müssen mind. 10 Dollar pro Monat zahlen, um Technologie zu testen.
- Bezahl-Accounts besser verifiziert.