X

"Echt" oder KI-generiert: So geht Microsoft gegen Bildmanipulation vor

Microsoft hat im Rahmen der Entwicklerkonferenz Build eine Ankündigung gemacht, die vielleicht ein wenig Ruhe in die Diskussion um KI-generierte Inhalte bringt: Man wird eine Option zur Überprüfung starten, ob Bildmaterial mittels Künstlicher Intelligenz generiert wurde.
23.05.2023  20:12 Uhr
Dieser KI-Check soll ganz einfach umgesetzt werden - ist aber auch etwas halbherzig. Microsoft markiert alle Bilder, die in ihren Tools mithilfe der Künstlichen Intelligenz erschaffen werden, mit einer Signatur, die später einfach wiedererkannt wird. Das soll gleich doppelt helfen: Otto Normal-Verbraucher sollen laut Microsoft damit Gewissheit bekommen, ebenso wie Künstler, Unternehmen und andere, die Bilder einsetzen und sichergehen wollen, dass sie nicht manipuliert wurden.

Bing mit ChatGPT
Der KI-Chat Bing beherrscht auch Bildgenerierung

Verbesserungen für Bing Image Creator und Designer

Umgesetzt wird das mit neuen Funktionen für Bing Image Creator und Designer. Das ist Microsofts Canva-ähnliche Web-App, die unter anderem für den Einsatz in sozialen Medien Bilder erstellen kann.

Microsoft plant nun, mithilfe kryptografischer Methoden eine Art Wasserzeichen auf KI-Bilder und Videos zu legen. Diese Wasserzeichen sind aber nicht für das menschliche Auge sichtbar, sondern nur für das KI-Check-Tool, das auf Webseiten eingesetzt werden kann.

Fake-Bilder von Trumps Verhaftung

Verband für klare KI-Regelung

Für diese Erkennung nutzt Microsoft die Spezifikation der "Coalition for Content Provenance and Authenticity (C2PA)". In diesem Verband haben sich unter anderem Adobe, Arm, Intel, Microsoft und Truepic zusammengeschlossen, um Bild- und Inhaltsmanipulationen aufzudecken. Webseiten, die sich diesem Standard der C2PA nicht anschließen, bieten allerdings auch keine KI-Erkennung. Das gilt auch für bekannte Generatoren wie Stability AI, die keine Wasserzeichen zur Erkennung nutzen wollen. Damit hilft der Ansatz von Microsofts Image Creator also nur sehr begrenzt.

In den kommenden Monaten verspricht der Konzern aber eine Ausweitung seiner Ideen gegen unerkannte Bildmanipulationen.

Zusammenfassung
  • Microsoft will KI-generierte Bilder kennzeichnen für KI-Check-Tool.
  • Ziel: Gewissheit, dass Bilder nicht manipuliert wurden.
  • Microsoft will Ideen gegen Bildmanipulationen noch ausbauen.
  • Nicht alle Generatoren wollen Wasserzeichen nutzen, daher begrenzter Nutzen.

Weitere interessante Themen der Microsoft Build 2023:
Verwandte Themen
BUILD
☀ Tag- / 🌙 Nacht-Modus
Desktop-Version anzeigen
Impressum
Datenschutz
Cookies
© 2023 WinFuture