"Echt" oder KI-generiert: So geht Microsoft gegen Bildmanipulation vor

Nadine Dressler, 23.05.2023 20:12 Uhr 2 Kommentare
Microsoft hat im Rahmen der Entwicklerkonferenz Build eine Ankündigung gemacht, die vielleicht ein wenig Ruhe in die Diskussion um KI-generierte Inhalte bringt: Man wird eine Option zur Überprüfung starten, ob Bildmaterial mittels Künstlicher Intelligenz generiert wurde. Dieser KI-Check soll ganz einfach umgesetzt werden - ist aber auch etwas halbherzig. Microsoft markiert alle Bilder, die in ihren Tools mithilfe der Künstlichen Intelligenz erschaffen werden, mit einer Signatur, die später einfach wiedererkannt wird.

Das soll gleich doppelt helfen: Otto Normal-Verbraucher sollen laut Microsoft damit Gewissheit bekommen, ebenso wie Künstler, Unternehmen und andere, die Bilder einsetzen und sichergehen wollen, dass sie nicht manipuliert wurden.

Bing mit ChatGPT
Der KI-Chat Bing beherrscht auch Bildgenerierung

Verbesserungen für Bing Image Creator und Designer

Umgesetzt wird das mit neuen Funktionen für Bing Image Creator und Designer. Das ist Microsofts Canva-ähnliche Web-App, die unter anderem für den Einsatz in sozialen Medien Bilder erstellen kann.

Microsoft plant nun, mithilfe kryptografischer Methoden eine Art Wasserzeichen auf KI-Bilder und Videos zu legen. Diese Wasserzeichen sind aber nicht für das menschliche Auge sichtbar, sondern nur für das KI-Check-Tool, das auf Webseiten eingesetzt werden kann.

Fake-Bilder von Trumps Verhaftung

Verband für klare KI-Regelung

Für diese Erkennung nutzt Microsoft die Spezifikation der "Coalition for Content Provenance and Authenticity (C2PA)". In diesem Verband haben sich unter anderem Adobe, Arm, Intel, Microsoft und Truepic zusammengeschlossen, um Bild- und Inhaltsmanipulationen aufzudecken. Webseiten, die sich diesem Standard der C2PA nicht anschließen, bieten allerdings auch keine KI-Erkennung. Das gilt auch für bekannte Generatoren wie Stability AI, die keine Wasserzeichen zur Erkennung nutzen wollen. Damit hilft der Ansatz von Microsofts Image Creator also nur sehr begrenzt.

In den kommenden Monaten verspricht der Konzern aber eine Ausweitung seiner Ideen gegen unerkannte Bildmanipulationen.

Zusammenfassung
  • Microsoft will KI-generierte Bilder kennzeichnen für KI-Check-Tool.
  • Ziel: Gewissheit, dass Bilder nicht manipuliert wurden.
  • Microsoft will Ideen gegen Bildmanipulationen noch ausbauen.
  • Nicht alle Generatoren wollen Wasserzeichen nutzen, daher begrenzter Nutzen.

Weitere interessante Themen der Microsoft Build 2023:
2 Kommentare lesen & antworten
Folge WinFuture auf Google News
Verwandte Themen
BUILD Bing
Desktop-Version anzeigen
Hoch © 2023 WinFuture Impressum Datenschutz Cookies