Microsoft hat im Rahmen der Entwicklerkonferenz Build eine Ankündigung gemacht, die vielleicht ein wenig Ruhe in die Diskussion um KI-generierte Inhalte bringt: Man wird eine Option zur Überprüfung starten, ob Bildmaterial mittels Künstlicher Intelligenz generiert wurde.
Dieser KI-Check soll ganz einfach umgesetzt werden - ist aber auch etwas halbherzig. Microsoft markiert alle Bilder, die in ihren Tools mithilfe der Künstlichen Intelligenz erschaffen werden, mit einer Signatur, die später einfach wiedererkannt wird.
Das soll gleich doppelt helfen: Otto Normal-Verbraucher sollen laut Microsoft damit Gewissheit bekommen, ebenso wie Künstler, Unternehmen und andere, die Bilder einsetzen und sichergehen wollen, dass sie nicht manipuliert wurden.
Microsoft plant nun, mithilfe kryptografischer Methoden eine Art Wasserzeichen auf KI-Bilder und Videos zu legen. Diese Wasserzeichen sind aber nicht für das menschliche Auge sichtbar, sondern nur für das KI-Check-Tool, das auf Webseiten eingesetzt werden kann.
Fake-Bilder von Trumps Verhaftung
Verband für klare KI-Regelung
Für diese Erkennung nutzt Microsoft die Spezifikation der "Coalition for Content Provenance and Authenticity (C2PA)". In diesem Verband haben sich unter anderem Adobe, Arm, Intel, Microsoft und Truepic zusammengeschlossen, um Bild- und Inhaltsmanipulationen aufzudecken. Webseiten, die sich diesem Standard der C2PA nicht anschließen, bieten allerdings auch keine KI-Erkennung. Das gilt auch für bekannte Generatoren wie Stability AI, die keine Wasserzeichen zur Erkennung nutzen wollen. Damit hilft der Ansatz von Microsofts Image Creator also nur sehr begrenzt.
In den kommenden Monaten verspricht der Konzern aber eine Ausweitung seiner Ideen gegen unerkannte Bildmanipulationen.
Zusammenfassung
Microsoft will KI-generierte Bilder kennzeichnen für KI-Check-Tool.
Ziel: Gewissheit, dass Bilder nicht manipuliert wurden.
Microsoft will Ideen gegen Bildmanipulationen noch ausbauen.
Nicht alle Generatoren wollen Wasserzeichen nutzen, daher begrenzter Nutzen.
Weitere interessante Themen der Microsoft Build 2023:
Anmelden
Microsoft hat im Rahmen der Entwicklerkonferenz Build eine Ankündigung gemacht, die vielleicht ein wenig Ruhe in die Diskussion um KI-generierte Inhalte bringt: Man wird eine Option zur Überprüfung starten, ob Bildmaterial mittels Künstlicher Intelligenz generiert wurde.
Dieser KI-Check soll ganz einfach umgesetzt werden - ist aber auch etwas halbherzig. Microsoft markiert alle Bilder, die in ihren Tools mithilfe der Künstlichen Intelligenz erschaffen werden, mit einer Signatur, die später einfach wiedererkannt wird.
