Folgenschwere Deepfakes sollen mit dem neuen Microsoft Tool enttarnt werden
Der Präsident der Vereinigten Staaten verkündet in einem Video einen Atomangriff auf China: Diese und ähnliche Schreckensszenarien werden immer wieder an die Wand gemalt, wenn es um die folgenschweren Möglichkeiten geht, die Deepfakes mit sich bringen. Während die KI-gestützte Technologie zur Manipulation von Videos aktuell meist für komödiantische Zwecke zum Einsatz kommt, sind die denkbaren Anwendungsfelder für viele Beobachter Grund genug, um nach zuverlässigen Erkennungsmethoden zu suchen. Genau ein solches Werkzeug stellt jetzt Microsoft mit Video Authenticator bereit.
Microsofts Video Authenticator in Aktion
Unter der Überschrift "Der nächste Schritt im Kampf gegen Falschinformationen" beschreibt der Konzern in einem aktuellen Blogpost den Anlass für die Bemühungen: Demnach sehen sich immer mehr Länder in den letzten Jahren weitreichenden Kampagnen ausgesetzt, die darauf abzielen, "namhafte Personen zu diffamieren, die Öffentlichkeit zu manipulieren oder Debatten zu polarisieren". Dabei sieht der Konzern vor allem in Deepfakes ein immer größer werdendes Problem, dem man sich mit Technologie entgegenstemmen will.
Deepfakes machen erkennbare Fehler
Video Authenticator kann dabei Standbilder oder Videos analysieren, um dann eine prozentuale Wahrscheinlichkeit und damit einen "Vertrauenswert" zu ermitteln, ob das Medium künstlich manipuliert wurde. Bei Videos kann das Werkzeug diesen Prozentsatz in Echtzeit für jedes Einzelbild während der Wiedergabe anzeigen. "Es funktioniert, indem es die Überblendungsgrenze des Deepfake und subtile Überblendungen oder Graustufenelemente erkennt, die für das menschliche Auge möglicherweise nicht wahrnehmbar sind", so die Macher von Microsoft Research zur Funktionsweise.Video Authenticator soll in einer Partnerschaft mit der Stiftung Reality Defender 2020 (RD2020) für "Nachrichtenagenturen und politische Kampagnen" bereitgestellt werden. Darüber hinaus soll die Technolgoie in einem Zusammenschluss aus Medienunternehmen - unter anderem BBC, CBC/Radio-Canada und New York Times - getestet und weiterentwickelt werden. "In den kommenden Monaten hoffen wir, die Arbeit in diesem Bereich auf noch mehr Technologieunternehmen, Nachrichtenverlage und Social-Media-Unternehmen auszuweiten."
News zum Thema:
