Heftige Kritik an Amazon-Gesichtserkennungssoftware für die Polizei

Amazon hängt seine Gesichtserkennungssoftware nicht unbedingt an die große Glocke, doch diese steht gerade unter heftigem Beschuss von US-amerikanischen Bürgerrechtsorganisationen. Denn die American Civil Liberties Union (ACLU) hat aufgedeckt, dass die Rekognition genannte Software, die mit Hilfe der Cloud in Echtzeit bis zu 100 Menschen gleichzeitig identifizieren kann, bereits bei US-amerikanischen Polizeibehörden zum Einsatz kommt. Rekognition greift dabei auf eine Datenbank von mehreren zehn Millionen Gesichtern zu, daraus macht Amazon auch gar kein Geheimnis, wie man in diesem Blogbeitrag nachlesen kann. Die Software ist an sich auch nicht das Problem, sondern die Tatsache, dass Amazon hier die Regierung beliefert.

"Lädt zum Missbrauch ein"

Wie die ACLU in einem offenen Brief (PDF), der von rund 30 Organisationen wie der Electronic Frontier Foundation (EFF) und Human Rights Watch mitunterzeichnet wurde, schreibt, bekommt die Exekutive damit ein (zu) mächtiges Werkzeug, mit dem sie einen Überwachungsstaat errichten kann. Automatisiert kann mit Rekognition ein "System zur Identifikation und dem Tracking von jedermann aufgebaut werden", so die Bürgerrechtler.

Auf YouTube ansehen
Mehr als das: Die Polizei kann damit u. a. Teilnehmer von Demonstrationen erfassen oder Einwanderer überwachen. Städte könnten auch kategorisch ihre Einwohner anvisieren, ob diese tatsächlich der kriminellen Aktivität verdächtigt werden oder nicht, spiele keine Rolle, so die ACLU.

Amazon hat sich dazu auch schon geäußert (via Ars Technica) und schreibt in einem ausführlichen Statement, dass man Rekognition-Kunden einen verantwortungsvollen Umgang mit der Software vorschreibt. Bei Verstößen wird der Zugang des Kunden zum (Cloud-)Dienst ausgesetzt.

Amazon verteidigt sich auch mit regelrecht philosophischen Gedankengängen und meint, dass unsere Lebensqualität heute viel schlechter wäre, wenn man Technologie verbieten würde, nur weil sie auch missbraucht werden kann: "Man stelle sich vor, man könnte keinen Computer kaufen, weil man diesen auch für illegale Zwecke einsetzen kann."