Amazons Gesichtserkennung hält Abgeordnete für Kriminelle

Laut der amerikanischen Bürgerrechtsorganisation American Civil Liberties Union (ACLU) hat das automatische Gesichtserkennungs-System des Versandriesen Amazon noch große Fehler, die sich in falsch erkannten Personen (false positives) äußern. Um zu beweisen, dass das System fehleranfällig ist hat die ACLU Fotos von 535 US-Kongressabgeordneten mit 25.000 öffentlichen verfügbaren Fotos aus Polizeidatenbanken verglichen. Obwohl keiner der 535 Abgeordneten in den 25.000 Mugshots tatsächlich enthalten war, hat das System von Amazon 28 Abgeordnete fälschlicherweise in den Polizeifotos erkannt.

Polizei setzt System bereits in der Praxis

Die hohe Anzahl falsch erkannter Personen ist laut der ACLU besonders kritisch, da das Amazon Rekognition System bereits in den USA von verschiedenen Polizeibehörden erprobt und sogar in der Praxis eingesetzt wird. Die Bürgerrechtler erklären, dass grade für hartes Durchgreifen der Polizei bekannten USA „"eine Identifizierung – akkurat oder nicht –Menschen ihre Freiheit oder sogar ihr Leben kosten könnte“. Sie fordern daher den Kongress auf, die Nutzung des Systems durch Ermittlungsbehörden umgehend zu verbieten.

Laut einem Bericht von USA Today wird das System unteranderem von der Polizei von Orlando (Florida) bereits genutzt. Der Praxis-Test nutzt Fotos freiwilligen Polizisten, die mit Filmmaterial der stadtweit vorhandenen Überwachungskameras abgeglichen werden.

Test laut Amazon nicht aussagekräftig

Das Unternehmen hinter dem System Amazon hingegen kontert damit, dass die Ergebnisse der Bürgerrechtler nicht aussagekräftig seien, da der Test unter unrealistischen Bedingungen durchgeführt wurde. Der Konzern behauptet, dass der ACLU die Wahrscheinlichkeitsschwelle für die Erkennung eines Gesichtes zu grob eingestellt habe. Um Menschen zu erkennen setzt die Polizei hier einen Wert von mindestens 95 Prozent ein, der Test der Bürgerrechtler soll jedoch mit nur 80 Prozent Erkennungs-Wahrscheinlichkeit erfolgt sein. Wie ein Amazon-Sprecher gegenüber dem Magazin The Verge erklärte sei diese Genauigkeit ausreichend um Gegenstände zu erkennen, allerdings nicht um Personen zu identifizieren.

Auch in Oregon wird das System durch die lokale Polizei bereits genutzt. Das dortige Sheriff‘s Office hat dafür 300.000 Fotos festgenommener Person in das Amazon System eingespielt. Polizisten werden so umgehend darüber informiert, ob eine Person in der Vergangenheit bereits einmal festgenommen worden waren. Um die Datenbank auszubauen können Sheriff-Beamte ohne weitere Kontrolle über ihr Smartphone beliebige Fotos hinzufügen. Laut der Washington Post sind die Kosten des Dienstes mit 6 und 12 Dollar pro Monat verschwindend gering.

Auch die ACLU gibt an, dass die Kosten des Systems unglaublich günstig sind. Ihr Test soll nur 12,33 Dollar gekostet haben. Wofür das Rekognition-System in der Praxis konkret genutzt wird erklären die Behörden nicht. Stattdessen berufen sie sich auf die Schweigeverpflichtung, die sie gegenüber Amazon unterzeichnet haben.