bluebit

Rekognition

Studie - Amazons Gesichtserkennung versagt bei Frauen

von Robert Klatt •

Laut der Studie des MIT werden Frauen mit dunkler Hautfarbe zu 31 Prozent als Mann erkannt. Amazon selbst bestreitet diese hohe Fehlerquote.


0 Kommentare

Wissenschaftler des Massachusetts Institute of Technology (MIT) haben eine neue Studie veröffentlicht, die zeigt, dass Amazons Gesichtserkennung Rekognition Personen mit dunkler Hautfarbe und Frauen besonders oft falsch erkennt. Am meisten Fehler macht das System bei Frauen mit dunkler Hautfarbe. Laut der Studie werden Frauen aller Hautfarben im Durchschnitt zu 19 Prozent als Mann erkannt, bei Frauen mit dunkler Hautfarbe geht das Amazon Gesichtserkennungssystem sogar bei 31 Prozent aller Personen von Männern aus.

Alte Studien bestätigt

Bereits Mitte 2018 ist Amazon Rekognition negativ aufgefallen, als eine Studie zeigt, dass das System US-Abgeordnete als Kriminelle identifiziert hat. Auch in diesem Fall wurden vermehrt Personen mit dunkler Hautfarbe falsch erkannt und eingestuft. Da das System auch von Polizei- und anderen Ermittlungsbehörden eingesetzt wird, sorgte die Studie 2018 unter Bürgerrechtlern für Entsetzen, die so vermehrt Festnahmen und andere Schritte gegen die falschen Personen befürchteten.

Amazon schlechter als Microsoft, IBM und Co.

Vergleichbare Systeme von Microsoft, IBM, Face++ arbeiten der Geschlechterkennung deutlich fehlerfreier als Amazon Rekognition. Nachdem die Verfasser der aktuellen Studie 2018 die Hersteller der drei alternativen Systeme aufgrund vieler falscher Ergebnisse kritisiert hatten, haben alle Unternehmen mit deutlichen Verbesserungen ihrer Software reagiert. Auch Amazon wurde bereits im vergangenen Jahr über die schlechten Ergebnisse ihres Systems informiert. Laut Joy Buolamwini, Leiterin der Studie hat Amazon auf den Kontaktversuch weder reagiert noch die Software verbessert, wie sie in ihrem Blog schreibt.

Als Reaktion erklärte Matt Wood, Leiter des Bereichs künstliche Intelligenz bei Amazon Web Services, dass die Studie lediglich die Gesichtsanalyse aber nicht die Gesichtserkennung untersucht hat. Bei der Gesichtsanalyse werden lediglich Attribute wie das Tragen einer Brille oder die Haarfarbe abgefragt, ein Vergleich mit einer Datenbank erfolgt jedoch nur bei der Gesichtserkennung. Außerdem soll die untersuchte Rekognition-Version nicht aktuell gewesen sein, da Amazon bereits im November ein großes Update veröffentlicht hat, das laut internen Tests des Unternehmens keine höheren Fehlerquoten bei Personen mit dunkler Hautfarbe mehr produzieren soll.

0 Kommentare

Kommentar verfassen