Image credit:

Facial Recognition liebt immer noch weiße Männer

Dunkelhäutige Frauen erkennen ist fast schon Zufall
0 Shares
Share
Tweet
Share
Save


So langsam bewegen wir uns ja in eine Gesellschaft, in der immer stärker versucht wird, Gesichtserkennung auch als polizeiliche Maßnahme zu etablieren. Zuletzt hatten wir auch in Deutschland Tests in in einem Berliner S-Bahnhof gesehen. Nach einer Studie von Joy Buolamwini am MIT sieht man allerdings in derzeit kommerziell erhältlicher Software einen gravierenden Mangel, der neben allen Privatsspäre-Einwänden den Einsatz solcher Software noch fragwürdiger macht.

Wenn bei solcher Software von Erfolgsraten gesprochen wird, hat man es gewöhnlich mit einer Zahl zu tun. Soundso viele wurden richtig erkannt, soundso viele gar nicht, soundso viele false positives gab es.

In einem recht einfachen Test, der untersucht hat, wie oft die Gesichtserkennug das Geschlecht (hier im klassischen Sinn von männlich/weiblich) von Personen richtig definieren kann, kam es mit Software von Microsoft, IBM und Face++ zu einem erstaunlichen, von Kritikern sicherlich erwarteten, Ergebnis. Hellhäutige Männer wurden am besten als Männer erkannt (Fehlerquote 1%), hellhäutige Frauen als solche mit 7%, bei dunkelhäutigen Männern lag die Fehlerquote schon bei 12% und bei dunkelhäutigen Frauen bei 35%.

Das liegt zu einem großen Teil sicherlich an der unausgewogenen Diät bei der Fütterung solcher AI-Systeme. Obwohl dieses Problem nahezu seit Beginn der Welle von Facial Recognition bekannt ist, scheint sich hier nur sehr langsam eine Besserung einzustellen. Sicher jedenfalls scheint: auch nur in Betracht zu ziehen, solche Software für Polizei-Aufgaben einzusetzen, ohne dieses Thema gründlich in die Auswertung von Testläufen miteinzubeziehen, ist ein Rezept für Desaster.

From around the web

ear iconeye icontext filevr