Autonome Fahrsysteme unsicherer für Fußgänger mit dunkler Haut

Warning: Undefined variable $output in /homepages/33/d267726697/htdocs/clickandbuilds/energyload/wp-content/plugins/wordpress-plugin-for-simple-google-adsense-insertion/WP-Simple-Adsense-Insertion.php on line 72

Künstliche Intelligenz für autonome Fahrzeuge erkennt Menschen mit dunkler Hautfarbe schlechter. Das erhöht das Unfallrisiko für bestimmte Gruppen. Die Problematik ist schon länger bekannt und offenbar immer noch nicht behoben.

Schon im letzten Jahr fiel in Versuchen auf, dass manche KI-Systeme zur Gesichtserkennung in den USA dunkelhäutige Menschen nicht erkannten. Der Grund war simpel: Diese Personen waren nicht Teil der Lerndatenbank. Eine aktuelle Untersuchung des Georgia Institute of Technology zeigte nun, dass das Problem immer noch besteht, doch hier mit potenziell tödlichem Ausgang.

Höheres Unfallrisiko für Fußgänger mit dunkler Hautfarbe

Die Forscher untersuchten acht moderne KI-Systeme, die in autonomen Fahrsystemen Fußgänger, Straßenschilder und andere Objekte erkennen sollen. Das Ergebnis ist beunruhigend: Bei Menschen mit dunkler Haut lieferten die Systeme um fünf Prozent schlechtere Ergebnisse. Dabei spielte es keine Rolle, ob die Fotos, die den Systemen präsentiert wurden, bei Tag oder bei Nacht aufgenommen waren. Das heißt, dass dunkelhäutige Menschen ein höheres Risiko haben, als Fußgänger in einen Unfall mit einem autonom fahrenden Auto verwickelt zu sein, als Menschen mit heller Haut.

KI-Entwickler müssen besonders auf solche Probleme achten

Um das zu beheben, müssten die verantwortlichen Ingenieure ihre Künstlichen Intelligenzen mit mehr Bildern von dunkelhäutigen Fußgängern füttern. Sie müssten darauf achten, dass die Software gerade diese Fotos korrekt erkennt, schreiben die Forscher. Das Problem müsse behoben werden, bevor autonome Fahrzeuge die Straßen übernehmen.

Dass die KI-Systeme absichtlich rassistisch programmiert wurden, lässt sich aus den Ergebnissen nicht ableiten. Ebenso denkbar sind unbewusste Auslassungen. Doch diese führen dazu, dass Maschinen ähnlich wie Menschen diskriminieren – weil sie nur aus den Daten lernen, die Menschen ihnen zum Lernen geben. Der aktuelle Fall lenkt wieder einmal die Aufmerksamkeit darauf, dass KI-Systeme die gesellschaftliche Vielfalt nicht ausreichend abbilden.

Ähnliche Probleme mit der Gesichtserkennung von Amazon

Solche Beispiele gibt es genug. Schon im Januar wurde bekannt, dass Amazons Gesichtserkennung Rekognition Probleme hat, Männer von Frauen zu unterscheiden. Das gilt besonders für Frauen mit dunkler Haut. Und auch generell erkennt das System, welches in den USA auch die Polizei und die Einwanderungsbehörden nutzen, Menschen mit dunkler Hautfarbe schlechter. Amazon weist die Kritik zurück. Ähnliche Beispiele gab es in der Vergangenheit auch mit Programmen von Microsoft, IBM und Megvii. Diese drei Anbieter haben allerdings reagiert und ihre Software verbessert.

Quellen / Weiterlesen