Künstliche Intelligenz für autonome Fahrzeuge erkennt Menschen mit dunkler Hautfarbe schlechter. Das erhöht das Unfallrisiko für bestimmte Gruppen. Die Problematik ist schon länger bekannt und offenbar immer noch nicht behoben.

Schon im letzten Jahr fiel in Versuchen auf, dass manche KI-Systeme zur Gesichtserkennung in den USA dunkelhäutige Menschen nicht erkannten. Der Grund war simpel: Diese Personen waren nicht Teil der Lerndatenbank. Eine aktuelle Untersuchung des Georgia Institute of Technology zeigte nun, dass das Problem immer noch besteht, doch hier mit potenziell tödlichem Ausgang.

Höheres Unfallrisiko für Fußgänger mit dunkler Hautfarbe

Die Forscher untersuchten acht moderne KI-Systeme, die in autonomen Fahrsystemen Fußgänger, Straßenschilder und andere Objekte erkennen sollen. Das Ergebnis ist beunruhigend: Bei Menschen mit dunkler Haut lieferten die Systeme um fünf Prozent schlechtere Ergebnisse. Dabei spielte es keine Rolle, ob die Fotos, die den Systemen präsentiert wurden, bei Tag oder bei Nacht aufgenommen waren. Das heißt, dass dunkelhäutige Menschen ein höheres Risiko haben, als Fußgänger in einen Unfall mit einem autonom fahrenden Auto verwickelt zu sein, als Menschen mit heller Haut.

KI-Entwickler müssen besonders auf solche Probleme achten

Um das zu beheben, müssten die verantwortlichen Ingenieure ihre Künstlichen Intelligenzen mit mehr Bildern von dunkelhäutigen Fußgängern füttern. Sie müssten darauf achten, dass die Software gerade diese Fotos korrekt erkennt, schreiben die Forscher. Das Problem müsse behoben werden, bevor autonome Fahrzeuge die Straßen übernehmen.

Dass die KI-Systeme absichtlich rassistisch programmiert wurden, lässt sich aus den Ergebnissen nicht ableiten. Ebenso denkbar sind unbewusste Auslassungen. Doch diese führen dazu, dass Maschinen ähnlich wie Menschen diskriminieren – weil sie nur aus den Daten lernen, die Menschen ihnen zum Lernen geben. Der aktuelle Fall lenkt wieder einmal die Aufmerksamkeit darauf, dass KI-Systeme die gesellschaftliche Vielfalt nicht ausreichend abbilden.

Ähnliche Probleme mit der Gesichtserkennung von Amazon

Solche Beispiele gibt es genug. Schon im Januar wurde bekannt, dass Amazons Gesichtserkennung Rekognition Probleme hat, Männer von Frauen zu unterscheiden. Das gilt besonders für Frauen mit dunkler Haut. Und auch generell erkennt das System, welches in den USA auch die Polizei und die Einwanderungsbehörden nutzen, Menschen mit dunkler Hautfarbe schlechter. Amazon weist die Kritik zurück. Ähnliche Beispiele gab es in der Vergangenheit auch mit Programmen von Microsoft, IBM und Megvii. Diese drei Anbieter haben allerdings reagiert und ihre Software verbessert.

Quellen / Weiterlesen
Autonomous Cars Can’t Recognise Pedestrians with Darker Skin Tones | Interesting Engineering
Self-Driving Cars May Hit People With Daker Skin More Often | Futurism
KI im Auto hat Probleme mit Personen mit dunkler Haut? | Autonomes Fahren & Co
Bildquelle: Public Domain Pictures.net
Ajaz Shah
Ajaz Shah ist seit 2010 im Bereich der erneuerbaren Energien in der Projektfinanzierung und dem Projekmanagement für verschiedene Unternehmen tätig. Er arbeitete an Solar- und Windprojekten mit einer Gesamtkapazität von mehr als 50 MW in Deutschland, Spanien, Italien, Großbritannien, Tschechien und Frankreich mit. Daneben ist er freiberuflich im Online Marketing tätig. Ajaz hat zusammen mit Stephan Hiller energyload.eu im Oktober 2013 initiiert.

1 KOMMENTAR

  1. Interessant das System keine DUNKLEN GESICHTER erkennen können soll.
    Das Problem scheint mir liegt bei den Programmentwicklern und Programmierern!
    Sie sitzen im sonnigen ´Kalifornien an der Westküste und in Asien wo die Sonne länger scheint!

    Leider ist zum Beispiel in Europa in den „dunklen Jahreszeiten“ ca. ab September bis März
    „schwarze Kleidung“ im Winter noch mit dicken Schals und Mützen üblich.
    Ferner sind Nebenstraßen ohne Leuchtreklame und beleuchtete Straßenmöbel, Schaufenster oft sehr dunkel. Bei Regen ebenso.
    Radfahrer in Großstädten, Fahrradboten etc. tragen meist dunkle Kleidung , fahren ohne Reflektoren und Beleuchtung oft auch kreuz und quer durch den Abendverkehr.
    Was soll da ein „sichtbares weißes Gesicht oder graue Haare eines WEISSEN ALTEN MANNS oder FRAU
    ausmachen ,dessen sichtbare Fläche kaum größer ist als ein DIN A 2 Blatt oder eine Postkarte?
    Leider gibt es wenige Menschen mit „Heller Leuchtenden Kleidung“ im Straßenbild!
    Meines Wissens arbeiten die E Autosysteme mit KAMERAS und RADAR im Frontbereich des Autos!

    Wenn es nur die dunklen Menschen wären ,wie will das AUTONOM FAHREDE FAHRZEUG dann
    TIERE, REHE, WILDSCHWEINE etc. erkennen oder Hunde
    Nicht immer wird eine SCHWARZ/WEISS gefleckte KUH die Straße kreuzen!

HINTERLASSEN SIE EINE ANTWORT

Please enter your comment!
Please enter your name here