Google-Gesichtserkennung unterscheidet nicht mehr nach Geschlechtern

Googles API Cloud Vision entfernt die Labels “Frau” und “Mann”.

Googles API Cloud Vision entfernt die Labels “Frau” und “Mann”.

Googles künstliche Intelligenz zur Gesichtserkennung, die API Cloud Vision, arbeitet ab sofort genderneutral. Wie “Business Insider” berichtet, verzichtet das Tool zur Erkennung von Fotos künftig auf die Markierungen “Frau” und “Mann”. Stattdessen soll das entsprechende Label “Person” heißen.

Weiterlesen nach der Anzeige
Weiterlesen nach der Anzeige

Der von Google bereitgestellte Dienst kann Inhalt von Fotos automatisch erkennen und kategorisieren. Neben Menschen identifiziert das Programm auch Gegenstände, Markenlogos oder Orte.

Wie Google in einer Mail an Entwickler mitteilt, sei es nicht möglich, das Geschlecht einer Person allein aus ihrer äußeren Erscheinung zu identifizieren. Dabei berief sich das Unternehmen auch auf seine eigenen ethischen Richtlinien für die KI. “Da es unmöglich ist, das Geschlecht einer Person anhand ihres Aussehens abzuleiten, haben wir beschlossen, diese Etiketten zu entfernen, um sie an die Prinzipien der künstlichen Intelligenz bei Google anzupassen, insbesonderen an das Prinzip zwei: Vermeiden Sie es, unfaire Vorurteile zu schaffen oder zu verstärken.”

Auch Algorithmen haben Vorurteile

Immer wieder haben künstliche Intelligenzen und Algorithmen Probleme mit sogenannten Algorithmic Bias (Algorithmische Voreingenommenheit). Wie Nachforschungen des Informatikers Vicente Ordóñez beispielsweise ergaben, neigen einige weit verbreitete Bilderkennungsprogramme zu Sexismus. So wurden etwa unterschiedliche Aktivitäten wie Kochen oder Sport als “weiblich” beziehungsweise “männlich” klassifiziert. Das Bild eines Mannes am Herd wurde daher fälschlicherweise als “Frau” gelabelt.

Weiterlesen nach der Anzeige
Weiterlesen nach der Anzeige

Ein anderes Beispiel lieferte vor einigen Jahren eine künstliche Intelligenz von Amazon, die dabei helfen sollte, Lebensläufe für Bewerbungen vorzusortieren. Dabei hat sich der Algorithmus unter anderem an den Lebensläufen der Mitarbeiter orientiert, die das entsprechende Unternehmen über die vergangenen Jahre gesammelt hatte. Am Ende wurden die Bewerbungen, die die Stichworte “Frauen” und “College” enthielten, von der KI weniger berücksichtigt als die ihrer männlichen Mitbewerber.

RND/mkr


Mehr aus Mecklenburg-Vorpommern

 
 
 
 
 
Anzeige
Anzeige
Empfohlener redaktioneller Inhalt

An dieser Stelle finden Sie einen externen Inhalt von Outbrain UK Ltd, der den Artikel ergänzt. Sie können ihn sich mit einem Klick anzeigen lassen.

 

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unseren Datenschutzhinweisen.

Letzte Meldungen

 
 
 
 
 
 
 
 
 

Spiele entdecken