Google-Gesichtserkennung unterscheidet nicht mehr nach Geschlechtern
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/VDICE5E4T5FOTLGKN3IJOES37Y.jpeg)
Googles API Cloud Vision entfernt die Labels “Frau” und “Mann”.
© Quelle: Sven Hoppe/dpa
Googles künstliche Intelligenz zur Gesichtserkennung, die API Cloud Vision, arbeitet ab sofort genderneutral. Wie “Business Insider” berichtet, verzichtet das Tool zur Erkennung von Fotos künftig auf die Markierungen “Frau” und “Mann”. Stattdessen soll das entsprechende Label “Person” heißen.
Der von Google bereitgestellte Dienst kann Inhalt von Fotos automatisch erkennen und kategorisieren. Neben Menschen identifiziert das Programm auch Gegenstände, Markenlogos oder Orte.
Wie Google in einer Mail an Entwickler mitteilt, sei es nicht möglich, das Geschlecht einer Person allein aus ihrer äußeren Erscheinung zu identifizieren. Dabei berief sich das Unternehmen auch auf seine eigenen ethischen Richtlinien für die KI. “Da es unmöglich ist, das Geschlecht einer Person anhand ihres Aussehens abzuleiten, haben wir beschlossen, diese Etiketten zu entfernen, um sie an die Prinzipien der künstlichen Intelligenz bei Google anzupassen, insbesonderen an das Prinzip zwei: Vermeiden Sie es, unfaire Vorurteile zu schaffen oder zu verstärken.”
Auch Algorithmen haben Vorurteile
Immer wieder haben künstliche Intelligenzen und Algorithmen Probleme mit sogenannten Algorithmic Bias (Algorithmische Voreingenommenheit). Wie Nachforschungen des Informatikers Vicente Ordóñez beispielsweise ergaben, neigen einige weit verbreitete Bilderkennungsprogramme zu Sexismus. So wurden etwa unterschiedliche Aktivitäten wie Kochen oder Sport als “weiblich” beziehungsweise “männlich” klassifiziert. Das Bild eines Mannes am Herd wurde daher fälschlicherweise als “Frau” gelabelt.
Ein anderes Beispiel lieferte vor einigen Jahren eine künstliche Intelligenz von Amazon, die dabei helfen sollte, Lebensläufe für Bewerbungen vorzusortieren. Dabei hat sich der Algorithmus unter anderem an den Lebensläufen der Mitarbeiter orientiert, die das entsprechende Unternehmen über die vergangenen Jahre gesammelt hatte. Am Ende wurden die Bewerbungen, die die Stichworte “Frauen” und “College” enthielten, von der KI weniger berücksichtigt als die ihrer männlichen Mitbewerber.
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/57QKTEQWSJC4ZEKQNI6GEAC7HU.jpeg)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/UNQHBLW3CFHKFHWIQZH7LGBSEE.jpeg)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/JRUBFXPMUND73EZBLGQZ7LNNDM.jpeg)
RND/mkr
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/L2RA5DVSRZBGDANM7PFO7CZ6FE.png)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/QMZCW5QGHVBYVEMZ5ZSJYCXMOQ.png)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/3W2UBW4GYBBKRBDWKAFZBBUOMA.png)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/VHF5GQI6SBF4TJHSUSXJB5IMZU.png)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/ZDN3252EUND7JJAPH7H42VWJPY.png)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/NXJ7JZFYFRDKHDPVHAEVI7KX7E.png)
:format(webp)/cloudfront-eu-central-1.images.arcpublishing.com/madsack/5D65JJ55TFCT7PP32KTUL4P3FY.png)