Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Warum der AI-Gaydar Bullshit ist

Sonja Peteranderl
Reporter

Senior Editor @Wired_Germany. Co-Founder @BuzzingCities Lab. Berichtet auch für andere Medien wie Spiegel Online über internationale Politik, Tech, Cyber & Crime, OC, oft aus Lateinamerika/Mexiko.

Zum User-Profil
Sonja PeteranderlDonnerstag, 14.09.2017

Kann AI am Gesicht erkennen, ob jemand homosexuell ist? Die vor kurzem vorgestellte und kontrovers diskutierte Studie von Yilun Wang und Michal Kosinski von der Stanford University will genau dies belegen: Sie trainierten eine Gesichtserkennungssoftware mit Fotos von einer US-Datingplattform und Informationen zur sexuellen Orientierung, diese erkannte dann Muster in einem ihr unbekannten Datensatz – für Männer mit einer Trefferquote von 81 Prozent.

Die Studie reiht sich in die umstrittene Tradition der Phänotypologie ein, die versucht, vom Aussehen Charaktereigenschaften und andere Erkenntnisse abzuleiten – etwa ob jemand kriminell ist. Sie beförderte unter anderem die Mugshot-Industrie: Oftmals werden aber vor allem Stereotype recycelt, was zur Diskriminierung ohnehin benachteiligter Bevölkerungsgruppen beiträgt.

"AI Can’t Tell if You’re Gay… But it Can Tell if You’re a Walking Stereotype", schreibt der Soziologe Greggor Mattson, der in seiner Replik zentrale Kritikpunkte an der Vorgehensweise und dem Studiendesign zusammengefasst hat, sowie an den Forschern, die aktuelle Erkenntnisse aus Soziologie und Gender Studies ignorieren. Alles, was jenseits der Marker "gay" und "straight" liegt, wird ignoriert, die Auswahl, mit dem der Algorithmus trainiert wurde, fokussiert sich auf weiße, offen homosexuell lebende Männer aus den USA. Auch die Verwechslung von Ursache und Wirkung sowie unscharfe und umstrittene Kategorien wie "clearly Latino" und "Black" verzerren die Erkenntnisse: "By training their workers according to stereotypical American categories, WAK’s algorithm can only spit out the garbage they put in", so Mattson.

Auch die ethischen Vorstellungen von Kosinski stehen in der Kritik, dessen psychometrische Forschung schon Grundlage für Trumps angebliche Microtargeting-Wunderwaffe von Cambridge Analytica war. Mattsons Fazit: "WAK have invented the algorithmic equivalent of an 13-year-old bully, and claim their abomination is in defense of teh geyz."
Warum der AI-Gaydar Bullshit ist

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.