sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Dumme künstliche Intelligenz
Buchautor und Journalist
Kurator'in für: Fundstücke Medien und Gesellschaft Flucht und Einwanderung Feminismen
Reporter, Kurator, Autor für deutsche und internationale Medien. Studium der Politikwissenschaft/Anthropologie. Themen: Weiße Mehrheitsgesellschaft, MENA, Autokratien, Kapitalismuskritik, Feminismus und kritische Theorie.
Wenn ich es richtig verstanden habe, funktioniert das Prinzip der künstlichen Intelligenz (KI) wie folgt: von Menschen gemachte Programme nutzen frei verfügbare Daten aus dem Netz oder anderen Pools, um sich Muster und Strukturen anzueignen und dadurch selbstständig denken zu lernen und ultimativ Entscheidungen zu treffen. Weil aber die zugrunde liegenden Daten einen historischen Bias beinhalten, ist auch die KI voreingenommen.
Beispiel 1: Viele Übersetzungsprogramme, die auf KI basieren, tragen einen sexistischen Bias in sich. So werden "typisch männliche Berufe" in den Übersetzungen immer Cis-Männern zugewiesen, obwohl einige Ursprungssprachen (zum Beispiel Englisch oder Finnisch) genderneutral sind. Ärzt*innen sind dann in der Übersetzung immer Männer, Krankenpfleger*innen immer Frauen.
Beispiel 2: In den USA nutzen einige Richter*innen (warum auch immer) eine KI-Software, die das Rückfallrisiko von Häftlingen ausrechnet. Eine Untersuchung des Journalistenverbundes ProPublica wies eine Diskriminierung aufgrund der Hautfarbe nach. Weiße Häftlinge wurden von der KI systematisch mit einem geringeren Rückfallrisiko bewertet. Bedeutet im Umkehrschluss: für nicht-weiße Häftlinge entscheidet die KI, dass sie besser alle keine Hafterleichterung bekommen sollten.
Mit dem vermehrten Einsatz von KI in den verschiedensten Bereichen des Lebens und Zusammenlebens steigt also auch das potenzial automatisierter Diskriminierung: Schwarze Menschen werden im Gesundheitssystem benachteiligt, Frauen werden bei der Vergabe von Krediten durch Banken benachteiligt oder die KI entscheidet zu Ungunsten eines Bewerbers (auf egal etwas) anhand der angegebenen Postleitzahl des Wohnorts. Falsche Postleitzahl = keine Chance. So werden neue Daten erzeugt und daraus lernt die KI weiter.
Die künstliche Intelligenz übernimmt also die Dummheit der Menschheit und verstärkt sie, indem sie sie automatisiert weiterführt. Im verlinkten Beitrag zu einer aktuellen Münsteraner Tagung zum Thema heißt es: Unter Programmierer*innen herrscht für dieses Problem so gut wie keine Sensibilisierung. Die KI reflektiert also auch die Einstellung ihrer Macher*innen. Ein intelligenter Ausweg aus diesem Dilemma ist nicht in Sicht.
Quelle: Deutschlandfunk ondemand-mp3.dradio.de
Bleib immer informiert! Hier gibt's den Kanal Feminismen als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
Das kein Problembewusstsein herrscht ist nicht ganz richtig. Es wird in letzter Zeit sehr viel über repräsentative Datensätze gesprochen. Also Datensätze aus denen eine KI lernen kann. Diese Datensätze werden repräsentativ aufgearbeitet und sollen eben die Fehler der Vergangenheit nicht wiederholen.