Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Die KI, die überall nur Tod und Verderbnis sieht

Sonja Wild
Redakteurin, Spielebloggerin

Hat englische und deutsche Literaturwissenschaft sowie Politik in Erlangen studiert. Schreibt auf lostlevels.de über Indie-Spiele und arbeitet in der Redaktion des Bookazines WASD mit. Lebt, spielt und arbeitet in Berlin.

Zum User-Profil
Sonja WildDienstag, 19.06.2018

Wenn man nicht wüsste, dass es bis zur fühlenden KI noch ein weiter Weg ist, man hätte fast Mitleid mit Norman, einer KI, die am MIT entwickelt wurde. Norman ist, nicht als erste künstliche Intelligenz, auf das Interpretieren von Rorschach-Bildern trainiert. Doch wo andere KIs eine Vase erkennen, sieht Norman, wie ein Mann erschossen wird. Und das gleiche Bild, auf dem eine andere KI eine Hochzeitstorte identifiziert, zeigt für Norman, der nicht zufällig den Vornamen des Hotelbesitzers aus Psycho trägt, einen Verkehrsunfall.

Normans Sicht auf die Welt ist eine blutige, deprimierende. Denn die Daten, mit denen er trainiert wurde, stammen aus einem Subreddit, das sich mit grausamen Todesfällen befasst. Es ist ein drastisches Experiment, das auf schaurige Weise unterhaltsam und zugleich sadistisch wirkt. Doch es hat einen ernsten Hintergrund: Das dreiköpfige Team will zeigen, wie wichtig die Datengrundlage für die Orientierung und Qualität von künstlicher Intelligenz ist. Hier ist sowohl große Sorgfalt als auch hohe Transparenz gefordert, das zeigen schon jetzt drastische Beispiele aus der Praxis, wie etwa eine KI mit rassistischen Zügen, die an amerikanischen Gerichten zum Einsatz kam.

Der BBC-Artikel stellt das Projekt vor und gibt einen Überblick über das Problem mit den Daten. Zum Weiterlesen empfiehlt sich unbedingt die Projektseite des MIT. Sie erklärt nicht nur den Hintergrund, sondern zeigt auch noch mehr Interpretationen von Norman, die denen einer mit konventionellem Bildmaterial trainierten KI plakativ gegenübergestellt werden. Außerdem sind einige andere spannende KI-Projekte des Teams aus den vergangenen Jahren verlinkt.

Übrigens hat das Team auch einen Weg vorgesehen, Norman zu „therapieren“: Nutzerinnen und Nutzer können hier selbst einen Rorschachtest absolvieren und eingeben, was sie in den Tintenklecksbildern sehen. Mit ihren Ergebnissen könnte sich Normans Weltbild dann langsam in eine weniger fatalistische Richtung verändern.

Die KI, die überall nur Tod und Verderbnis sieht

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.