sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Frankensteins Algorithmus: Verantwortlichkeit im Zeitalter unberechenbarer Software
mächtiger™ Kulturwissenschaftler und Kulturjournalist
Redakteur für das Games-Bookazine WASD und Computerspiel-Experte vor verschiedensten Bücherregalen im TV und Radio. Daneben doziert er regelmäßig auf Tagungen und Festivals sowie an Hochschulen mit Fokus auf digitale Spiele. Seine Texte über die Teilhabe an virtuellen Welten, die Ideologie von Spielmechaniken und die Kultur von Computerspielen erscheinen unter anderem in wissenschaftlichen Fachpublikationen, in diversen Kulturmagazinen sowie bei ZEIT ONLINE. Damit er nicht nur vor dem Monitor hockt, trägt das bekennende Sozialhilfekind die Kritik an unfairen Regelsystemen ebenso zurück in die gesellschaftliche Realität. Ihn interessieren Diskurse der ökonomischen Nützlichkeit marginalisierter Gruppen und die Bedingungen des »Mitspielens« am soziokulturellen Leben.
Was er sonst noch so treibt, lässt sich auf seinem Blog nachlesen: www.schauanblog.de
Aktuell vertreibe ich mir die Zeit mit 7 Billion Humans, ein unterhaltsames, wenn auch zynisches Lernspiel. Maschinen haben dort die Menschheit arbeitslos gemacht, aber gütigerweise spannen sie uns nun in ABM-Algorithmen ein. Meist läuft das gut: Ich programmiere simple Arbeitsabläufe und meine Angestellten ticken wie ein Uhrwerk. Manchmal erfordert die Aufgabe jedoch, dass ich den Arbeitern erlaube, ihre Umgebung zu beobachten und daraus zu lernen. Neun Iterationen lang geht das gut, aber beim zehnten Mal springen plötzlich alle kopfüber in den Aktenvernichter. Was ist passiert?
Für den Guardian beleuchtet Andrew Smith, wie wir es im Alltag längst nicht mehr mit »dummen« Algorithmen zu tun haben, sondern mit komplexer Software, die auf externe Datenbanken zurückgreift, mit anderer Software kooperiert und selbstständig dazulernt. Sie steuert autonome Fahrzeuge, betreibt Hochfrequenzhandel am Aktienmarkt und bestimmt, was wir in den sozialen Medien zu sehen bekommen. Und diese Algorithmen wachsen mitunter zu solcher Größe an, dass niemand mehr im Detail versteht, wie sie funktionieren. Smith spricht von »spaghetti code« oder auch »frankenalgos«. Der IT-Sicherheitsexperte Eugene Spafford sieht darin vor allem ein Problem der Haftbarkeit:
»This is one of the criticisms of these systems so far, in that it’s not possible to go back and analyze exactly why some decisions are made, because the internal number of choices is so large that how we got to that point may not be something we can ever re-create to prove culpability beyond doubt.«
Wenn also meine Mitarbeiter in den Schredder springen oder ein autonomes Fahrzeug einen Unfall baut, lässt sich nicht oder nur mit großem Aufwand feststellen, wie es soweit kommen konnte. Der Experte für quantitative Analyse, Paul Wilmott, schlägt daher eine neue Standardfrage für Softwareentwickler vor, die ich mir besser auch bei 7 Billion Humans zu Herzen nehme:
»What’s the most extreme possible behavior in a system I thought I was optimizing?«
Quelle: Andrew Smith Bild: Marco Goran Romano EN theguardian.com
Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
Ich denke auch, dass das ein Problem sein wird. Dies wird vor allem dann der Fall sein, wenn mit solchen Algorithmen nicht "nur" autonome Fahrzeuge gesteuert werden, sondern auch Waffensysteme. Wenn eine Roboter-Drohne in naher Zukunft Menschen in Jemen oder Afghanistan mittels derartiger oder ähnlicher Algorithmen tötet, will erst recht niemand (also kein Mensch) dafür verantwortlich gewesen sein.