Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Frankensteins Algorithmus: Verantwortlichkeit im Zeitalter unberechenbarer Software

Christian Huberts
mächtiger™ Kulturwissenschaftler und Kulturjournalist
Zum User-Profil
Christian HubertsDonnerstag, 30.08.2018

Aktuell vertreibe ich mir die Zeit mit 7 Billion Humans, ein unterhaltsames, wenn auch zynisches Lernspiel. Maschinen haben dort die Menschheit arbeitslos gemacht, aber gütigerweise spannen sie uns nun in ABM-Algorithmen ein. Meist läuft das gut: Ich programmiere simple Arbeitsabläufe und meine Angestellten ticken wie ein Uhrwerk. Manchmal erfordert die Aufgabe jedoch, dass ich den Arbeitern erlaube, ihre Umgebung zu beobachten und daraus zu lernen. Neun Iterationen lang geht das gut, aber beim zehnten Mal springen plötzlich alle kopfüber in den Aktenvernichter. Was ist passiert?

Für den Guardian beleuchtet Andrew Smith, wie wir es im Alltag längst nicht mehr mit »dummen« Algorithmen zu tun haben, sondern mit komplexer Software, die auf externe Datenbanken zurückgreift, mit anderer Software kooperiert und selbstständig dazulernt. Sie steuert autonome Fahrzeuge, betreibt Hochfrequenzhandel am Aktienmarkt und bestimmt, was wir in den sozialen Medien zu sehen bekommen. Und diese Algorithmen wachsen mitunter zu solcher Größe an, dass niemand mehr im Detail versteht, wie sie funktionieren. Smith spricht von »spaghetti code« oder auch »frankenalgos«. Der IT-Sicherheitsexperte Eugene Spafford sieht darin vor allem ein Problem der Haftbarkeit:

»This is one of the criticisms of these systems so far, in that it’s not possible to go back and analyze exactly why some decisions are made, because the internal number of choices is so large that how we got to that point may not be something we can ever re-create to prove culpability beyond doubt.«

Wenn also meine Mitarbeiter in den Schredder springen oder ein autonomes Fahrzeug einen Unfall baut, lässt sich nicht oder nur mit großem Aufwand feststellen, wie es soweit kommen konnte. Der Experte für quantitative Analyse, Paul Wilmott, schlägt daher eine neue Standardfrage für Softwareentwickler vor, die ich mir besser auch bei 7 Billion Humans zu Herzen nehme:

»What’s the most extreme possible behavior in a system I thought I was optimizing?«
Frankensteins Algorithmus: Verantwortlichkeit im Zeitalter unberechenbarer Software

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 1
  1. Emran Feroz
    Emran Feroz · vor 6 Jahren

    Ich denke auch, dass das ein Problem sein wird. Dies wird vor allem dann der Fall sein, wenn mit solchen Algorithmen nicht "nur" autonome Fahrzeuge gesteuert werden, sondern auch Waffensysteme. Wenn eine Roboter-Drohne in naher Zukunft Menschen in Jemen oder Afghanistan mittels derartiger oder ähnlicher Algorithmen tötet, will erst recht niemand (also kein Mensch) dafür verantwortlich gewesen sein.

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.