Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Volk und Wirtschaft

Silicon-Valley-Firmen warnen uns vor superintelligenten KIs - weil die so sind wie sie selbst

Rico Grimm
Journalist

Ich schreibe „Cleantech Ing.“, einen Newsletter, über Technologien, die wir brauchen werden, um die Klimakrise zu lösen.

Zum Kurator'innen-Profil
Rico GrimmFreitag, 22.12.2017

Fantastischer Text des Science Fiction Autors Ted Chiang: Er betrachtet, wie immer mehr bekannte Tech-Unternehmer vor einer "superintelligenten künstlichen Intelligenz" warnen, immer mit folgendem Argument:

In its pursuit of a seemingly innocuous goal, an AI could bring about the extinction of humanity purely as an unintended side effect.

Das klassische Beispiel dafür ist eine KI, die Büroklammern herstellen soll, immer mehr, und um dieses Ziel zu erreichen erst die Menschheit unterjocht, dann den Planeten in eine einzige riesige Fabrikhalle umwandelt und anschließend das Gleiche mit dem ganzen Weltall macht.


Chiang nun sagt, dass genau diese Logik, vor der die Tech-Unternehmer warnen, ihren Alltag beherrscht.

Consider: Who pursues their goals with monomaniacal focus, oblivious to the possibility of negative consequences? Who adopts a scorched-earth approach to increasing market share? This hypothetical strawberry-picking AI does what every tech startup wishes it could do — grows at an exponential rate and destroys its competitors until it’s achieved an absolute monopoly.

"Move fast and break things" (das ehemalige Facebook-Motto) ist bezeichnend für die Philosophie des Silicon Valley.


Aber natürlich gibt es einen Unterschied zwischen Kapitalismus und KI, denkt man sich: Menschen, die in diesen Firmen agieren und das Ganze stoppen könnten. Aber, so Chiang, das passiert nicht, weil sie dafür vom System nicht belohnt werden. Mehr noch:

Capitalism actively erodes this capacity in people by demanding that they replace their own judgment of what “good” means with “whatever the market decides.



Hattip Danke Hakan für diesen Text!

Silicon-Valley-Firmen warnen uns vor superintelligenten KIs - weil die so sind wie sie selbst

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Volk und Wirtschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.