Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Against AI-Hype: Emily M. Bender im Portrait

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum picker-Profil
René WalterMittwoch, 08.03.2023

Eine der bekanntesten wissenschaftlichen Veröffentlichungen im Feld der KI-Forschung der vergangenen Jahre ist, neben dem bahnbrechenden Paper "Attention is all you need", das mit der Transformer-Technologie das Fundament für praktisch alle modernen AI-Systeme wie GPT3 und dessen prominente Anwendungen ChatGPT und Bing Chat legte, der Artikel "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜" von Emily M. Bender et al. 

In diesem Artikel warnt sie vor den Gefahren von KI-Systemen, die menschliche Kommunikation zu gut simulieren können, insbesondere vor dem Risiko substanzieller Nachteile durch Stereotypisierungen, Diskriminierung, der Zunahme extremistischer Ideologien oder gar ungerechtfertigter Verhaftungen dadurch, dass Menschen scheinbar kohärenten Output eines Language Models für die Sprache eines Menschen oder einer Organisation halten, die im rechtlichen Sinne zurechnungsfähig und verantwortlich sind und Haftung für ihre Kommunikation übernehmen. Die Wortschöpfung "Stochastic Parrot" wurde zum Meme, ist Teil des amüsanten AI Consciousness Argument Bingo, während Sam Altman, CEO von OpenAI, jüngst behauptete: "I am a stochastic parrot, and so r u" (Nein, sind wir nicht.) -- und vor wenigen Wochen erzeugte ich mit ChatGPT einen Remix, in dem der stochastische Papagei seinen Auftritt im wohl bekanntesten Monty Python-Sketch hat: "I'm a dead stochastic parrot, Mr. Jones". Für einen fiktiven Vogel aus Silizium: nicht schlecht.

Elizabeth Weil hat nun für NYMags Intelligencer ein langes Portrait über Emily M. Bender geschrieben, die neben ihrer Tätigkeit als AI-Ornitologin als Professorin für Linguistin an der Universität Washington lehrt und mit zu den prominentesten Stimmen der AI-Skeptiker zählt, neben Gary Marcus, den ich Anfang Januar in einem Piq vorstellte.

Please do not conflate word form and meaning. Mind your own credulity. These are Bender’s rallying cries.

Ihre AI-Kritik ist eine psychologische Kritik der Auswirkungen mimetischer AI-Systeme auf unsere Wahrnehmung von Kommunikation: Künstliche Intelligenzen besitzen keine kohärenten Modelle ihrer Umgebung, es sind Software-Module, die statistische Wahrscheinlichkeiten über die Verbindungen von Worten berechnen und damit Simulacren im Sinne von Jean Baudrillard produzieren. Zeichen besitzen eine äußere Ausdrucksseite, den Signifikant, also die Form des Zeichens, und ein Signifikat, das Bezeichnete: die Inhaltsseite eines Zeichens. ChatGPT hat keinerlei Ahnung von Signifikaten, von irgendwelchen Inhalten, und der generierte Output sind Zeichen, die sich auf sich selbst beziehen, nicht auf irgendeine Bedeutung. Die Debatten um ein angebliches Bewusstsein dieser statistischen Modelle schließen den Kreis und bilden das Simulacrum, "the truth which conceals that there is none. The [parrot] is true."

Das Digitale bedeutet in meinen Augen die konkrete, reale Anwendung postmoderner Theorien, die Auflösung von Bedeutung in einem Sturm der Zeichen, und es ist gut, in Zeiten der gelebten Simulacren Stimmen wie die von Emily M. Bender zu haben, die sich gegen den allgegenwärtigen AI-Hype stemmen und uns immer wieder auf den Boden der Tatsachen zurückholen, ganz egal wie überzeugend Simulationen menschlicher Kommunikation durch statistische Modelle und stochastische Bibliotheken heute schon sind.

Marc Andreessen investierte vor wenigen Tagen 250 Millionen Dollar in das Unternehmen Character.AI, eine Plattform zur Simulation von Prominenten und fiktiven Figuren aus Zeitgeschichte und Kultur. Das ist eine ganze Menge Geld für bessere Tamagochis, deren einzige Bedeutung darin besteht, eine Projektionsfläche für unsere eigene Pareidolie zu sein: wir sehen Charaktere, wo tatsächlich nur stochastische Muster sind, die sich entlang von statistischen Wahrscheinlichkeiten verteilen, berechnet von einem Haufen Silizium, der zwar weiß, dass Hund und Katze oft im selben Satz vorkommen, aber keine Ahnung vom Sound des Bellens hat oderr wie es sich anfühlt, wenn eine Katze um die Beine streicht. 

Emily M. Benders Stochastische Papageien eben, die Simulacren erzeugen: leere Zeichen ohne Bezeichnetes.

Against AI-Hype: Emily M. Bender im Portrait

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 2
  1. Lutz Müller
    Lutz Müller · vor mehr als ein Jahr

    Emily M. Bender präsentierte 2021 ihr Paper mit einer anschließenden Paneldiskussion im The Alan Turing Institute: www.turing.ac.uk/event... - mit Video, 76 min

  2. Cornelia Gliem
    Cornelia Gliem · vor mehr als ein Jahr

    hm. AI-Skepsis ist eigentlich der gesunde Mittelweg. hier wird allerdings eine extremere Position mit dem Wort Skepsis betitelt.
    O ja wir müssen "AI" viel besser verstehen und die MedienKompetenz muss - wie immer und gerade bei neuen Medien - verbessert und angepasst werden.

    und ja: AI s werden uns nicht retten aber auch nicht zerstören.
    (Das tun wenn wir immer schön selbst).

    Stochastische Papageien - tolles passendes Wort.
    aber ohne Sam Amtman ansonsten zu zustimmen -: natürlich sind wir das in der Kommunikation oft!
    Kommunikation funktioniert auch bei biologischen Wesen so und ohne zu sehr philosophisch zu werden: "natürlich" wissen wir bei unseren "normalen" Gesprächspartnern auch grundsätzlich nicht ob dahinter reale Personen stecken.

    und übrigens eine kleine Bemerkung zum juristischen Zurechnen:
    wenn "jemand" so auftritt wie eine zurechnungsfähige Person, dann wird sie zurechnungs-pflichtig. Wir dürfen davon ausgehen, dass.

    und wenn hinter dem Avatar keine echte Person steckt, wird der Anbieter der Nutzer des Avatars juristisch greifbar (gemacht).

    ansatzweise analoge Modelle wären Billigkeit und Gutglauben.
    simples (ja vielleicht zu simpel) Beispiel: der 15 jährige der im internet als Erwachsener auftritt, zb ein Handyspiel kauft und sollte er es nicht bezahlen, dann dessen Eltern haftbar werden. (Mit allen Graden von Geschäfttsfägigkeit und Schutzmechanismen etc.).

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer KuratorInnen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.