Eine der bekanntesten wissenschaftlichen Veröffentlichungen im Feld der KI-Forschung der vergangenen Jahre ist, neben dem bahnbrechenden Paper "Attention is all you need", das mit der Transformer-Technologie das Fundament für praktisch alle modernen AI-Systeme wie GPT3 und dessen prominente Anwendungen ChatGPT und Bing Chat legte, der Artikel "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜" von Emily M. Bender et al. 

In diesem Artikel warnt sie vor den Gefahren von KI-Systemen, die menschliche Kommunikation zu gut simulieren können, insbesondere vor dem Risiko substanzieller Nachteile durch Stereotypisierungen, Diskriminierung, der Zunahme extremistischer Ideologien oder gar ungerechtfertigter Verhaftungen dadurch, dass Menschen scheinbar kohärenten Output eines Language Models für die Sprache eines Menschen oder einer Organisation halten, die im rechtlichen Sinne zurechnungsfähig und verantwortlich sind und Haftung für ihre Kommunikation übernehmen. Die Wortschöpfung "Stochastic Parrot" wurde zum Meme, ist Teil des amüsanten AI Consciousness Argument Bingo, während Sam Altman, CEO von OpenAI, jüngst behauptete: "I am a stochastic parrot, and so r u" (Nein, sind wir nicht.) -- und vor wenigen Wochen erzeugte ich mit ChatGPT einen Remix, in dem der stochastische Papagei seinen Auftritt im wohl bekanntesten Monty Python-Sketch hat: "I'm a dead stochastic parrot, Mr. Jones". Für einen fiktiven Vogel aus Silizium: nicht schlecht.

Elizabeth Weil hat nun für NYMags Intelligencer ein langes Portrait über Emily M. Bender geschrieben, die neben ihrer Tätigkeit als AI-Ornitologin als Professorin für Linguistin an der Universität Washington lehrt und mit zu den prominentesten Stimmen der AI-Skeptiker zählt, neben Gary Marcus, den ich Anfang Januar in einem Piq vorstellte.

Please do not conflate word form and meaning. Mind your own credulity. These are Bender’s rallying cries.

Ihre AI-Kritik ist eine psychologische Kritik der Auswirkungen mimetischer AI-Systeme auf unsere Wahrnehmung von Kommunikation: Künstliche Intelligenzen besitzen keine kohärenten Modelle ihrer Umgebung, es sind Software-Module, die statistische Wahrscheinlichkeiten über die Verbindungen von Worten berechnen und damit Simulacren im Sinne von Jean Baudrillard produzieren. Zeichen besitzen eine äußere Ausdrucksseite, den Signifikant, also die Form des Zeichens, und ein Signifikat, das Bezeichnete: die Inhaltsseite eines Zeichens. ChatGPT hat keinerlei Ahnung von Signifikaten, von irgendwelchen Inhalten, und der generierte Output sind Zeichen, die sich auf sich selbst beziehen, nicht auf irgendeine Bedeutung. Die Debatten um ein angebliches Bewusstsein dieser statistischen Modelle schließen den Kreis und bilden das Simulacrum, "the truth which conceals that there is none. The [parrot] is true."

Das Digitale bedeutet in meinen Augen die konkrete, reale Anwendung postmoderner Theorien, die Auflösung von Bedeutung in einem Sturm der Zeichen, und es ist gut, in Zeiten der gelebten Simulacren Stimmen wie die von Emily M. Bender zu haben, die sich gegen den allgegenwärtigen AI-Hype stemmen und uns immer wieder auf den Boden der Tatsachen zurückholen, ganz egal wie überzeugend Simulationen menschlicher Kommunikation durch statistische Modelle und stochastische Bibliotheken heute schon sind.

Marc Andreessen investierte vor wenigen Tagen 250 Millionen Dollar in das Unternehmen Character.AI, eine Plattform zur Simulation von Prominenten und fiktiven Figuren aus Zeitgeschichte und Kultur. Das ist eine ganze Menge Geld für bessere Tamagochis, deren einzige Bedeutung darin besteht, eine Projektionsfläche für unsere eigene Pareidolie zu sein: wir sehen Charaktere, wo tatsächlich nur stochastische Muster sind, die sich entlang von statistischen Wahrscheinlichkeiten verteilen, berechnet von einem Haufen Silizium, der zwar weiß, dass Hund und Katze oft im selben Satz vorkommen, aber keine Ahnung vom Sound des Bellens hat oderr wie es sich anfühlt, wenn eine Katze um die Beine streicht. 

Emily M. Benders Stochastische Papageien eben, die Simulacren erzeugen: leere Zeichen ohne Bezeichnetes.