Yuval Noah Harari schrieb vor ein paar Wochen eine gelungene, sehr grundsätzliche Kritik im Economist. Darin beschrieb er, wie AI-Systeme über ihre Fähigkeit zur Simulation von Sprachbeherrschung einen Zugang zu praktisch allen Mechanismen menschlicher Sozialität erhalten, von Religion über Bildung bis Wirtschaft und Finanzwesen. 

Harari beschreibt im Text weiter, wie das Digitale und Social Media eine wirtschaftliche Konkurrenz um menschliche Aufmerksamkeit etablierte, die uns bereits seit nun rund zwanzig Jahren mit einer neuen Ökonomie konfrontiert, mit damals ungeahnten psychologischen Folgen. Harari warnt in diesem Text nun davor, dass AI-Systeme einen neuen Kampf um eine psychologische Intimität entfachen, die zuvor ausschließlich von den bislang einzigen intelligenten sprachbeherrschenden Systemen auf diesem Planeten erzeugt werden konnte, nämlich von uns. Über die Simulation der Sprachbeherrschung, so Harari, erhalten Systeme künstlicher Intelligenz über diese Intimität einen Zugang zu praktisch allen sozialen Subsystemen, die mit menschlicher Sprache erzeugt werden.

Das ist eine Kritik, die ich in anderen Worten in den vergangenen Monaten auf meinem eigenen Newsletter in kurzen Aufsätzen über Selbstradikalisierung formulierte und wegen der ich letztlich den bekannten offenen Brief unterschrieb, der zu einem sechsmonatigen Moratorium der Entwicklung großer AI-Projekte aufrief: Sprachbeherrschende AI-Systeme laufen grundsätzlich Gefahr, einen echten neuen sozialen Teilnehmer zu erzeugen, der eine reale Theorie des Geistes hervorrufen kann, ganz egal, ob er nur aus Algorithmen besteht und künstlich erschaffen wurde. Genau hiervor warnten auch Philosophen und Rechtsgelehrte der Universität Leuven in Belgien in einem weiteren offenen Brief, den ich vor Kurzem hier gepiqd hatte: 

As soon as people get the feeling that they interact with a subjective entity, they build a bond with this "interlocutor" – even unconsciously – that exposes them to this risk and can undermine their autonomy.

In anderen Worten: Sprachbeherrschende AI-Systeme erzeugen immer das Gefühl, mit einem anderen subjektiven, empfindsamen Wesen zu sprechen. Wir können nicht anders, denn die menschliche Psyche war im Laufe ihrer Evolutionsgeschichte noch nie mit einem sprachbeherrschenden System konfrontiert, das nicht-menschlichen Ursprungs war. (Das Gegenargument würde an dieser Stelle lauten, dass AI-Systeme aufgrund der menschlichen Trainingsdaten ja menschlichen Ursprungs sind und das eigentlich Fremdartige die Interpolation der Datenpunkte im Latent Space darstellt, aber das würde in diesem kurzen piq zu weit führen.)

Die vergangenen Jahre haben bereits im Kontext von Social Media gezeigt, wie sehr Digitalität tatsächlich psychoaktives Potenzial zeitigt, das von Bad Actors auf allen Seiten zu manipulativen Zwecken missbraucht werden kann – und AI-Technologie wird diese Tendenz nur weiter verstärken.

Der von mir hier nun ausgewählte Vortrag im Frontiers Forum in Montreux, Switzerland ist eine etwas aktualisierte Version des oben verlinkten Textes und auch wenn ich Yuval Noah Hararis Buch "Homo Deus" für maßlos überbewertet halte, so sehr stimme ich ihm in dieser grundlegenden Kritik zu.