Dan Williams' beschreibt in einem Essay, warum "AI-based disinformation is probably not a major threat to democracy", warum Desinformation erzeugt von AI-Systemen (angeblich) kein großes Problem für Demokratien darstellt, und er hat für diese Aussage mehrere gute Argumente, denn, 1. "Online-Desinformation bildet nicht die Wurzel moderner politischer Probleme"; 2. "Die Änderung politischer Überzeugungen ist äußerst schwierig"; 3. "Medienumgebungen sind hochgradig wettbewerbsorientiert und nachfragegesteuert" und 4. "Das Establishment wird Zugang zu mächtigeren KI-Systemen haben als Quellen abseits des Mainstreams".

Er hat recht, dass der Einfluss von Desinformation auf unsere Diskurse insgesamt fraglich ist, wenn nicht sogar vernachlässigbar, ganz einfach weil "Fake News" von ihren Rezipienten größtenteils dazu verwendet wird, um vorhandene Überzeugungen zu bestätigen und diese für unsere Peergroup mit ein paar bizarren Meldungen aufzumotzen, manchmal ironisch, manchmal nicht. Wen interessiert es, ob es gelogen ist, dass Taylor Swift eine Psyops der US-Regierung sei, wenn wir unsere Antiregierungs-Erzählung mit absurden, aufmerksamkeitsstarken Lügen über einen Popstar ausschmücken können.

Er hat ebenfalls recht damit, dass der Markt für "Fake News" gesättigt ist, dass die Nachfrage begrenzt ist und "nur" von bestimmten Personen stammt, die eben glauben wollen, was sie glauben wollen, und dieses gewollt Geglaubte zu jederzeit im Netz problemlos überall finden können. Noch mehr "Fake News" durch upscaling der Produktion des konspirativen Wahnsinns bewirkt daher nicht allzu viel, außer vielleicht, dass die Bandbreite der Idiotie diversifiziert wird. Dank AI-Massenfakenews erhalten Sie Ihre Taylor Swift Psyops-Verschwörung in den Geschmacksrichtungen Illuminati, UFOs, Reptiloiden oder Deep State. An dem tatsächlichen Einfluss von Desinformation für die Medienumgebung und das politische Verhalten aller Akteure ändert diese, hm, "Produktdiversifikation durch effizientere AI-Produktionsmittel" nicht viel.

Er spricht auch den Wettbewerb um die Reputation von Medienhäusern an, der viele Medienanstalten dazu anhält, sich grundsätzlich eher an die Wahrheit statt an die Unwahrheit zu halten, übersieht dabei aber, dass viele "Medienanstalten" heute distributiv von sich Distributions-Knoten in Netzwerken abhängig sind, auch Influencer genannt, ein Beruf, der nicht nur Lippenstifte verkaufende Models auf Instagram beschreibt, sondern auch politische, aktivistische und journalistische Akteure auf allen Seiten - und diese haben andere Anreize als Medienhäuser. Während Medien größtenteils um wirtschaftliche Anreize und Reputation durch besondere Verdienste um gesellschaftliche Verantwortungsbereiche konkurrieren, spielen Influencer in mediendistributorischen Verteilungskämpfen oft um Prestige, Ruhm und Aufmerksamkeit, die oft nicht zuvorderst verbunden sind mit monetären Interessen, sondern mit Karma-Punkten innerhalb eines (politischen) Tribes.

Die schlimmsten Bad Actors in diesem Spiel sind populistische Politiker und ihre journalistischen Anhängsel, die rücksichtslos Desinformation verwenden, um ihr Publikum aufzuwiegeln. Leute wie Trump oder Weigel interessieren sich nicht dafür, ob sie von traditionellen Medien auf Fakten überprüft werden, wenn sie ihre verzerrten Stories durch die Verwendung emotionalisierender und falscher Tatsachen, ob von KI generiert oder nicht, vorantreiben können. KI ändert nichts an diesem Lügen-Job, aber sie macht ihn einfacher und steigert die Produktionsqualität und -quantität.

Kompliziert wird dieses Gefüge aus politischen Influencer, Medien, Politikern und Rezipienten, wenn staatlich gesteuerte Troll- und Propaganda-Medien beteiligt sind. Ein aktuelles Beispiel: In den letzten Wochen hat Russland ihre "Internet Research Agency" (IRA, auch bekannt als Putins sagenumwobene "Troll-Armee") reaktiviert, um sich in die kursierenden Narrative rund um Texas' Grenzangelegenheiten einzumischen, "indem sie staatliche Propaganda-Medien RT und Sputnik nutzten, um eine Flut von Artikeln über die laufende Grenzkontroverse zu veröffentlichen, in der Texas sich Anweisungen der US-Regierung widersetzte".

Wie bereits bei den Wahlen 2016, wo die IRA nicht nur Desinformation über eine angebliche texanische Sezession verbreitete, sondern gleichzeitig Facebook-Anzeigen für und gegen z.B. Feminismus oder die Black Lives Matter-Bewegung schaltete, verbreiten sie erneut extremistische Narrative beider Seiten, ganz einfach um extremistische Ansichten viel zahlreicher erscheinen zu lassen, als sie wirklich sind. Das Ziel ist Chaos und Destabilisierung, und jeder einzelne Share trägt ein kleines Stück dazu bei. Individuell betrachtet spielten weder die Facebook-Anzeigen im Jahr 2016 und die überschaubaren Engagement-Zahlen der Desinformations-Bits keine Rolle und ihr einzelne Einfluss auf die öffentliche Meinung war gering, aber zusammen genommen hinterlassen sie bei jedem, der ein gegebenes Thema recherchiert, den Eindruck, dass "Oha, da draußen schwirrt wirklich eine ganze Menge Zeug herum".

Medien, die ihr Geld vorwiegend mit Emotionalisierung und Empörung verdienen, können es sich gar nicht leisten, hier nicht zu reagieren und werden dankbar auf den Propagandazug aufspringen, und voilà, schon hat man eine "legitime" Medienstory, ganz egal ob an der Grenze von Texas etwas los ist oder nicht.

Ein weiteres Beispiel: Der Taylor Swift Psyops-Unsinn begann zunächst als ironisch-zwinkernde Metapher eines rechten Influencers, wurde von Fox News als Thema aufgegriffen, was in einer weit verbreiteten Verschwörungspsychose unter rechten Nutzern auf Twitter resultierte -- und auf einmal diskutieren alle ernsthaft über diesen Mumpitz, nicht zuletzt, weil "Trolle" den Taylor Swift-Rausch mit KI-generiertem Softporno aufgepeppt haben. Ich wäre sehr überrascht, wenn es keine 4chan-Backchannel-Chats auf Telegram in der Art von "Hey, MAGA verspottet Taylor Swift, weil Psyops und die NFL usw usw, lass uns das mal ein bisschen eskalieren" gäbe. Ich denke, Williams unterschätzt an dieser Stelle die Einfachheit der Eskalation bereits viraler Meldungen durch zusätzliche Fake-Produktionen böswilliger Akteure.

Also ja, vielleicht ändert generative KI nicht viel am Markt für emotionalisierende Desinformation. Aber Effizienzsteigerungen in der Medienproduktion durch KI könnte ausreichen, dass Dynamiken der Mediendistribution sich ändern und kippen, vor allem in einem Jahr, in dem Wahlen anstehen.

Daher ist es zwar fraglich, welchen Einfluss eine Flut KI-basierter Desinformation haben könnte, aber wir sollten ihre Folgen auf lange Sicht definitiv nicht unterschätzen.