Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Deepfake-Propaganda aus China

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum Kurator'innen-Profil
René WalterMontag, 13.02.2023

Wissenschaftler des Labors Graphika, das sich auf die Erforschung von Desinformationstechnologie spezialisiert hat, haben zwei synthetische Videos in chinesischen Social-Media-Channels identifiziert, die offensichtlich zur Propaganda für die kommunistische Partei Xi Jinpings dienen sollten. Vor rund einem Jahr war ein Deepfake-Video einer angeblichen Kapitulation der Ukraine aufgetaucht, meines Wissens der erste Fall von state-sponsored AI-Manipulation.

Die Deepfake-Videos in diesem Fall waren "Serienproduktionen von der Stange": Das Londoner Start-up Synthesia bietet über 85 synthetische Charakter, vom alten weißen Businessman bis zur Hijab tragenden Muslima, die vorwiegend für die Herstellung billiger Videos für Human-Resources-Training oder Werbung verwendet werden.

Während die state-sponsored Nutzung von Deepfake-Technologie zur Verbreitung von Propaganda sicherlich Anlass zur Sorge bereitet, so unschlüssig bin ich über ihren tatsächlichen Impact. Vor wenigen Wochen erst kam eine neue Studie zu dem Schluss, dass die Versuche von "Putins Troll Army" (der russischen "Internet Research Agency"), Einfluss auf die 2016er US-Wahlen zu nehmen, anscheinend wirkungslos verpufften, und sie ist nicht die erste ihrer Art.

Der Anstieg an potenziellem Produktionsvolumen für Desinformation durch Fake News und mit AI-Systemen erzeugte Deepfakes führt anscheinend nicht automatisch zu einem tatsächlich spürbaren Einfluss. 

Andererseits könnten die psychischen Auswirkungen einer ständig als "möglicherweise nicht real" wahrgenommenen medialen Wirklichkeit subtiler und langfristiger sein, als es in diesen Studien untersucht wurde: Peter Pomerantsev schreibt in seinem 2014 erschienenen Buch "Nothing Is True and Everything Is Possible" von den gesellschaftlichen Auswirkungen einer Medienlandschaft, die von Propaganda und politischen Interessen in Putin-Russland nicht mehr zu unterscheiden ist. Er beschreibt eine Gesellschaft, die medialen Inhalten gar nicht mehr traut und eine zutiefst zynische Haltung nicht nur gegenüber den Medien entwickelt. 

Dazu benötigt es meines Erachtens keine state-sponsored Deepfake-Propaganda: Vor wenigen Wochen wurde ein Illustrator auf einer Kunst-Plattform gesperrt, weil sein Stil dem einer generativen AI zu ähnlich war

Es sind diese subtilen Auswirkungen auf das menschliche Vertrauen in seine Wahrnehmung, die in einer Abwehrreaktion auf Fake-Inhalte zu Überreaktion und False Positives neigt, die mir sehr viel mehr Sorge bereitet als der offenbar vernachlässigbare direkte Einfluss von Desinformation.

Deepfake-Propaganda aus China

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 1
  1. Thomas Wahl
    Thomas Wahl · vor mehr als ein Jahr

    Uns muß viel klarer werden, dass es keinen direkten Zugang zur Komplexität der Welt gibt. Alles ist gefiltert durch Medien. Nichts ist eins zu eins wirklich, nichts ist frei von gewolltem under ungewolltem Bias …..

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.