sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Deepfake-Propaganda aus China
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com
Kurator'in für: Technologie und Gesellschaft Medien und Gesellschaft Klima und Wandel
Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.
Wissenschaftler des Labors Graphika, das sich auf die Erforschung von Desinformationstechnologie spezialisiert hat, haben zwei synthetische Videos in chinesischen Social-Media-Channels identifiziert, die offensichtlich zur Propaganda für die kommunistische Partei Xi Jinpings dienen sollten. Vor rund einem Jahr war ein Deepfake-Video einer angeblichen Kapitulation der Ukraine aufgetaucht, meines Wissens der erste Fall von state-sponsored AI-Manipulation.
Die Deepfake-Videos in diesem Fall waren "Serienproduktionen von der Stange": Das Londoner Start-up Synthesia bietet über 85 synthetische Charakter, vom alten weißen Businessman bis zur Hijab tragenden Muslima, die vorwiegend für die Herstellung billiger Videos für Human-Resources-Training oder Werbung verwendet werden.
Während die state-sponsored Nutzung von Deepfake-Technologie zur Verbreitung von Propaganda sicherlich Anlass zur Sorge bereitet, so unschlüssig bin ich über ihren tatsächlichen Impact. Vor wenigen Wochen erst kam eine neue Studie zu dem Schluss, dass die Versuche von "Putins Troll Army" (der russischen "Internet Research Agency"), Einfluss auf die 2016er US-Wahlen zu nehmen, anscheinend wirkungslos verpufften, und sie ist nicht die erste ihrer Art.
Der Anstieg an potenziellem Produktionsvolumen für Desinformation durch Fake News und mit AI-Systemen erzeugte Deepfakes führt anscheinend nicht automatisch zu einem tatsächlich spürbaren Einfluss.
Andererseits könnten die psychischen Auswirkungen einer ständig als "möglicherweise nicht real" wahrgenommenen medialen Wirklichkeit subtiler und langfristiger sein, als es in diesen Studien untersucht wurde: Peter Pomerantsev schreibt in seinem 2014 erschienenen Buch "Nothing Is True and Everything Is Possible" von den gesellschaftlichen Auswirkungen einer Medienlandschaft, die von Propaganda und politischen Interessen in Putin-Russland nicht mehr zu unterscheiden ist. Er beschreibt eine Gesellschaft, die medialen Inhalten gar nicht mehr traut und eine zutiefst zynische Haltung nicht nur gegenüber den Medien entwickelt.
Dazu benötigt es meines Erachtens keine state-sponsored Deepfake-Propaganda: Vor wenigen Wochen wurde ein Illustrator auf einer Kunst-Plattform gesperrt, weil sein Stil dem einer generativen AI zu ähnlich war.
Es sind diese subtilen Auswirkungen auf das menschliche Vertrauen in seine Wahrnehmung, die in einer Abwehrreaktion auf Fake-Inhalte zu Überreaktion und False Positives neigt, die mir sehr viel mehr Sorge bereitet als der offenbar vernachlässigbare direkte Einfluss von Desinformation.
Quelle: Adam Satariano and Paul Mozur Bild: New York Times EN www.nytimes.com
Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
Uns muß viel klarer werden, dass es keinen direkten Zugang zur Komplexität der Welt gibt. Alles ist gefiltert durch Medien. Nichts ist eins zu eins wirklich, nichts ist frei von gewolltem under ungewolltem Bias …..