Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Wilde Bild-Forensik und Googles Magic Editor

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum Kurator'innen-Profil
René WalterSonntag, 25.08.2024

Seit ein paar Tagen diskutiert man im Netz (wieder einmal) die kommende Realitätsauflösungsapokalypse; Anlass ist das "Reimagine"-Tool der kommenden Generation von Googles Pixel-Smartphones. "Reimagine" ist ein AI-Foto-Editor, der einzelne Bildbestandteile mit einfachen Prompts ändert und offenbar sind die Sicherheitsvorkehrungen eher lax, sodass etwa die The Verge-Redakteure Allison Johnson und Chris Welch in der Lage waren, innerhalb von Sekunden harmlose Schnappschüsse mit zündenden Bomben, Autowracks oder Kokain anzureichern  (weitere Bildbeispiele auf Threads). Das Tech-Magazin titelt "No one's ready for this" und die Debatte dreht sich (wieder einmal) um das baldige Ende der Authentizität von Fotografie und die fortschreitende Auflösung gesellschaftlicher "Shared Realities" in einem Malstrom aus Fakenews.

Die Debatte ist freilich alles andere als neu und mein Pick zur Debatte ist ein Interview aus dem Dezember vergangenen Jahres mit Walter Scheirer, Medien-Forensiker an der Uni Notre Dame, der in seinem damals erschienenen Buch "A History of Fake Things on the Internet" unsere neuen digital editierbaren Scheinrealitäten eben nicht als "radikale und erschreckende Abweichung von gesellschaftlichen Normen" analysiert, sondern als "natürlicher Evolutionsschritt des menschlichen Bedürfnisses nach Mythenschreibung und Storytelling". So weit, so gut.

Tatsache ist aber eben auch, dass neuartige Mythen und das Geschichtenerzählen (in unserem Fall eben per Bildmanipulation) nicht selten ganz reale Konsequenzen nach sich ziehen, gegen die sich entrüstete Taylor Swift-Fans, die wegen Trump-Postings voller AI-Bilder auf die Barrikaden gehen, eher mittel relevant ausnehmen: Im Mai 2023 etwa wurden Bilder von indischen Wrestlerinnen, die während eines Protests gegen sexuelle Belästigung verhaftet wurden, mit Hilfe von AI-Editing manipuliert und zeigten die Sportlerinnen fröhlich lächelnd in einem Polizei-Bus sitzend -- ein gefundenes Fressen für indische Antifeministen, die, in Schreiers Mythmaking-Framework, ihre chauvinistische Weltsicht mit einer Fiktion aus gefälschten Bildern untermauern und viral verbreiten konnten. Noch dramatischer: Ebenfalls in Indien führte die Verbreitung eines "Shallowfakes" (also eines echten Videos, das gekürzt und aus dem Kontext gerissen wurde) im Jahr 2018 zu einer Mordserie mit 9 Todesopfern. Die Beispiele der Konsequenzen textbasierter Medienmanipulation sind Legion, vom Sturm auf das US-amerikanische Capitol bis zum von Elon Musk befeuerten Nazi-Aufstand in England vor wenigen Wochen, beide flankiert von der Viralität manipulierter Bilder.

Doch solche handfesten Auswirkungen auf die Massendynamiken auf der Straße sind nur eine Seite der Bildmanipulationsmedallie: Susan Sontag beschreibt in ihrem Essay "On Photography", wie Fotografien gesellschaftlichen Konsens über unsere Realität herstellen und in einem Pick aus dem Jahr 2021 schrieb ich an dieser Stelle darüber, wie "digitale Technologie und die Demokratisierung der Manipulationstechnologien (...) genau diesen gesellschaftlichen Konsens zerstören, in dem sie alle digitalen Inhalte unter Generalverdacht stellen und so zu einer Art informatorischen Uncanny Valley führen, in dem 'nichts real und alles möglich' erscheint und in dem mit Verschwörungsphänomenen eine neue, digitale Form mythischer Fiktion erscheint, die Welt der berühmt-berüchtigten 'alternative Facts'."

Der Medienwissenschaftler Roland Meyer warf neulich den Begriff der "Wilden Forensik" für dieses neue Misstrauen in ehemals konsensbildende Medien in den Raum, angelehnt an Aleida Assmanns Begriff der "Wilden Semiose", der Tendenz des Menschen, die Welt als Text zu lesen und dabei seiner Kreativität bis hin zum Pathologischen freien Lauf zu lassen. Wo bei Assmann Menschen im Kaffeesatz lesend irgendwelche Zukünfte erfinden oder schwarze Katzen als böse Omen sehen, besteht Meyers "Wilde Forensik" aus der fehlgeleiteten und viralen Schwarm-Identifizierung angeblicher geheimnisvoller Mächte, die uns grundsätzlich ans Leder wollen und die noch im authentischsten Schnappschuss Anzeichen von AI-Manipulation feststellen: "the central threat posed by widespread AI image synthesis: the pervasive distrust of images that will always find ways to make itself plausible". (Roland Meyer gab im vergangenen Jahr einen ganzen Band namens "Bilder unter Verdacht" über diesen "pseudoforensischen Blick" heraus, der komplett als PDF unter open access heruntergeladen werden kann.)

Im oben verlinkten Pick aus dem Jahr 2021 schrieb ich ebenfalls: "Die Fotografie, ihrer realitätssichernden Funktion beraubt, wird im digitalen Zeitalter zu einem Äquivalent der Malerei, die fiktive Räume abbildet und eine Art Hyper-Realität 'tieferer Wahrheiten' unabhängig von deren Realitätsgehalt erzeugt. Das einzige, was über die Gültigkeit dieser Wahrheiten entscheidet, ist der Glaube. Genau deshalb werden die sogenannten 'Kulturkriege' mit aller Härte auf diesem 'Schlachtfeld der Fiktionen' in den sozialen Medien geführt." Hier treffen sich Scheirers Thesen neuer Formen der Mythenschreibung durch (AI-)Fakes mit Semiotik und handfesten politischen Konflikten und bilden einen im Wortsinne unheimlichen digitalen Grey Goo, in dem Realität nach individueller und (auch) politischer Präferenz auf Ansage umgeformt werden kann, frei nach Pippi Langstrumpf: "Ich editiere mir die Welt: widewide wie sie mir gefällt!"

Die Auflösung der Grenze zwischen dokumentarischer, konsensstiftender Fotografie einerseits und mythenbildender Fiktion andererseits wird durch die One-Click Foto-Retusche des neuen Google Pixel 9 nun weiter aufgeweicht und Foto-Editing per Voice Command kommt im Mainstream an. In wenigen Jahren wird mir ein Schwarm von AI-Agents das politische Tagesgeschehen als Comic mit hyperpartisanen Superhelden im Stil von Jack Kirby nacherzählen können, wenn ich das möchte (und dabei die in meine individuelle Weltanschauung unpassenden Details freilich auf Wunsch einfach weglassen) und mit ein bisschen Glück in der Aufmerksamkeitsökonomie wird mein Jack-Kirby-Polit-Fake zum neumythologischen Baustein für einen weiteren Sturm auf ein Parlament.

Das Digitale als Rohmaterial für diese neuartigen Methoden des Schwarm-Storytellings wird die Debatten über die Auswirkungen unseres Digital New Age auf unsere Welt-Wahrnehmung garantiert noch für einige Jahre beschäftigen und das Ende kapitalistischer Hyper-Customization einer kommodifizierten Welt-Wahrnehmung auf Kosten gesellschaftlicher Konsensbildung ist noch lange nicht in Sicht.

Wilde Bild-Forensik und Googles Magic Editor

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.