Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Porno-Deepfakes – there's an app for that

René Walter
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com

Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.

Zum Kurator'innen-Profil
René WalterSonntag, 18.09.2022

Theresa Locker und Sebastian Meineck haben eine Recherche über die Möglichkeit veröffentlicht, Deepfake-Pornografie mit millionenfach installierten Face-Swap-Apps auf dem Handy zu erstellen. Ich piqe hier den Bericht auf Netzpolitik.org, die Recherche findet sich hinter einer Bezahlschranke auf Spiegel Online.

Die Journalisten testeten drei der populärsten Deepfake-Mobile-Apps: FaceMagic, Reface und FacePlay. Alle drei eignen sich dafür, non-konsensuale sexualisierte Bilder zu produzieren, mit FaceMagic bis hin zum Hardcore-Porno. FaceMagic machte in der Vergangenheit mit der Möglichkeit, Pornos mit den Gesichtern von Fremden zu produzieren, auch explizit Werbung und schaltete diese – selbstverständlich – auf Porno-Websites. Die non-konsensuale Erstellung von Pornografie gehört für FaceMagic also zum Geschäftsmodell.

Die Debatte ist alles andere als neu. Die ersten Meldungen über das damals neue Phänomen erschienen im Winter 2017 und ihre Viralität half dabei, den Namen "Deepfake" für AI-basierte Face-Swaps zu etablieren, die in den Jahren zuvor in Expertenkreisen als Face2Face bekannt geworden waren. Die Möglichkeiten für User nun auch per Mobile App mit einem Klick jedes Gesicht auf jedes Video flanschen (ein Fachbegriff für "dicht anbringen") zu können – inklusive Pornovideos – sind eine Folge der fortschreitenden Demokratisierung dieser Technologien.

Zusammen mit neuen Bildgeneratoren wie Dall-E ergibt sich hier das größere Bild einer Technologie, die es jedem Nutzer erlaubt, jeden Gedanken, jede Idee und jeden Traum ohne Kenntnisse in der Erstellung von Fotomontage, Grafik oder Malerei (und schon bald auch: Animation, Film und Video) mit wenigen Klicks erstellen zu können. Die Technologien der sogenannten Creative AI sind die Verwirklichung einer "engine for the imagination", so David Holz, Gründer des Bildgenerators Midjourney. Und diese Vorstellungswelten beinhalten nicht nur wilde Bilder von Fantasy-Drachen in allen Spielarten, sondern auch sexuelle Fantasien, die man nun in einem Klick in non-konsensualer Pornografie abbilden kann.

AI-Technologien und ihre Möglichkeiten stellen die Politik vor bislang unbekannte Probleme und es verschwimmen die Grenzen zwischen den Rechten am eigenen Bild, Privatsphäre und der Freiheit der eigenen Fantasie. Wenn AI-Tools eine Maschine ermöglichen, die Träume abbilden kann – wie weit gehen die Befugnisse der Politik, diese Träume zu regulieren?

Porno-Deepfakes – there's an app for that

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.