Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

Das Problem mit den KI-Fake-Detektoren

Jannis Brühl
Redakteur
Zum Kurator'innen-Profil
Jannis BrühlSonntag, 22.10.2023

In der Debatte um mit KI gefälschte Bilder gibt es diesen überraschenden Twist: Die KI-Detektoren, die Fake-Bilder erkennen sollen, werden ihrerseits Mittel der Desinformation. Die (übrigens sehr interessante) neue US-Tech-Nachrichtenseite 404 macht auf den Fall aufmerksam, der nach den Massakern der Hamas in Israel die Runde machte: Das verstörende angebliche Bild eines von der Hamas verbrannten Babys wurde als Fake abgetan. Das glaubten auch viele Leute - schließlich hatte die Detektor-Seite "AI or Not" das Bild als KI-Produkt eingestuft.

Das Problem ist: Die Detektoren funktionieren nicht wirklich gut.

The internet is filled with these kinds of tools, and we have no idea how they work exactly, or if they’re accurate. It’s also not clear what we’re supposed to take away from an automated system that spits out a figure that suggests an image is basically about as likely to be AI as it is not. When a black-box system that is at best 90 percent accurate suggests an image is 52 percent likely to be artificial, or 52 percent likely to be real, anyone can use that tool to make any argument they want.

Fachleute finden keine Spuren, dass das Bild manipuliert wurde. Das Gerücht, ursprünglich von einem einzigen großen X-Account gestreut, verbreitete sich in der Propaganda-getränkten Social-Media-Atmosphäre im Netz und damit in der Welt.

Der Gedanke ist wichtig für kommende Diskussionen über automatisierte Desinformation: Nicht nur ein Bild selbst kann manipuliert sein. Seine Diskreditierung durch einen Detektor kann ebenso manipulativ eingesetzt werden, um die Gegenseite als Lügner abzustempeln. Die Existenz von KI ist also vielleicht gar nicht das Problem. Sondern der Glaube daran, dass mit der Technologie sämtliche vorstellbare Manipulationen möglich sind.

Das Problem mit den KI-Fake-Detektoren

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.