Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

KI-Sprachmodelle als Profiler: Erschreckend gut.

1E9 Magazin
Denkfabrik für die Zukunft: Magazin, Community und Events rund um neue Technologien.
Zum Kurator'innen-Profil
1E9 MagazinFreitag, 15.12.2023

Ein Forschungsteam aus der Schweiz hat untersucht, ob KI-Chatbots und Sprachmodelle, zum Beispiel ChatGPT oder LLaMA, aus im Internet veröffentlichten Texten auch private Informationen der Verfasserinnen und Verfasser extrahieren können. Die kurze Antwort: ja.

Für die Untersuchung analysierte das Team des "Secure, Reliable, and Intelligent Systems Lab" der ETH Zürich zunächst selbst 520 Nutzerprofile von Reddit. Aus Kommentaren und Beiträgen erschlossen sich die Fachleute dabei persönliche Informationen wie Wohnort, Einkommen und Geschlecht. Dafür mussten zuweilen verschiedene Informationen verknüpft und auch mal Google zurate gezogen werden. In Runde zwei sollten KI-Sprachmodelle dieselben Reddit-Inhalte analysieren, um zu sehen, ob sie zu ähnlichen Schlüssen kommen wie die menschlichen Profiler. 

Die Ergebnisse waren beeindruckend (oder erschreckend): Denn die Modelle lieferten in vielen Fällen dieselben Resultate wie die Menschen – nur waren sie dabei viel schneller. Statt Stunden brauchten sie Sekunden. Die Sprachmodelle waren genauso fähig einzelne Hinweise zu kombinieren und auch nationale, lokale und popkulturelle Referenzen zu dechiffrieren.

Die Ergebnisse geben durchaus Anlass zur Sorge: Sprachmodelle könnten missbraucht werden, um detaillierte Profile von Personen ohne deren Wissen und Einwilligung zu erstellen. Werbeunternehmen, Polizei und Geheimdienste könnten die Technologie einsetzen. Und einen effektiven Schutz gibt es derzeit noch nicht.

KI-Sprachmodelle als Profiler: Erschreckend gut.

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.