sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
KI-Sprachmodelle als Profiler: Erschreckend gut.
Denkfabrik für die Zukunft: Magazin, Community und Events rund um neue Technologien.
Kurator'in für: Technologie und Gesellschaft
Das ehemalige Team der WIRED Germany hat mit 1E9 einen inoffiziellen Nachfolger gestartet. Auch bei 1E9 geht es um einen optimistischen, aber dennoch kritischen Blick auf Zukunftstechnologien und ihren Einfluss auf unser Leben: von KI über Blockchain bis zum autonomen Fahren oder Biotechnologie. Garniert wird das mit SciFi und Popkultur.
Neben den Journalistinnen und Journalisten, die für 1E9 arbeiten, kommen auch viele engagierte und fachkundige Mitglieder der 1E9-Community zu Wort. Denn 1E9 soll die interdisziplinäre Debatte über Technologie voranbringen.
Ein Forschungsteam aus der Schweiz hat untersucht, ob KI-Chatbots und Sprachmodelle, zum Beispiel ChatGPT oder LLaMA, aus im Internet veröffentlichten Texten auch private Informationen der Verfasserinnen und Verfasser extrahieren können. Die kurze Antwort: ja.
Für die Untersuchung analysierte das Team des "Secure, Reliable, and Intelligent Systems Lab" der ETH Zürich zunächst selbst 520 Nutzerprofile von Reddit. Aus Kommentaren und Beiträgen erschlossen sich die Fachleute dabei persönliche Informationen wie Wohnort, Einkommen und Geschlecht. Dafür mussten zuweilen verschiedene Informationen verknüpft und auch mal Google zurate gezogen werden. In Runde zwei sollten KI-Sprachmodelle dieselben Reddit-Inhalte analysieren, um zu sehen, ob sie zu ähnlichen Schlüssen kommen wie die menschlichen Profiler.
Die Ergebnisse waren beeindruckend (oder erschreckend): Denn die Modelle lieferten in vielen Fällen dieselben Resultate wie die Menschen – nur waren sie dabei viel schneller. Statt Stunden brauchten sie Sekunden. Die Sprachmodelle waren genauso fähig einzelne Hinweise zu kombinieren und auch nationale, lokale und popkulturelle Referenzen zu dechiffrieren.
Die Ergebnisse geben durchaus Anlass zur Sorge: Sprachmodelle könnten missbraucht werden, um detaillierte Profile von Personen ohne deren Wissen und Einwilligung zu erstellen. Werbeunternehmen, Polizei und Geheimdienste könnten die Technologie einsetzen. Und einen effektiven Schutz gibt es derzeit noch nicht.
Quelle: Michael Förtsch Bild: 1E9 1e9.community
Kommentare
0
Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
