sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Mental Health-Start-up nutzt ChatGPT für Menschen-Experiment
Grafik-Designer, Blogger, Memetiker | goodinternet.substack.com
Kurator'in für: Technologie und Gesellschaft Medien und Gesellschaft Klima und Wandel
Irgendwas mit Medien seit 1996, Typograph, Grafiker, Blogger. Ask me anything.
Vice berichtet über einen Fall, der auf Twitter bereits für Aufregung sorgte: Das Startup "Koko", das Beratung während psychischer Krisensituationen bereitstellt, hatte in einem Experiment mit rund 4000 Nutzern das auf der künstlichen Intelligenz GPT3 basierende Chat-Interface ChatGPT eingesetzt.
Laut Unternehmen kommunizierten die Probanden nicht direkt mit der K.I., sondern mit echten Menschen, die von diesem Chatbot unterstützt wurden. Ob die Nutzer in dieses Experiment einwilligten und ob diese mögliche Einwilligung tatsächlich informed consent darstellt, ist unklar, nachdem der Gründer auf Twitter mitteilte, das Verhalten der Probanden habe sich nach der Information über den Einsatz der K.I. merklich verändert.
ChatGPT ist das neueste Wunderspielzeug von OpenAI und ist bekannt dafür, nicht nur lustige Texte über die Entfernung eines Sandwiches aus einem Videorecorder zu schreiben, sondern auch für seine Anfälligkeit für "Halluzinationen" und Fehler. Gary Marcus, dessen Arbeit ich erst vor wenigen Tagen in einem piq vorstellte, hat einen ChatGPT-Errortracker online gestellt, auf dessen Ergebnisse ich sehr gespannt bin.
Der Einsatz einer solchen Software, die anfällig ist für Fehler und Halluzinationen, im Live-Betrieb bei einem solch sensiblen Thema wie Mental Health-Beratung, ist absolut unverantwortlich und nicht wenige Stimmen mutmaßen bereits juristische Konsequenzen für das Unternehmen. Und der Vorfall ereignet sich zu einem Zeitpunkt, in dem der Einsatz von künstlicher Intelligenz im Gesundheitswesen von Wissenschaftlern stark kritisiert wird.
Auch in diesem Fall gilt wieder einmal die alte Weisheit von Cory Doctorow: "Asuming nothing will go wrong doesn't make you an optimist. It makes you an asshole. A dangerous asshole."
Quelle: Chloe Xiang Bild: Koko EN www.vice.com
Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
Das abschließende Zitat halte ich für falsch. klar im Kontext des zitierten Zitats :-) verstehe ich es, aber ich denke schon dass es einen zum Optimisten macht. ggfs. Zu einem gefährlichen Optimisten einem uniformierten ignoranten - aber ein Arschloch? nein :-).