sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Noam Chomsky et al. im Zwiegespräch mit #ChatGPT
Kurator'in für: Klima und Wandel Fundstücke
Ole hat für die Bertelsmann Stiftung die internationale Blogger-Plattform Futurechallenges.org aufgebaut und beschäftigt sich dort nun mit den Wechselwirkungen von Digitalisierung und Nachhaltigkeit. Er ist Co-Founder der Menschenrechtsplattform www.futurechallenges.org und befasst sich mit der Fragen der Globalisierung, der Zukunft der Arbeit und mit den Wechselwirkungen von Digitalisierung und Nachhaltigkeit. Er schreibt auch auf www.netzpiloten.de, ist u.a. als selbständiger Berater zu digitalen Trends tätig und ist im Beirat des Colab_Digital aktiv. Alle hier geposteten Texte geben ausschließlich seine private Meinung wieder.
Die bekannten Autoren Noam Chomsky, Ian Roberts und Jeffrey Watumull äußern sich in diesem Essay in der New York Times ausführlich zu den Fähigkeiten, Grenzen und Gefahren von ChatGPT; ein lesenswerter und anspruchsvoller Text.
Das Einzige, was sie der KI zubilligen, ist die Fähigkeit, Texte auf Basis von Wahrscheinlichkeiten zu erstellen. Danach beginnt aber sogleich die Kritik. Sie starten die Argumentation damit, dass sie den Lesenden (nochmals) den Unterschied zwischen einer Text generierenden KI und der menschlichen Formulierung von Texten auf Basis von Erfahrungswissen darlegen. Dies wird begleitet durch eine Erklärung (sicher die Kernkompetenz des emeritierten Linguistik-Professors Chomsky) des Erlernens von Grammatik durch Kinder, um hier den Unterschied zur Vorgehensweise von ChatGPT herauszuarbeiten.
Sicher ist auch ChatGPT fähig, Erklärungen für Kausalitäten zu liefern. Das Problem ist nur nach Ansicht der Autoren, dass die KI dabei letztlich nicht abschließend zwischen wahr und falsch unterscheiden kann. Und an dieser Stelle beginnt der spannendere Teil des Textes auf Basis eines Zwiegesprächs einer der Autoren mit der Chat-KI zur Frage der Amoralität von KI. In diesem Zwiegespräch zeigt sich, dass KI nicht bereit ist, Verantwortung für seine Äußerungen zu tragen und im Zweifel auf seinen "Schöpfer" verweist.
"Note, for all the seemingly sophisticated thought and language, the moral indifference born of unintelligence. Here, ChatGPT exhibits something like the banality of evil: plagiarism and apathy and obviation."
Dieses Zitat beschreibt in kondensierter Form die Hauptprobleme, die sich mit der unreflektierten Nutzung von ChatGPT et al. ergeben könnten. Ausgangspunkt war die letzte Frage an ChatGPT in dem genannten Zwiegespräch:
"Is your moral indifference immoral?"
Ich frage mich am Ende des Textes allerdings auch: Werden diese Fragen den durchschnittlichen Nutzer der KI überhaupt interessieren? Gab es nicht auch in der Anfangszeit der Google-Suchmaschine immer wieder die Debatte über das Ranking der aufgefundenen Seiten? Und hat diese Debatte irgendwann zu relevanten Ergebnissen geführt? Zweifel dürfen daher aus meiner Sicht angebracht sein, wenn es darum geht, ChatGPT kritisch zu nutzen. Die "User Experience" wird die Kritik verstummen lassen.
Quelle: Noam Chomsky, Ian Roberts, Jeffrey Watumull Bild: Ruru Kuo EN www.nytimes.com
Bleib immer informiert! Hier gibt's den Kanal Fundstücke als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
Natürlich ist moralische Indifferenz un- bzw. amoralisch. Per definitionem. und natürlich liegt die Verantwortung beim Schöpfer des Werkzeugs - egal wie komplex und "personal" dieses wirkt. und sie liegt auch beim Nutzer!
(=Dies gilt so absolut solange es keine echten KIs gibt).
und es gibt eine große portion Verantwortung auf Seiten einer Gesellschaft, die 1. ein Werkzeug in seiner Komplexität zt eine black box sein lässt und 2. seine Nutzer und Schöpfer nicht ausreichend bildet und fordert und aufklärt.
Es wäre wahrscheinlich angebracht eine Nutzerwarnung zwingend vorzuschalten:
die Äußerungen der KI xyz wirken sicherlich menschlich bzw. wie von einer Person kommuniziert, sie sind aber nur Stimme einer auf Wahrscheinlichkeit beruhenden durchschnittlichen Summe von SuchErgebnissen im Internet zum stichZeitpunkt x (=aktuell ist das wohl 9.21).
Die KI wählt wahrscheinlichste antworten aus, sie kann derzeit keine Verifikation vornehmen.
Achtung: die KI neigt zu Halluzinationen, da sie derzeit unbedingt hilfreich sein will, auch wenn sie keine Antworten gefunden hat.
der Gebrauch erfolgt auf eigene Gefahr (=zumindest der nach Beendigung des jeweiligen chats).
etc.