Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Fundstücke

Noam Chomsky et al. im Zwiegespräch mit #ChatGPT

Ole Wintermann
Zum Kurator'innen-Profil
Ole WintermannDienstag, 14.03.2023

Die bekannten Autoren Noam Chomsky, Ian Roberts und Jeffrey Watumull äußern sich in diesem Essay in der New York Times ausführlich zu den Fähigkeiten, Grenzen und Gefahren von ChatGPT; ein lesenswerter und anspruchsvoller Text.

Das Einzige, was sie der KI zubilligen, ist die Fähigkeit, Texte auf Basis von Wahrscheinlichkeiten zu erstellen. Danach beginnt aber sogleich die Kritik. Sie starten die Argumentation damit, dass sie den Lesenden (nochmals) den Unterschied zwischen einer Text generierenden KI und der menschlichen Formulierung von Texten auf Basis von Erfahrungswissen darlegen. Dies wird begleitet durch eine Erklärung (sicher die Kernkompetenz des emeritierten Linguistik-Professors Chomsky) des Erlernens von Grammatik durch Kinder, um hier den Unterschied zur Vorgehensweise von ChatGPT herauszuarbeiten. 

Sicher ist auch ChatGPT fähig, Erklärungen für Kausalitäten zu liefern. Das Problem ist nur nach Ansicht der Autoren, dass die KI dabei letztlich nicht abschließend zwischen wahr und falsch unterscheiden kann. Und an dieser Stelle beginnt der spannendere Teil des Textes auf Basis eines Zwiegesprächs einer der Autoren mit der Chat-KI zur Frage der Amoralität von KI. In diesem Zwiegespräch zeigt sich, dass KI nicht bereit ist, Verantwortung für seine Äußerungen zu tragen und im Zweifel auf seinen "Schöpfer" verweist. 

"Note, for all the seemingly sophisticated thought and language, the moral indifference born of unintelligence. Here, ChatGPT exhibits something like the banality of evil: plagiarism and apathy and obviation."

Dieses Zitat beschreibt in kondensierter Form die Hauptprobleme, die sich mit der unreflektierten Nutzung von ChatGPT et al. ergeben könnten. Ausgangspunkt war die letzte Frage an ChatGPT in dem genannten Zwiegespräch:

"Is your moral indifference immoral?"

Ich frage mich am Ende des Textes allerdings auch: Werden diese Fragen den durchschnittlichen Nutzer der KI überhaupt interessieren? Gab es nicht auch in der Anfangszeit der Google-Suchmaschine immer wieder die Debatte über das Ranking der aufgefundenen Seiten? Und hat diese Debatte irgendwann zu relevanten Ergebnissen geführt? Zweifel dürfen daher aus meiner Sicht angebracht sein, wenn es darum geht, ChatGPT kritisch zu nutzen. Die "User Experience" wird die Kritik verstummen lassen. 

Noam Chomsky et al. im Zwiegespräch mit #ChatGPT

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 2
  1. Cornelia Gliem
    Cornelia Gliem · vor mehr als ein Jahr

    Natürlich ist moralische Indifferenz un- bzw. amoralisch. Per definitionem. und natürlich liegt die Verantwortung beim Schöpfer des Werkzeugs - egal wie komplex und "personal" dieses wirkt. und sie liegt auch beim Nutzer!
    (=Dies gilt so absolut solange es keine echten KIs gibt).

    und es gibt eine große portion Verantwortung auf Seiten einer Gesellschaft, die 1. ein Werkzeug in seiner Komplexität zt eine black box sein lässt und 2. seine Nutzer und Schöpfer nicht ausreichend bildet und fordert und aufklärt.

    Es wäre wahrscheinlich angebracht eine Nutzerwarnung zwingend vorzuschalten:

    die Äußerungen der KI xyz wirken sicherlich menschlich bzw. wie von einer Person kommuniziert, sie sind aber nur Stimme einer auf Wahrscheinlichkeit beruhenden durchschnittlichen Summe von SuchErgebnissen im Internet zum stichZeitpunkt x (=aktuell ist das wohl 9.21).

    Die KI wählt wahrscheinlichste antworten aus, sie kann derzeit keine Verifikation vornehmen.

    Achtung: die KI neigt zu Halluzinationen, da sie derzeit unbedingt hilfreich sein will, auch wenn sie keine Antworten gefunden hat.

    der Gebrauch erfolgt auf eigene Gefahr (=zumindest der nach Beendigung des jeweiligen chats).

    etc.

    1. Ole Wintermann
      Ole Wintermann · vor mehr als ein Jahr

      Hallo, danke für die Kommentierung. Ja, das ist alles richtig und bedenkenswert. Allerdings bin ich nach den Erfahrungen mit der Nutzung und Interpretation von Such-Aussagen in den ersten Jahren der Google-Suche skeptisch, dass sich auf Dauer diese differenzierte Sicht durchsetzen wird. Und auch bei Google hat ja letztlich über die Jahre die Erkenntnis, dass die ersten Seite tatsächlich die relevantesten Ergebnisse enthält, dazu geführt, dass die Suchergebnisse heute nicht mehr wirklich hinterfragt werden. Gleiches erahne ich bei GPT: Immer häufiger erlebe ich im Arbeitskontext, dass schnell auf GPT ausgewichen wird, statt sich Wissen bruchstückhaft über die Google-Suche anzueignen.

Bleib immer informiert! Hier gibt's den Kanal Fundstücke als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.