Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Fundstücke

Kann ChatGPT durch GPTZero auf Dauer erkannt werden?

Ole Wintermann
Zum Kurator'innen-Profil
Ole WintermannFreitag, 17.02.2023

Dieser Text aus der New York Times fällt mal wieder, wie es so häufig bei Texten aus der NYT der Fall ist, durch eine geradezu brilliante Nutzung von Werkzeugen auf, um dem Leser die Funktion einer Künstlichen Intelligenz zu erklären. 

Es geht um die KI-basierte Prüfung von Texten dahingehend, ob diesen vom Menschen oder einer KI erstellt wurden. ChatGPT basiert so wie andere Sprachmodelle auch auf reiner Statistik; jedes Wort, das einem Wort folgt, wird dort nach der Wahrscheinlichkeit des Auftretens in den Übungstexten, mit denen die KI trainiert wurde, platziert. Damit sind die durch eine KI erstellten Texte quasi "perfekte" Texte, da sie durchweg dieser statistischen konsistenten Gesetzmäßigkeit folgen. Damit hinterlassen sie aber auch einen Fingerabdruck. KI, die Texte auf ihren Ursprung hin analysieren sollen, suchen nun nach "Wasserzeichen" in den Texten. Diese Wasserzeichen sind statistische Unregelmäßigkeiten, die sich dadurch ergeben, dass eben nicht das wahrscheinlichste Wort einem Wort folgt, sondern ein alternatives Wort, das von der KI geplant eingesetzt wurde. Der Nachteil jeder verschlüsselten "Botschaft" im Sinne eines Wasserzeichens besteht aber darin, dass der ursprüngliche Schlüssel bekannt sein muss, um die spezielle KI zu identifizieren, die das Wasserzeichen erstellt hat. 

Expert:innen sprechen im Text inzwischen vom "Wettrüsten" der KI- und der Kontroll-Software. So dauerte es 2 Monate, bis OpenAI selbst eine Kontroll-Software veröffentlichte. In diesem Zeitraum wurde aber schon von einem Studenten der Princeton University ein Kontroll-Werkzeug ins Netz gestellt - GPTZero - mit dem eine Überprüfung von Texten auf GPT-Ursprung möglich war. 

Erschwert wird das Auffinden von Wasserzeichen des Weiteren durch weitere KI, die die speziellen Wahrscheinlichkeitsmuster einer KI wie GPT neu anordnet und damit die Quelle unkenntlich macht.

Der Text in der NYT wird durch eine Visualisierung unterstützt, die auf einmalig simple wie nachvollziehbare Weise die Vorgehensweisen der Sprachmodelle erklärt. Absolut empfehlenswert!

Kann ChatGPT durch GPTZero auf Dauer erkannt werden?

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Bleib immer informiert! Hier gibt's den Kanal Fundstücke als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.