Kanäle
Jetzt personalisiertes
Audiomagazin abonnieren
Log-in registrieren
forum verwendet Cookies und andere Analysewerkzeuge um den Dienst bereitzustellen und um dein Website-Erlebnis zu verbessern.

handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Fundstücke

ChatGPT im Gesundheitsbereich: Chancen und Risiken

Ole Wintermann
Zum Kurator'innen-Profil
Ole WintermannMittwoch, 14.06.2023

In diesen Tagen ist es üblich geworden, dass die Debatte um die Nützlichkeit oder Gefährlichkeit eines Sprachmodells wie ChatGPT polarisiert und teils auch aus einer Warte der negativen Betroffenheit heraus geführt wird. Der vorliegende wissenschaftliche Text hebt sich wohltuend davon ab, ohne Nutzen oder Risiken zu überbetonen.

Es geht hierbei um den Einsatz von ChatGPT im Gesundheitsbereich. Auf der Seite der Vorteile steht die Nutzung der KI für die Erstellung oder auch vorbereitende Recherche wissenschaftlicher Texte. Themenauswahl und Projektplanungen können schneller und spezifischer getroffen und formuliert werden. Zusammenfassungen zu Forschungsständen aus verschiedenen Studien können bereits heute so perfekt von ChatGPT geschrieben werden, dass Plagiatssoftware die "Handschrift" der KI nicht mehr zu erkennen vermag.

Experimente können mit weniger Zeitaufwand durchgeführt werden, da der Abgleich mit dem aktuellen Forschungsstand nahezu in Realtime erfolgen kann. Gegenseitiges Kommentieren kann in der Form von Social Graphen gespeichert und berücksichtigt werden.

Für Patienten kann die KI die Rolle eines begleitenden Assistenten übernehmen, der sich um die Krankengeschichte, die Kombination von Medikamenten oder den Stand der Behandlung kümmert. Patientenübergreifend kann die KI Muster erkennen und helfen, Behandlungserfolge zu skalieren.

Für Angestellte im Gesundheitsbereich kann die KI die Rolle des Fortbilders übernehmen, der die Angestellten auf neueste Entwicklungen im eigenen Bereich hinweist und diese darstellt. 

Und schließlich kann die KI die Arzt-Patienten-Schnittstelle ergänzen und bei Diagnose und Behandlung zur Hand gehen.

Auf der Seite der Risiken steht beispielsweise die Gefahr von Urheberrechtsverletzungen und unklaren Haftungsfragen im Zuge einer falsch erstellten Diagnose. Auch bei Ungenauigkeiten während der Behandlung muss die Frage der Haftung vorab geklärt werden. Und letztlich ist der Output der KI nur so gut wie der zu Beginn initiierte Prompt, der vom medizinischen Fachpersonal hochqualitativ formuliert werden muss. 

Ethische Fragen resultieren aus unklaren Rechtslagen beim Datenschutz, der Nutzung privater Daten, der Transparenz der KI, der Vorgabe der Nicht-Diskriminierung und der Folgen für die soziale und ökologische Nachhaltigkeit. Auch stellt sich die Frage, ob die KI die ökonomische und soziale Ungleichheit innerhalb von Staaten oder zwischen dem globalen Norden und Süden verstärkt oder abschwächt. 

Lösungsansätze sind aus Sicht der Autoren die rechtzeitige Einbeziehung der KI in die Ausbildung sowie eine weitreichende Regulierung.

ChatGPT im Gesundheitsbereich: Chancen und Risiken

Möchtest du kommentieren? Dann werde jetzt kostenlos Mitglied!

Kommentare 4
  1. Hans-Peter Stricker
    Hans-Peter Stricker · vor mehr als ein Jahr

    Ich lese immer wieder Dinge wie "Zusammenfassungen zu Forschungsständen aus verschiedenen Studien können [...] perfekt von ChatGPT geschrieben werden". Wie muss ich mir das denn vorstellen, man kann doch ChatGPT nicht mit allen relevanten Studien füttern, auf dass er sie nur noch zusammenfassen muss? ChatGPT kann doch angeblich nur 4.096 Worte auf einmal lesen, alles jenseits davon kann er nicht in Zusammenhang bringen. Wie also machen die Gesundheitsforscher das?

    1. Jochen Dachboden
      Jochen Dachboden · vor mehr als ein Jahr

      die 4.096 worte beziehen sich meines wissens auf das prompting.
      es gibt daneben aber auch ein offizielles feature das sprachmodell mit eigenen daten zu trainieren und dort können natürlich dann eine quasi unbegrenzte anzahl an studien genutzt werden.

    2. Hans-Peter Stricker
      Hans-Peter Stricker · vor mehr als ein Jahr

      @Jochen Dachboden Danke! Aber mit eigenen Daten trainieren (fine-tunen), heißt doch, Gewichte zu verändern. Das hilft aber nicht für das gezielte Zusammenfassen - meinem Verständnis nach. Eine Zusammenfassung irgendeines bekannten Buches schreibt ChatGPT ja auch nicht, in dem er es nachliest - sondern indem er sich aus unzähligen Zusammenfassungen des Buches bedient.

    3. Jochen Dachboden
      Jochen Dachboden · vor mehr als ein Jahr

      @Hans-Peter Stricker interessante Frage, wie bei ChatGPT zusammenfassungen entstehen können. ich bin mir mit deiner aussage nicht ganz sicher. ich könnte mir vorstellen es kann auch ein text zusammengefasst werden zu welchem es keine sekundärliteratur oder Zusammenfassungen gibt. cgpt kann da vielleicht schon lernen wie denn prinzipiell eine zusammenfassung aus einem text erstellt werden kann.
      soweit ich es verstehe liegen die trainigsdaten chatgpt ja schon auch später vor.

Bleib immer informiert! Hier gibt's den Kanal Fundstücke als Newsletter.

Abonnieren

Deine Hörempfehlungen
direkt aufs Handy!

Einfach die Hörempfehlungen unserer Kurator'innen als Feed in deinem Podcatcher abonnieren. Fertig ist das Ohrenglück!

Öffne deinen Podcast Feed in AntennaPod:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Downcast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Instacast:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Apple Podcasts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Podgrasp:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Bitte kopiere die URL und füge sie in deine
Podcast- oder RSS-APP ein.

Wenn du fertig bist,
kannst du das Fenster schließen.

Link wurde in die Zwischenablage kopiert.

Öffne deinen Podcast Feed in gpodder.net:

Wenn alles geklappt hat,
kannst du das Fenster schließen.

Öffne deinen Podcast Feed in Pocket Casts:

Wenn alles geklappt hat,
kannst du das Fenster schließen.