Das Problem ist ja, dass die Konsequenzen aus der Anwendung von KI-Systemen schwer vorhersehbar sind, da selbst die Entwickler und Wissenschaftler nicht genau wissen, wie und warum die Neuronen-Layer so aufeinander reagieren, wie sie es tun. Das heisst also, dass wir nichtmal die Probleme wirklich vorhersagen können, aber wir können sie "einkreisen". So haben AI-Ethiker vor zwei Jahren (oder so) vorhergesagt, dass KI-Systeme, desto menschenähnlicher sie agieren, Illusionen von Empfindungsfähigkeit erzeugen werden. Zwei Jahre später haben wir LaMDA und Blake LeMoine und wir können nicht einmal mit Bestimmtheit sagen, dass er Unrecht hat. Wir wissen nur, dass AI ein Problem mit unserer Wahrnehmung von menschenähnlichem Verhalten erzeugt.

Ich weiß nicht, wie man in einer solchen Situation überhaupt simple Regeln aufstellen sollte. "Do no harm" funktioniert nur, wenn wir über die Mechanismen von Ursache und Wirkung Bescheid wissen, das tun wir bei künstlichen Intelligenzen aber nicht. Darüber hinaus müsste ein Language Model für einfache Regeln tatsächlich ein Verständnis für "Schaden" oder "Vermeidung" entwickeln und wahrscheinlich kann ich jede Regel über Backdoors aushebeln. Das kommt noch einmal erschwerend hinzu.

Deshalb halte ich es nicht für die schlechteste Idee, zunächst wirklich alle Einsprüche zu sammeln, die uns dazu überhaupt einfallen können, um die sich anbahnenden Probleme einzukreisen und den Schaden - *falls überhaupt einer eintritt* - zu minimieren.

Wie will man allgemeine Regeln für Fälle aufstellen, die man überhaupt nicht vorhersehen kann? Vor einer Woche haben selbstfahrende Autos aufgrund eines Glitches eine Kreuzung in San Francisco barrikadiert (https://www.siliconrep...) und da ein Image Generator wie Dall-E eine Assoziationsmaschine ist macht es aus "Tieren, die Essen genießen" immer Kannibalen (https://goodinternet.s...), da "Ente" sowohl mit dem Subjekt des Inputs als auch mit "Essen" assoziiert wird. Viel Spaß, aus sowas allgemeine Regeln abzuleiten. ;)

@René Walter ah interessant...
1. "KI-Systeme, desto menschenähnlicher sie agieren, Illusionen von Empfindungsfähigkeit erzeugen" - dafür benötigen wir eine quasi umgedrehte Regel: wenn etwas wie ein Mensch wirkt, gelten die Regeln für Menschen.

2. ich glaube wir verwechseln hier die Anwendung des Hippokratischen Eids und seine Formulierung.
zb muss man sich erstmal einig darüber sein was KI sollen was sie dürfen und was nicht. Was die Entwickler sollen dürfen und was nicht. Was die Anwender...

(wir müssen sogar schon berücksichtigten was wir tun wenn es echte KI gibt.)

3. Sollten wir uns nicht in den Details verzetteln in den Algorithmen und technischen Möglichkeiten - zunächst Definitionen.

Der klare Hippokratische Eid konnte vor 2000 Jahren und heute funktionieren weil er nicht bereits Skalpell und Ultraschall nicht schon Binde und Gentechnik zusammenfasste.

Der Eid liefert einen Rahmen und Ziele.

Danach folgen Details und Fälle und Anwendungen.

Das ist etwas für die ganze Gesellschaft, nicht nur Diskussion für Experten.