Gestern hat die EU sich nach einer Marathon-Sitzung auf Grundzüge des "AI Act" geeinigt und das Regelwerk für Künstliche Intelligenz beschlossen. Der AI Act schreibt, zusammengefasst, Transparenz der Trainingsdaten und Schutz von Urheberrechten vor, sowie strenge Auflagen für die risikoreichen Anwendungen von AI in kritischer Infrastruktur, Sicherheitsbehörden und beim Einsatz von Biometrie-Daten. Es ist nicht das weltweit erste AI-Gesetz, wie Ursula von der Leyen auf TwiX behauptet (China hat seine AI-Regeln im August erlassen) – aber sicherlich das umfassendste. Details zum AI Act findet man auf der Website des European Council.

In dem von mir gepiqten Video geht es nicht um den AI Act. In seinem nur halbstündigen Vortrag beim CogX-Festival in London ging Stephen Fry vor wenigen Wochen ein paar Schritte zurück und nimmt das große Bild ins Visier: Wie kann die kommende Flut an technologischem Fortschritt, denn dieser wird nicht bei aktuellen Entwicklungen wie den Big Data-basierten und algorithmisch erzeugten statistischen Modellen mit ihren erstaunlichen Fähigkeiten und Fehlleistungen – also aktuellen AI-Systemen – stehenbleiben, sondern mit zunehmender technologischer Leistungsfähigkeit in Computing zu einer weiteren Innovationsbeschleunigung führen: Heute denken wir über eine epistemische Krise der Welterkenntnis in Zeiten von Deepfakes, Überwachung und Biowaffen durch AI nach, während am Horizont heute bereits Brain-Computer-Interfaces und Quantencomputer auftauchen. Gleichzeitig steht mit dem Klimawandel die wohl herausragendste aller Krisen bevor, die bereits seit einigen Jahren erste Auswirkungen zeigt und die mit stetig steigenden Emissionen neue Rekorde aufstellt. Wie können wir, kurz gesagt, sicherstellen, dass die kommende Real Life Version von dem, was allgemein als "Singularity" bezeichnet wird, zum Wohl der Menschheit ausfällt?

Eine abschließende Antwort bietet Fry nicht, sondern er erzählt die bekannte Sage von Prometheus aus der griechischen Mythologie, in der der griechische Gott das segensreiche Feuer von Zeus stahl und den Menschen schenkte, nur um dafür an einen Felsen gekettet zu werden, wo Geier für alle Ewigkeit von seiner Leber fraßen, und Zeus schickte zur Strafe die Büchse der Pandora auf die Erde, die alles Schlechte unter die Menschen brachte, bis nur noch die Hoffnung zurückblieb.

Fry stellt uns vor die Wahl, ob wir der feuerschenkende Gott Prometheus sein wollen, der den Menschen den Funken künstlicher Intelligenz schenkt, oder der Göttervater Zeus, mit strengen Regulationen angesichts der kommenden, vor allem AI-basierten Technologiesprünge, die sich abzeichnen: Deep Learning Algorithmen haben jüngst 2,2 Millionen neuer Kristallstrukturen ausgerechnet, "800 years’ worth of knowledge", die für neuartige Technologien und Innovationen etwa in der Herstellung von Solaranlagen eingesetzt werden können. Eine weitere Studie bestätigt die Fähigkeit von Large Language Models in der Entdeckung neuer Moleküle für die Pharmaforschung, mit dem Versprechen neuer und (möglicherweise) billigerer Medikamente, und eine Studie vom Juli über die Beschleunigung wissenschaftlicher Forschung mit AI fand heraus, dass Systeme Künstlicher Intelligenz, die explizit auf menschliche Interferenzen im Forschungsprozess trainiert werden – also all die Einsteins, die völlig neuartige Theorien aufstellen – und so den Konsens des akademischen Betriebs vermeiden, die Vorhersage dieser KI-Systeme zukünftiger Entdeckungen um 400 % steigert. Diese Dinge sind heute möglich.

Ich selbst bin Anhänger einer Entschleunigung der Entwicklung (vor allem aus psychologischen Gründen) und einer starken KI-Regulierung, wie sie sich im EU-Act abzeichnet. In meinem Newsletter Against open sourcing Automatized Knowledge Interpolators habe ich vor einigen Wochen gegen Open Source AI argumentiert: KI-Systeme sind in der Lage, die oben aufgezählten wissenschaftlichen Sprünge zu verursachen, weil sie ihre Trainingsdaten umfassend und in nie gekannter Geschwindigkeit interpolieren können. Man trainiert eine AI auf bekannte Kristallstrukturen und erhält in wenigen Stunden ein paar Millionen neue Kristalle. Man ändert den Algorithmus und erhält 40000 neue Chemiewaffen. Diese grundlegend neue, nicht-menschliche Macht der Interpolation bekannten Wissens ist gleichzusetzen mit epistemologischer Kernfusion. Eine strenge Regulation dieser epistemologischen Macht erscheint mir zwingend notwendig und die althergebrachten, techno-traditionellen Ansätze freier Open Source-Entwicklung erscheinen mir hier durchaus gefährlich.

Ich denke auch nicht, dass wir nur die Wahl haben zwischen Prometheus und Zeus. Prometheus AI-Funke, über den Stephen Fry in seinem Vortrag spricht, ist tatsächlich und zuvorderst Big Data, denn alle AI-Modelle basieren auf exzessiven Datenbanken voller Trainingsdaten. Und genau die wurden nun von einer EU reguliert, die auf Daten-Transparenz und Qualität besteht. In Stephen Frys Worten insistiert die EU also darauf, dass Prometheus Feuer-Geschenk ein tatsächlich ordentliches Feuer darstellt, und nicht einen umherflackernden, unkontrollierbaren Brandherd.

Der AI Act der EU ist ein Update der griechischen Sage von Prometheus: In der aktualisierten Version gibt Zeus seine Flamme selbst an Prometheus und besteht auf kontrolliertem Funkenschlag, sodass es nicht die Dörfer der Menschen abfackelt, und auf transparenter Beschaffung des Brennmaterials, die nicht hemmungslos das Feuerholz der Menschen ausbeutet. Ich kann mit dieser neuen, frei adaptierten Fry'schen AI-Mythologie der EU vorerst gut leben.