Die EU-Kommission will den Einsatz von künstlicher Intelligenz zur Überwachung, Auswahl von Personen und das Lernen aus Datenbanken reglementieren.

Rainer Kurlemann hat sich den ersten Entwurf einer Verordnung vom 21. April angesehen. Das 88 Seiten starke Dokument zeigt bereits, nach welchen Kriterien die EU künstliche Intelligenz (KI) künftig bewerten und begrenzen will.

Der Entwurf der EU versucht rote Linien zu ziehen, die von den KI-Anwendungen nicht überschritten werden dürfen. Aber schon heute ist klar, dass das in Detailfragen äußerst diffizil werden wird.

So verbietet er die Kontrolle des Sozialverhaltens, die beispielsweise in China getestet wird. Das Dokument untersagt generell Anwendungen, die Menschen zu ihrem Schaden manipulieren oder Wissen über Schwachstellen von Personen ausnutzen, um ihnen zu schaden. Das klingt plausibel, doch die Formulierung lässt zahlreiche Interpretationen zu. „Impliziert das, dass soziale Medien verboten werden?“, fragt Kristian Kersting von der TU Darmstadt. „Das klingt zwar zynisch, aber viele Leute sind der Meinung, das soziale Netzwerke die Meinung von Menschen negativ beeinflussen können“, erklärt der Leiter des Fachgebiets Maschinelles Lernen.

Ähnlich kompliziert ist die Frage nach der automatischen Gesichtserkennung, die in vielerlei Hinsicht leicht missbraucht werden könnte. 

Verboten werden soll auch die Verwendung von ‚Echtzeit‘-Systemen zur biometrischen Identifizierung in öffentlich zugänglichen Räumen. Doch das Verbot gilt nicht generell, sondern nur für staatliche Überwachung. Privatleute dürfen die automatische Gesichtserkennung einsetzen. Auch Staaten wird das Recht für Ausnahmen eingeräumt. Einzelne Regierungen können abweichende Regelungen erlassen, etwa für die gezielte Suche nach vermissten Kindern, nach Verbrechern, die schwere Straftaten begangen haben oder für die Verhinderung solcher Taten. Dabei sollen aber die Rechte und Freiheiten aller betroffenen Personen bedacht und die Einsätze angemessen zeitlich oder räumlich eingegrenzt werden. Christiane Wendehorst, ehemalige Co-Vorsitzende der Datenethikkommission der Bundesregierung, erwartet konkretere Vorgaben beispielsweise auch für den Einsatz von Software, die Emotionen erkennen kann. „Doch diesbezüglich hat man es bei einer Kennzeichnungspflicht bewenden lassen“, sagt sie.

Besondere Anforderungen sollen sogenannte „risikoreiche KI-Systeme“ erfüllen, die einen irreparablen Schaden anrichten können. Damit sind Anwendungen gemeint, die als Sicherheitskomponenten in kritischer Infrastruktur eingesetzt werden. 

Dazu gehören aber auch KI-Systeme, die prüfen, ob Personen zum Beispiel für Kredite, Arbeitsstellen, Ausbildungs- oder Studienplätze geeignet sind. Die Anbieter dieser Anwendungen sollen ein Risikomanagement entwerfen. Eine gute Idee, die aber schwierig umzusetzen sein könnte, urteilt Kersting. „Eine vollständige, explizite Beschreibung sämtlicher Auswirkungen von Aktionen auf alle in einer Welt geltenden Fakten ist schwer, wenn nicht unmöglich. Von dem Festlegen der Mindeststandards mal ganz abgesehen“, sagt er.