Ringen um AI Act: EU-Parlament nimmt ChatGPT ins Visier

Mit ChatGPT hat künstliche Intelligenz (KI) erstmals ein Gesicht bekommen. Durchschnittsnutzer*innen können ohne großen Aufwand Fragen an ChatGPT stellen, sich künstlich generierte Bilder von Programmen wie Midjourney erstellen lassen oder mit wenigen Klicks Videos aus Text erschaffen.

Hinter diesen Programmen, die in die Mitte der Gesellschaft gerückt sind, steckt sogenannte „generative KI“ – ein Sammelbegriff für künstliche Intelligenz, die originelle Inhalte ohne menschliches Zutun produziert. Eigentlich arbeiten die EU-Institutionen bereits seit 2021 daran, im Rahmen des „AI Act“ Richtlinien für KI-Anwendungen festzuzurren. Generative KI-Modelle, wie jene hinter ChatGPT, die nicht an einen bestimmten Zweck gebunden sind und unterschiedlichste Anwendungen haben können, hatte die EU allerdings nicht am Radar. Bis vor kurzem fehlte von ChatGPT und Co in den Entwürfen jede Spur.

Nun kommt das EU-Parlament allerdings in die Gänge. Aktuell liegt bei den zuständigen Abgeordneten ein Entwurf am Tisch, der auch generative „Allzweck-KI“ regulieren soll. Der Entwurf wird bereits am Donnerstag im Parlamentsausschuss abgesegnet. Eine wichtige Abstimmung, da hier wesentliche Inhalte des AI Act festgelegt werden. Und noch besteht nicht in allen Punkten Einigkeit.

"Müssen Trainingsdaten dokumentieren"

„[Der AI Act] war keine leichte Aufgabe, denn es ist weltweit das erste Mal, dass KI auf diese Weise reguliert wird“, sagt Brando Benifei, federführender EU-Parlamentsabgeordneter, über den AI Act in einem Presse-Briefing am Mittwoch. „Wir haben versucht, einen Rahmen zu schaffen, der flexibel genug ist für künftige Innovationen, aber gleichzeitig die Bürger*innen schützt“.

Bei Allzweck-KI habe sich das Parlament auf ein „spezielles Regime“ geeinigt. Unternehmen, die generative KI entwickeln, müssen künftig ihre Trainingsdaten dokumentieren. Dies soll in erster Linie die Durchsetzung von Urheberrechten ermöglichen, da KI-Anwendungen wie Dall-E oder auch ChatGPT an Texten und Bildern trainieren, die geistiges Eigentum darstellen können.

„Sie müssen fortan gründlich dokumentieren und transparent machen, welches Material verwendet wurde, um eine KI zu trainieren“, hält Abgeordneter Dragoş Tudorache fest. Denn nur so seien Betroffene in der Lage, eine Verletzung ihrer Urheberrechte auch geltend zu machen. Die Inhalte, die generative KI produziert, dürfen zudem nicht gegen das Gesetz verstoßen. So soll etwa Fake News oder Deep Fakes Einhalt geboten werden. Sind Hersteller von generativer KI nicht säumig, droht eine Geldbuße.

Hochrisiko-Kategorie soll sensible Bereiche regeln

Anders als ursprünglich vorgesehen, soll generative KI aber nicht standardmäßig als Hochrisiko-Anwendung eingestuft werden. Für diese Anwendungen gelten nämlich verschärfte Regeln. Sie dürfen etwa nicht von jedem verwendet werden und müssen zudem eine Art Folgenabschätzung, geleitet von den zuständigen Behörden, durchlaufen. Unter Hochrisiko-KIs fallen nach derzeitigem Entwurf etwa Systeme, die bei Wahlen zum Einsatz kommen, um Stimmen auszuzählen. Oder solche, die bei Versicherungen oder Kreditvergabe Anwendung finden.

Die Unterteilung von KI-Anwendungen in 4 Kategorien bleibt, wie im Vorhinein angekündigt, bestehen: Neben dem hohen Risiko, gibt es noch die Stufen minimales Risiko, geringes Risiko sowie unannehmbares Risiko. Unannehmbar und somit verboten sind unter anderem die Ausbeutung besonders vulnerabler Personen, darunter Kinder. Auch die Echtzeit-Fernidentifikation, also die Massenüberwachung per biometrischer Gesichtserkennung, ist dem Parlamentsentwurf zufolge unzulässig. 

Echtzeit-Gesichtserkennung noch in der Schwebe

Gerade ein Verbot solcher KI-Systeme ist allerdings nicht in Stein gemeißelt. Zwar betont Abgeordneter Tudorache vehement: „In der EU wird man nicht in der Lage sein, biometrische Gesichtserkennung in Echtzeit einzusetzen. Punkt“. Und auch Mitglied Benifei bezeichnet die Technologie als „sicherheitspolitischen Albtraum“.

Für einige Abgeordnete der konservativen Fraktion (EPP) dürfte diese Position im AI-Act-Entwurf allerdings nur schwer zu verdauen sein. Denn sie spricht sich traditionell für einen Einsatz von biometrischer Gesichtserkennung in der Strafverfolgung aus und könnte sich in diesem Punkt somit querlegen. Und auch der Rat, der die Regierungen der EU-Mitgliedsländer vertritt, könnte der Technologie positiver gegenüberstehen. 

„Wir sehen mehrere Punkte, in denen unsere Positionen ähnlich sind“, zeigt sich Benifei im Hinblick auf den weiteren legislativen Prozess allerdings optimistisch. Sobald sich die EU-Abgeordneten auf eine gemeinsame Position geeinigt haben, werden die Trilog-Verhandlungen zwischen Parlament, Rat und Kommission beginnen. Dies dürfte im Herbst der Fall sein. Der AI Act soll dann voraussichtlich 2025 in Kraft treten.