EU-Parlament: Schärfere Regeln für KI und keine Gesichtsüberwachung

Das EU-Parlament hat seine Position zur geplanten Regulierung von Künstlicher Intelligenz (KI) am Mittwoch in Straßburg festgelegt. Die EU-Abgeordneten fordern teils eine Verschärfung des am Tisch liegenden Vorschlags der EU-Kommission. So soll die Verbotsliste u. a. um biometrische Kategorisierungssysteme anhand sensibler Merkmale sowie präventive Polizeisysteme erweitert werden. Nach der Einigung können die Verhandlungen mit den EU-Staaten beginnen.

Risikobasierter Ansatz

Das geplante Gesetz folgt einem risikobasierten Ansatz: Die Regulierung richtet sich nach dem Grad des Risikos, das die KI erzeugen kann. Der Act verbietet KI-Systeme mit inakzeptablen Risikostufen. Dazu zählen Systeme, die zum Social Scoring (Einstufung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale) eingesetzt werden können.

➤ Mehr lesen: Was es mit Turskys geplanter KI-Behörde auf sich hat

KI-Systeme, die Wähler*innen und Wahlergebnisse beeinflussen oder einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen, sollen nach dem Wunsch der Abgeordneten auch auf der Hochrisiko-Liste stehen.

Ausnahmeregelungen für die Forschung

Im Kommissionsvorschlag sind maßgeschneiderte Regeln zur sinnvollen Nutzung von generativer KI wie ChatGPT enthalten. Um die KI-Innovation anzukurbeln, schlagen die Abgeordneten Ausnahmeregelungen für Forschungstätigkeiten sowie die Nutzung sogenannter KI-Reallabore ("regulatory sandboxes") vor.

Digitalisierungsstaatssekretär Florian Tursky zeigte sich erfreut über das Ergebnis. Des EU-Parlament "hat die Dringlichkeit einer schnellen Regulierung erkannt. Wichtig ist für Europa, rasch zu einer klugen Regulierung zu kommen, die Innovation ermöglicht, aber gleichzeitig Massenüberwachung oder Social Scoring mittels KI-Anwendungen untersagt", Tursky in einer Aussendung.

➤ Mehr lesen: EU-Berater zu KI-Regulierung: "ChatGPT war ein Weckruf für uns"

"Wir unterstützen ein EU-Gesetz, das den Einsatz von KI so bald wie möglich regelt. Der Grundsatz dafür muss sein, dass wir die Chancen dieser neuen Technologie nutzen und deren Risiken nach Möglichkeit minimieren", erklärten die ÖVP-Europaabgeordneten Barbara Thaler und Lukas Mandl in einer Aussendung.

Verhandlungen über Gesetzestext

"Das EU-KI-Gesetz ist dringend nötig, denn wir stehen am Beginn einer technologischen Revolution, die alle Lebensbereiche betrifft", kommentierte SPÖ-EU-Delegationsleiter Andreas Schieder laut Aussendung. Der Einsatz von KI am Arbeitsplatz dürfe jedenfalls nicht ohne Einbeziehung von Gewerkschaften und Personalvertretungen erfolgen.

Nachdem die EU-Staaten und das EU-Parlament ihre Positionen festgelegt haben, können die Verhandlungen über den finalen Gesetzestext beginnen. Der Start der Gespräche ist noch unklar.