3D rendering of female robot head that shatters.

© Getty Images/iStockphoto / sarah5/IStockphoto.com

Netzpolitik

EU will künstliche Intelligenz streng regulieren: Gesetz vorgestellt

Europa hat mit der Datenschutzgrundverordnung (DSGVO) einen weltweiten Standard für Datenschutz gesetzt. Viele Unternehmen halten sich auch außerhalb Europas an die Regeln. Nun soll dasselbe, wenn es nach der EU-Kommission geht, auch im Bereich künstliche Intelligenz (KI) passieren: Die EU-Kommission hat am Mittwoch klare Richtlinien vorgelegt, die ebenfalls zu weltweiten Standards werden sollen. Der Gesetzesentwurf zur „Regulierung von automatisierten Entscheidungssystemen“ beinhaltet einige Eingriffe in die Nutzung von KI, die eine Massenüberwachung durch die neuen Systeme verhindern sollen.

Hohe Strafen möglich

Generell gilt dabei: Je höher die Gefahren der KI-Systeme sind, desto höher sollen auch die Anforderungen an sie sein. Für Regelverstöße sind hohe Strafen von bis zu 30 Millionen Euro oder von bis zu 6 Prozent des globalen Jahresumsatzes eines Unternehmens vorgesehen.

So sollen „hochriskante Anwendungen“ genehmigungspflichtig werden. Dazu zählen etwa KI-Anwendungen im Bereich der kritischen Infrastruktur, wie beim Verkehr, oder KI-Programme zur Einstellung von neuem Personal. Für diese muss es eine Risikobewertung und „menschliche Aufsicht“ geben, heißt es.

Gesichtserkennung im öffentlichen Raum soll verboten sein

Gesichtserkennung verboten

Biometrische Videoüberwachung und Gesichtserkennung an öffentlichen Orten soll grundsätzlich verboten werden, bis auf einige „wenige, eng definierte Ausnahmefälle“, heißt es in der Präsentation des Gesetzesentwurfs. Diese Ausnahmefälle sind etwa die Suche nach einem vermissten Kind oder ein drohender Terroranschlag. Diese Technologien würden einen „hohes Risiko für den Grundrechteschutz“ darstellen, heißt es. Technologien wie das Sozialkredit-System aus China, das regelkonformes Verhalten belohnt und Fehlverhalten bestraft, sollen gänzlich verboten werden.

Für die Durchsetzung der neuen Regeln sollen nationale Behörden der EU-Staaten zuständig sein. Auf europäischer Ebene soll ein Europäischer Ausschuss für Künstliche Intelligenz geschaffen werden, der die nationalen Behörden bei der einheitlichen Durchsetzungen der Regeln unterstützen soll, heißt es.

Von den allermeisten Anwendungen - beispielsweise Spam-Filter oder Computerspiele, die mit KI arbeiten - gehen nach Ansicht der EU-Kommission jedoch keine oder nur geringe Risiken aus. Für sie sollen dabei deutlich weniger strenge oder gar keine Auflagen gelten. Der Gesetzesentwurf wird jetzt durch einen langen Prozess gehen, EU-Parlament und EU-Rat müssen im Trilog zustimmen.

Erste Reaktionen

Digitalministerin Margarethe Schramböck begrüßt in einer ersten Reaktion die neuen Regeln. „Wenn wir über KI sprechen, müssen wir die Chancen, die sich aus der innovativen Nutzung in Wirtschaft und Gesellschaft, in den Vordergrund rücken. Gleichzeitig steht für mich fest, dass die Nutzung von KI in den Rahmen unseres demokratischen Wertekonstrukts eingebettet werden muss und es hier einen klaren Rechtsrahmen geben muss. Wichtige Entscheidungen müssen weiterhin von Menschen getroffen werden“, sagt Schramböck. „Österreich wird selbstverständlich die Grundlagen und Zielsetzungen des KI-Pakets der Europäischen Union in seine nationale KI-Strategie einfließen lassen“, so die Ministerin.

Hat dir der Artikel gefallen? Jetzt teilen!

Barbara Wimmer

shroombab

Preisgekrönte Journalistin, Autorin und Speakerin. Seit November 2010 bei der Kurier-Futurezone. Schreibt und spricht über Netzpolitik, Datenschutz, Algorithmen, Künstliche Intelligenz, Social Media, Digitales und alles, was (vermeintlich) smart ist.

mehr lesen Barbara Wimmer

Kommentare