Symbolbild Künstliche Intelligenz

Symbolbild Künstliche Intelligenz

© Getty Images/iStockphoto/metamorworks/IStockphoto.com

Netzpolitik

Neue Regeln für KI sind ab sofort in der EU gültig

In der Europäischen Union wurden am Sonntag neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft gesetzt. Nach dem KI-Gesetz der EU (AI Act) sind von diesem Stichtag an KI-Systeme verboten, die "unannehmbare Risiken" für die Sicherheit, Gesundheit oder Grundrechte darstellen, außer wenn es um die "nationale Sicherheit" geht.

So untersagt die EU den Einsatz von KI-Programmen, die eine Bewertung nach sozialem Verhalten vornehmen. Bei dem sogenannten Social Scoring werden etwa die Bürger in der Ein-Parteien-Diktatur China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen geben.

➤ Mehr lesen: Riesen-Hype um DeepSeek: Was steckt dahinter?

Viele Verbote

Nicht erlaubt sind weiterhin manipulative KI-Systeme, die betrügerische Techniken anwenden, um das Verhalten von Menschen zu beeinflussen. In diese Gruppe fällt etwa sprachgesteuertes Spielzeug, das Kinder zu einem gefährlichen Verhalten verleitet.

Auf der Verbotsliste der EU stehen auch KI-Systeme, die die Schwäche von Menschen oder Gruppen ausnutzen. Dazu gehören auch automatisierte Robo-Calls, die zum Betrug älterer Menschen eingesetzt werden können.

Die Gesichtserkennung im öffentlichen Raum – zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll ebenfalls grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.

➤ Mehr lesen: Was hat die DSGVO den Nutzern gebracht?

KI-Unternehmen müssen Risiko bewerten

Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Ziel der neuen Verordnung ist nach Darstellung der EU-Kommission nicht nur der Schutz der Rechte der Verbraucherinnen und Verbraucher. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.

Anbieter und Betreiber von KI-Systemen müssen nun auch sicherstellen, dass alle Personen, die mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.

Kritik aus der Wirtschaft

Der der deutsche Branchenverband Bitkom etwa kritisiert das KI-Gesetz, weil es keine Rechtssicherheit biete. Es sei unklar, für welche Anwendungen das gesetzliche Verbot tatsächlich gelte, sagte Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung. "Die Politik hat beim AI Act hohe Anforderungen und enge Fristen für die Unternehmen aufgestellt, hat selbst aber ihre Hausaufgaben nicht gemacht."

Das Risiko würden nun die Unternehmen tragen, die KI entwickeln oder einsetzen. "Während in den USA mit 3-stelligen Milliardenbeträgen KI ausgebaut werden soll und in China extrem leistungsfähige Sprachmodelle veröffentlicht werden, werfen wir in Deutschland und Europa den KI-Unternehmen Knüppel zwischen die Beine."

➤ Mehr lesen: Google fördert KI-Forschungsprojekte mit 220 Millionen Dollar

Europa droht KI-Abseits

Die Präsidentin der EU-Kommission, Ursula von der Leyen, und die Präsidentin der Europäischen Zentralbank (EZB), Christine Lagarde, räumten in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit Europas in Gefahr sei. "Während sich eine globale Revolution der künstlichen Intelligenz entfaltet, könnte die EU ins Abseits geraten."

Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um im technologischen Wettlauf aufzuholen, schrieben von der Leyen und Lagarde. In der EU gebe es pro eine Million Einwohner fast so viele Absolventen von MINT-Fächern (Mathematik, Informatik, Naturwissenschaften und Technik) wie in den Vereinigten Staaten. "Dieses Talent bringt eine Menge Ideen hervor: Der Anteil Europas an den weltweiten Patentanmeldungen liegt nahe bei dem der Vereinigten Staaten."

Hat dir der Artikel gefallen? Jetzt teilen!

Kommentare