Wie die EU versucht ChatGPT zu bändigen

In den vergangenen Monaten ist künstliche Intelligenz (KI) für viele Menschen erstmals richtig greifbar geworden. Sie können ohne großen Aufwand Fragen an Textgeneratoren wie ChatGPT stellen, oder Bilder und Videos von Programmen wie Midjourney erstellen lassen, die auf Wunsch täuschend echt aussehen.

Mehr als 100 Millionen Leute weltweit probierten bereits derartige Systeme aus. Auch 18 Prozent, also rund ein Fünftel, der Österreicher*innen, haben einer Studie zufolge ChatGPT zumindest getestet. 

Hinter den Programmen steckt eine sogenannte „generative KI“. Die Entwicklung dieser Technologie steht noch am Beginn, doch man kann bereits sehen, wie „mächtig“ sie als digitales Werkzeug werden kann. In Europa wurde man von der generativen Technologie allerdings regelrecht überrumpelt.

Seit 2021 arbeiten EU-Institutionen mit dem sogenannten „AI Act“ an einem rechtlichen Rahmen, um KI-Anwendungen zu regulieren. Doch im gesamten Rechtsrahmen tauchen ChatGPT und Co. bisher nicht auf. „Wie der Großteil der Welt ist auch die EU von der Konsumentenfreundlichkeit von ChatGPT überrascht worden“, erklärt Clemens Wasner, Vorsitzender des gemeinnützigen Vereins AI Austria. 

Entwicklung verschlafen

„Erst seit Jänner wird seitens der EU darüber nachgedacht, wie generative KI regulatorisch zu behandeln ist“, sagt Wasner zur futurezone. Das bestätigt auch der EU-Abgeordnete Patrick Breyer aus Deutschland, der der Fraktion der Grünen angehört. „Generative KI wird derzeit weder vom EU-Kommissionsvorschlag noch von dem, was bisher im Parlament vereinbart wurde, explizit abgedeckt“, sagt Breyer. Es sei jedoch der Wunsch da, dies zu integrieren. 

Doch die Umsetzung ist nicht so einfach. Große Sprachmodelle wie ChatGPT sowie Bildgeneratoren wie Midjourney haben aktuell keinen festen Verwendungszweck, sondern gelten als „Allzweck-KI“, die für alles Mögliche eingesetzt werden kann, wie Gedichte schreiben oder Grafiken erstellen. Im EU-Entwurf zur KI werden jedoch je nach Anwendungszweck unterschiedliche Risikostufen festgelegt. 

Ist ChatGPT Hochrisiko?

EU-Abgeordnete schlugen nun etwa vor, dass KI-Systeme wie ChatGPT, die komplexe Texte ohne menschliche Aufsicht produzieren können, grundsätzlich als „Hochrisikosysteme“ eingestuft werden sollten. Für diese gelten spezielle Auflagen. Doch für manche würde das zu weit gehen. „Es ist schwierig zu beurteilen. Wenn eine generative KI wie ChatGPT in Microsoft Office implementiert wird, scheint das erst einmal ziemlich harmlos zu sein. Bis zu dem Punkt, an dem sie zur Ausarbeitung von Gesetzen verwendet wird“, sagt Breyer. 

Der KI-Experte Wasner plädiert daher dafür, Programme wie ChatGPT „je nach eingesetztem Anwendungsfall“ zu regulieren. „Es macht einen Unterschied, für was eine KI verwendet wird“, sagt Wasner. Wenn sich jemand mit ChatGPT auf Basis der eigenen Recherchen einen Text schreiben ließe, wäre das anders zu beurteilen, als wenn das Programm auch zusätzlich noch die Quellenrecherche durchgeführt hätte, sagt Wasner. Auf jeden Fall müsse immer klar gekennzeichnet sein, wenn bei etwas eine KI zum Einsatz kommt.  

Wasner ist überzeugt, dass die EU mit dem AI Act noch eine brauchbare Regulierung hinkriegen wird. Bis dahin könnte es allerdings schon eine weit fortgeschrittenere Form der ChatGPT-Software geben, die mehr Anwendungsfälle abdeckt, als sich die EU jetzt vorstellen kann. Denn in Kraft treten wird der AI Act frühestens 2025.

Entwicklungsstopp nur ein "PR-Gag"

Vor Kurzem haben sich einige Tech-Expert*innen, darunter auch der Tesla-Chef Elon Musk, für einen vorübergehenden Entwicklungsstopp starkgemacht, damit eine Regulierung eine Chance hat. Das sieht Wasner jedoch kritisch und unnötig.

Auch Nikolaus Forgo, Professor für Technologierecht an der Uni Wien, hält diesen Vorschlag für einen „PR-Gag“. Er wünscht sich stattdessen eine „breite und kritische Debatte“ darüber, was Europa überhaupt an Regulierung erreichen könne. Dabei sollten auch Informatiker*innen und Wissenschafter*innen eingebunden werden. Forgo spricht sich dafür aus, „sich von der Vorstellung zu verabschieden, dass man mit einem Gesetz alleine alles regeln kann“.