Moshe Vardi: „Ransomware ist genauso große Gefahr wie Piraterie“

Das Internet, vernetzte Maschinen und künstliche Intelligenz (KI) verändern zunehmend unser Leben. Algorithmen entscheiden  darüber, ob jemand einen Kredit bekommt,  einen neuen Job oder bestimmte Förderungen. Diese Entscheidungen sollen nach ethischen Kriterien getroffen werden und niemand darf diskriminiert werden. Der renommierte Computerwissenschaftler Moshe Vardi erklärt im Gespräch mit der futurezone, warum sich die Gesellschaft im Umgang mit  neuen Technologien nicht auf bloße Empfehlungen verlassen darf.

Futurezone: Sie beschäftigen sich als Informatiker mit den Auswirkungen von Technologie auf die Gesellschaft. Wann hat alles begonnen?
Moshe Vardi: Die menschliche Geschichte ist eine, die eng mit der Entdeckung von Technologien verknüpft ist. Die erste war die Entdeckung des Feuers. Wir haben davor 4 Stunden mit dem Essen einer einzigen Mahlzeit verbracht. Jetzt können wir das Essen am Tag innerhalb von 30 Minuten erledigen. Wir müssen mit Technologie und dem Fortschritt, den sie mit sich bringen, leben. Wir dürfen sie nicht verurteilen, denn die Entwicklung wird immer weitergehen.

Neue Technologien entstehen allerdings immer zuerst ohne jegliche Regulierung.
Technologien sind nicht gut oder böse. Wir müssen uns fragen, wer von einem bestimmten System profitiert und wem Entscheidungen, die ein System trifft, nutzen.

Bei KI sollen Ethik-Richtlinien dazu führen, dass diese Technologie nicht falsch eingesetzt wird. Ist das ausreichend?
Es geht bei der ganzen Debatte eigentlich nicht um ethische Fragen, sondern um die viel fundamentalere Frage der Macht. Wir müssen daher nicht festlegen, was ethisch ist, sondern ganz klar definieren, was verboten sein soll. Ich möchte das mit den Disziplinen Recht und Medizin vergleichen: Wenn dort jemand einen Fehler begeht bei seiner Arbeit, verliert er dafür seine Lizenz und darf den Beruf nicht mehr praktizieren. Wenn eine Maschine eine falsche Entscheidung trifft, kann man damit derzeit bestenfalls zum Salzamt gehen. Man hat sonst keine Möglichkeiten.

Das heißt, wir brauchen eine strenge Regulierung wie etwa im Medizinbereich?
Ja, wir brauchen auch für den Umgang mit KI klare Regeln und Gesetze. Es ist auch nicht ethisch bedenklich, über 130 km/h auf der Autobahn zu fahren, sondern es ist ganz klar verboten. KI  hat einen großen Einfluss auf unser Leben und wir als Gesellschaft müssen gemeinschaftliche Entscheidungen dazu treffen. In den USA ist es erst mit 21 Jahren erlaubt, in der Öffentlichkeit Alkohol zu trinken, aber mit 18 kann man als Soldat nach Afghanistan geschickt werden. Das basiert auf einer gesellschaftlichen Entscheidung.  

Ein heikles Thema sind Killerroboter und  autonome Drohnen, die ohne Piloten fliegen und mit Waffen ausgestattet sind.
Technologie ist wie ein schlimmes Kind. Diesem Kind müssen wir Grenzen setzen, aber auch etwas Freiheit geben. Selbst bei Killerrobotern fällt die Entscheidung schwer, wo diese Grenzen liegen sollen. Sollen Roboter erlaubt sein, die mit 360-Grad-Kameras ausgestattet sind und die nur der Verteidigung im Ernstfall dienen?

Die EU-Kommission hat im März  ein Regelwerk für KI vorgestellt. Ist Europa hier weiter als die USA?
Ja, ist es. Aber die EU wird Fehler machen, weil die Technologie noch so neu ist, dass man Gesetze alle drei Jahre nachadaptieren muss. Außerdem ist eine Regulierung von KI in Europa politisch schwierig. Europa ist zwar eine große Wirtschaftsmacht, aber die Technologie, die reguliert werden soll, wird großteils in den USA entwickelt. Ich sehe da erhebliche Spannungen auf uns zukommen.

Sollten KI-Lösungen daher zuerst in den USA reguliert werden?
Ich würde weltweite Regeln anstreben. Das gilt neben der KI auch  für weitere neue Technologien.

Welche?
Kryptowährungen, die von Cyberkriminellen zu Erpressungszwecken verwendet werden. Im 18. und 19. Jahrhundert gab es Piraten. Damals wurden internationale Verträge geschlossen, um Piraterie in allen Gewässern zu verbieten. Genau so etwas brauchen wir auch für Erpresser. Ransomware ist eine genauso große Gefahr wie Piraterie und dieses Problem können wir nur lösen, wenn wir internationale Regeln erlassen.

Wo sehen Sie die größten Herausforderungen beim Einsatz neuer Technologien?
Wir wissen, dass Technologie niemals neutral ist und der Einsatz immer problematisch ist. Wir müssen uns klar werden, was wir als Gesellschaft wollen und was nicht. Die Automatisierung wird weiter dazu führen, dass viele Jobs in der Mitte der Gesellschaft wegfallen werden. Bisher gab es Arbeitslosengeld, das Menschen auffängt, wenn es hart auf hart kommt. Doch diese Errungenschaft muss angepasst werden, wenn viele Jobs automatisiert werden. Ob dies mit einem Grundeinkommen für alle geschieht, wird man ebenso diskutieren müssen wie Regeln für künstliche Intelligenz. Dieser Bereich zeigt auf jeden Fall deutlich, wie sehr Technologie unser Leben beeinflusst.

2020 und 2021 sind Jahre, die stark durch die Corona-Krise beeinflusst worden sind. Was wird 2022 kommen?
Die Klimakrise und die ist weitaus schlimmer und sie wird schwer zu ignorieren sein. Wir waren in Texas eine Woche ohne Strom und das war nicht sehr angenehm. Technologie wird auch dabei helfen können, die Klimakrise zu stoppen. Ein erster Schritt könnte sein, dass wir auch in Zukunft nicht mehr jeden Tag physisch in die Arbeit fahren müssen, und somit CO2 einsparen. Aber auch die Datenzentren können durch Wind- und Sonnenenergie ohne Emissionen betrieben werden. Wir müssen auch hier den Weg rasch einschlagen, um ihn weitergehen zu können.

Moshe Vardi hielt dieses Jahr die „Vienna Gödel Lecture“ via Live-Stream an der TU Wien.