Warum künstliche Intelligenz uns 50 Jahre Schmerzen bringen könnte

Der britische KI-Forscher (KI = künstliche Intelligenz) Toby Walsh unterrichtet und forscht derzeit an der University of New South Wales in Australien. Er beschäftigt sich mit Algorithmen, die optimale Entscheidungen bei unvollständiger Information finden sollen, etwa bei der Verteilung von Spenderorganen. Auf Einladung der TU Wien war Walsh bei der LogicLounge des Vienna Center for Logic and Algorithms zu Gast. Die futurezone hat die Gelegenheit genutzt, um Walsh zu befragen. Im Interview erklärt er, was es heißt, wenn Maschinen Entscheidungen treffen und welche Auswirkungen das auf unsere Gesellschaft haben wird.

Was erzählen Sie den Menschen über künstliche Intelligenz?
Dass sie falsche Vorstellungen haben. Eines der häufigsten Missverständnisse ist, dass die Zukunft bereits feststeht und wir uns fügen müssen. Wir befinden uns jetzt an einer Wegscheide und können Entscheidungen treffen, die das Leben der Menschen verbessern oder solche, die negative Auswirkungen haben. Wir müssen als Gesellschaft festlegen, wo wir die Technologie in unser Leben lassen und wie wir sicherstellen können, dass alle profitieren.

KI ist aufgemotzte Statistik. Sind Sie überrascht, dass das Thema derzeit so viele Schlagzeilen macht?
KI ist aufgemotzte Statistik, aber trotzdem dringt sie langsam in wichtige Bereiche unseres Lebens ein. Sie wird genutzt, um zu entscheiden, wer eine Versicherung oder Sozialleistungen bekommt oder wer ins Gefängnis geht. KI ist das Betriebssystem der Zukunft. Unsere Geräte, egal ob Haustüren, Glühbirnen oder Toaster, werden vernetzt und haben weder Tastatur noch Bildschirm. Also werden wir sie mit Sprachbefehlen steuern. Dazu brauchen wir KI, die diese Befehle versteht.

In den Medien geht es oft um KI, die schlauer ist als Menschen. Führen wir die falschen Diskussionen?
Wir sollten über die wachsende Ungleichheit in unseren Gesellschaften reden. Technologie kann das verschlimmern und wir tun derzeit nichts dagegen. Wir sollten auch über die Zukunft der Lohnarbeit reden, darüber ob Jobs vernichten werden, wie wir den Betroffenen helfen können neue Jobs zu finden und wie diese Arbeitsplätze aussehen könnten. Die Diskussion über den Aufstand der Maschinen können wir getrost für viele, viele Jahre auf Eis legen. Es geht um die Auswirkungen auf das Leben der Menschen, darum, ob sie Kredite von Banken bekommen. Das sind die Probleme, die uns unsere dumme KI bringt.

Warum sind dumme Systeme problematisch?
Es gibt Entscheidungen, die wir nicht den Maschinen überlassen sollten, etwa wenn es um Menschenrechte geht. Ich bezweifle, dass Computer das nötige Mitgefühl oder ausreichende soziale und emotionale Intelligenz entwickeln können. Maschinen machen, was wir ihnen sagen. Manchmal denken wir zu wenig darüber nach, was die Konsequenzen dieser Befehle sind. Wir hinterfragen zu selten die Daten, mit denen wir die Maschinen trainieren. Die Systeme können genauso voreingenommen sein, wie Menschen.

Die Herausforderungen sind also eher politischer als technischer Natur?
Technologie erlaubt uns, die Gesellschaft umzugestalten. Sie hat uns erlaubt, die moderne Industriegesellschaft aufzubauen. Das Wochenende war eine Erfindung der industriellen Revolution, erst durch die Produktivitätszuwächse konnten wir uns das leisten. KI hat das Potenzial, die Gesellschaft umzukrempeln. Wir könnten das Wochenende dadurch vielleicht auf drei Tage ausweiten. Dann würde Arbeit unter mehr Menschen aufgeteilt und die drohende Zerstörung von Arbeitsplätzen wäre eher zu bewältigen. Wir müssen sicherzustellen, dass die Früchte unter allen aufgeteilt werden.

Sie blicken also optimistisch in die Zukunft?
Ich bin pessimistisch, was die kurzfristige Perspektive angeht, aber langfristig optimistisch. Es wird auf jeden Fall ein steiniger Weg. Am Ende wird die Technologie hoffentlich eingesetzt, um die Lebensqualität zu verbessern. Ich fürchte aber, dass es zuerst ein paar Jahrzehnte lang bitter wird. Die industrielle Revolution brachte fünfzig Jahre Schmerzen. Es hat lange gedauert, bis die Lebensqualität des durchschnittlichen Arbeiters besser war als vorher. Dafür ist sie heute sehr viel höher. Die Lebenserwartung hat sich verdoppelt, die Zahl der Arbeitsstunden ist gesunken. Ich hoffe, das unsere Enkel ähnliche Verbesserungen genießen werden. Was unsere Kinder angeht, bin ich aber skeptisch.

Welche Probleme erwarten Sie für Ihre Kinder?
Wir sehen heute wachsende Ungleichheit in der Gesellschaft, eine fragmentierte politische Debatte, die durch Technologie weiter polarisiert wird, viele Gräben in der Gesellschaft, zunehmenden Nationalismus und eine Abkehr von der Idee der liberalen Demokratie. Das sind alles besorgniserregende Entwicklungen, die sich gegenseitig noch verstärken. Das führt zu zunehmender Unzufriedenheit mit dem politischen System, befördert den Aufstieg extremer Politiker auf der rechten und linken Seite und mündet in der Misshandlung von Flüchtlingen. Daneben haben wir andere Probleme, um die wir uns nicht zu kümmern scheinen, wie den Klimawandel.

Das Know-how und die Profite im Bereich KI liegen in den Händen weniger Firmen. Welche Konsequenzen hat das?
Das ist problematisch. Einige Leute sagen, dass die schnelle technische Entwicklung der vergangenen Jahrzehnte in Stagnation übergehen wird, weil Konkurrenten von den Konzernen entweder assimiliert oder kopiert werden. Es ist auch sehr schwer, Studenten in der akademischen Forschung zu halten. Das ist ein Rezept für wachsende Ungleichheit. Die sechs größten Unternehmen der Welt kommen heute aus der Tech-Branche. Immer wenn einzelne Industrien zu groß werden, fehlt es an Konkurrenz. Wir haben in der Vergangenheit Banken und die Ölindustrie reguliert. Warum sollten wir nicht auch die Techindustrie an die Leine legen?

Gibt es Anzeichen für eine globale Initiative?
Ich sehe positive Entwicklungen, etwa die europäische Datenschutzgrundverordnung (DSGVO), die dieses Jahr in Kraft getreten ist. Die hat globalen Einfluss. Hier in Australien haben wir schlechte Datenschutzgesetze, aber die meisten Firmen halten sich jetzt an die DSGVO, weil das weniger aufwändig ist als verschiedenen Regeln zu gehorchen. Die Firmen wollen zudem gut dastehen und negative Publicity vermeiden.

Wie sehen Sie den Einsatz von KI-Systemen zu Überwachungszwecken?
Orwell hat sich in 1984 geirrt. Es sind nicht Menschen, die Menschen überwachen, sondern Computer. Wenn man ein ganzes Land überwachen will, muss man den Prozess automatisieren. KI macht das möglich. Schon der Gedanke daran, überwacht zu werden, ändert das Verhalten. Menschen stellen sich heute Abhörgeräte in ihre Wohnzimmer und die Daten gehen an private Firmen, die keiner Kontrolle unterliegen. Wenn wir nicht aufpassen, wachen wir in einer Welt auf, in der wir rund um die Uhr überwacht werden.

Viele Menschen wirken nicht gerade besorgt über diese Entwicklungen. Warum?
Die Technologie hat sich langsam angeschlichen. Am Anfang haben wir uns Mobiltelefone gekauft und uns daran gewöhnt, sie in der Tasche zu haben. Dann kamen all diese netten Funktionen dazu. Wir haben nicht gemerkt, dass dadurch viele Daten gesammelt wurden, oder gefragt, wie diese Information gegen uns verwendet werden kann. Erst später wurde uns bewusst, was wir dafür aufgegeben haben. Da hatten wir uns aber schon an die Annehmlichkeiten gewöhnt. Irgendwann müssen wir vielleicht festlegen, dass man Informationen nicht ohne Einverständnis der Betroffenen einsammeln darf.

Ist es dafür nicht zu spät?
Es kann sein, dass wir die Schlacht um die digitale Privatsphäre schon verloren haben. Ich denke aber, wenn wir regulatorisch einschreiten, können wir die Datenhoheit zurückerobern. Dazu müssten wir unser Verhalten ändern. Derzeit sieht es eher danach aus, als ob wir auch unsere analoge Privatsphäre aufgeben. Wenn etwa mein Herzschlag überwacht wird, ist das ein mächtiges Werkzeug. Daran kann man sehen, wie ich auf Werbung reagiere, oder auf politische Botschaften. So lässt sich eine Person oder eine ganze Gesellschaft steuern.

Nicht überwacht zu werden ist aufwändig.
Ich habe ein einfaches Konzept entwickelt: Jeder Dienst und jede Webseite sollte vier Datenschutzstufen anbietet. Level 1: Wir behalten keine Information über dich. Level 2: Wir speichern Information über dich, um unser Angebot zu verbessern. Wir teilen die Daten aber nicht. Level 3: Wir teilen Information mit anderen Firmen. Level 4: Die Information ist öffentlich. Diese Einstellung sollte nur einen Klick erfordern und rückwirkend funktionieren. Die Tech-Firmen verdienen so viel, dass sie selbst mit strengen Regeln noch genug Geld haben. Es gibt keine andere legale Industrie, die so hohe Gewinnspannen hat.

Sie sagen, eine allgemeine KI liegt in ferner Zukunft. Aber möglich ist sie?
Ich glaube fest daran, dass wir Maschinen bauen können, die schlauer sind als wir. Die menschliche Intelligenz repräsentiert kein Maximum. In der Vergangenheit lagen wir auch meistens falsch, wenn wir uns auf ein Podest gestellt haben. Das haben Darwin oder Kopernikus gezeigt. Wir können heute schon Maschinen bauen, die uns in einzelnen Aufgaben überlegen sind. Wenn wir diese Systeme zusammenschnüren können, werden wir den Menschen und seine Limitationen hinter uns lassen. Der Weg dorthin wird nicht leicht. Die Anhänger der Singularität liegen falsch. Die Maschinen werden sich nicht einfach selber schlauer machen. Wir werden sie auf altmodische Weise unter Anstrengungen selber bauen und Schritt für Schritt verbessern. Das wird sehr lange dauern.

Braucht Intelligenz Bewusstsein?
Wir haben keine Ahnung. Das ist eine der letzten fundamentalen wissenschaftlichen Fragen, die es noch zu beantworten gilt und vielleicht bekommen wir durch KI eine Antwort. Vermutlich gibt es kein Bewusstsein ohne Intelligenz. Aber umgekehrt? Vielleicht können wir Maschinen bauen, die über eine Art Zombie-Intelligenz verfügen, sehr schlau aber ohne Bewusstsein. Bewusstsein könnte auf biologische Systeme beschränkt sein. Vielleicht lässt es sich aber auch in Silizium reproduzieren. Wir wissen es einfach nicht.