Science
18.06.2018

"Uns droht ein Big-Brother-Szenario"

Yoshua Bengio, ein Mitbegründer der modernen Forschung zur künstlichen Intelligenz, spricht über sein persönliches Horrorszenario.

Der kanadische Forscher Yoshua Bengio gilt als einer der Väter des maschinellen Lernens im modernen Sinn. Der Informatiker hat mit seinen Arbeiten zu neuronalen Netzwerken und Deep Learning den Grundstein gelegt für die Systeme, mit denen Google und Co heute "künstliche Intelligenz"-Schlagzeilen machen. Trotz lukrativer Angebote aus der Technologiebranche arbeitet Bengio lieber als Professor an der Universität von Montreal. Gleichzeitig steht er dem unabhängigen Forschungsinstitut MILA (Montreal Institute for Learning Algorithms) vor. Neben seinen Bemühungen, die Grundlagen von Lernen und Intelligenz zu verstehen, setzt sich der Informatiker für einen verantwortungsvollen Umgang mit künstlicher Intelligenz ein. Sorgen bereiten ihm die potenziellen Auswirkungen der Technologie auf die Gesellschaft und den Arbeitsmarkt sowie der mögliche Missbrauch durch Behörden, Konzerne und Streitkräfte. Die futurezone hatte bei einem Besuch in Kanada die Möglichkeit in einer Journalistenrunde mit Bengio zu sprechen.

Ist Montreal an der Spitze der KI-Forschung?
Yoshua Bengio: In Montreal machen wir gute Arbeit. Aber es bleibt trotzdem viel zu tun. KI ist ein sich rasch entwickelndes Feld und das Rennen ist eng. Die gute Nachricht ist, dass die kanadische Regierung, auf Bundes- und Provinzebene, das weiß und Geld investiert, um die Arbeit weiter voranzubringen.

Wie sehen Sie die europäischen Bemühungen in dem Bereich?
Ich freue mich, dass Europa jetzt auch auf KI setzt. Es ist wichtig, dass sich die Entwicklung nicht nur an einem oder zwei Orten konzentriert. Kanada und Europa fühlen sich in vielen Belangen den gleichen Werten verpflichtet. Als Wissenschaftler bin ich es zudem gewohnt, Zusammenarbeit in den Mittelpunkt zu stellen und auf der Arbeit anderer aufzubauen. Wenn mehr Länder beteiligt sind, werden fairere Rahmenbedingungen entstehen.

Welche Rolle spielen gemeinsame Werte bei der Entwicklung von KI?
KI ist nicht bloß eine weitere neue Technologie. Sie wird großen Einfluss auf die Gesellschaft haben. Daraus ergibt sich eine Vielzahl von ethischen und sozialen Fragen. Die Entwicklungen müssen auch aus dieser Perspektive beleuchten werden. Wenn das nicht passiert, wird die Öffentlichkeit Technologien, die als Bedrohung für das Gemeinwohl gesehen werden, irgendwann ablehnen. Regierungen müssen sich also um diese Fragen kümmern, aus moralischen und praktischen Überlegungen.

Was ist ihr persönliches KI-Horrorszenario?
Der Einsatz von KI für militärische Zwecke oder im Sicherheitsapparat bereitet mir die größten Sorgen. Sie kennen die Killerroboterszenarien oder die Systeme, die Menschen anhand ihrer Gesichter auf Bildern identifizieren können. Wenn wir nicht vorsichtig sind, droht uns ein Big-Brother-Szenario. KI-Systeme können eine Bedrohung für den Privatsphären- und Datenschutz sein. Die Auswirkungen auf die Wirtschaft sind ebenfalls besorgniserregend. KI beschleunigt die Automatisierung und könnte die bestehende Verteilungsungerechtigkeit noch verstärken, nicht nur zwischen Menschen, sondern auch zwischen Ländern und Firmen.

Robot's hand types on keyboard

Regulierung kommt oft zu früh oder zu spät. Auch bei KI?
Es ist wie beim Klimawandel: Es ist nie zu spät. Wir bauen in Montreal eine Organisation auf, die sich um die sozialen, wirtschaftlichen und ethischen Fragen kümmert, die im Zusammenhang mit KI wichtig sind. Ich glaube, wir haben heute noch nicht genug Informationen. Forscher und Wissenschaftler müssen sich das durchdenken, unter Einbeziehung der Öffentlichkeit. Wir haben vor sechs Monaten die Montreal-Declaration verabschiedet, für eine sozial verantwortliche Entwicklung von KI. Solche Diskussionen und Organisationen sollen Leitfäden für Regierungen geschaffen werden. Das muss auf lokaler und internationaler Ebene passieren. Wenn es Bereiche geben soll, in denen KI nicht eingesetzt werden darf, dann geht das nur auf internationaler Ebene. Das gilt auch für die Regulierung multinationaler Konzerne in dem Bereich. Man darf dabei nicht vergessen, dass KI-Systeme auch Leben retten können. Es gibt viele positive Effekte. Wir müssen uns also genau überlegen, wie wir die Regeln gestalten.

Wie wird sich KI auf den Arbeitsmarkt auswirken?
Die potenziellen Auswirkungen sind enorm. Das wird nicht über Nacht passieren, aber wahrscheinlich doch viel zu schnell für unsere Möglichkeiten, das in geordnete Bahnen zu lenken. Die Menschen werden es nicht bis zur Rente schaffen, ohne ersetzt zu werden. Sie werden ihre Jobs in der Mitte ihrer Karriere verlieren.

Welche Strategien gibt es für den Umgang damit?
Wir brauchen verschiedene Ansätze. Wir werden unsere Sozialsysteme neu denken müssen. In den meisten entwickelten Ländern gibt es heute Sicherheitsnetze. Die wurden aber für ein bestimmtes Wirtschaftssystem maßgeschneidert.

Sehen sie ein bedingungsloses Grundeinkommen als Option?
Das ist eine der Möglichkeiten, die wir genauer unter die Lupe nehmen sollten. Wir brauchen sicher mehr Pilotprojekte. Vielleicht müssen wir traditionelle Werte in Frage stellen, etwa die Idee, dass man, wenn man nicht arbeitet, kein Geld bekommt. Wir müssen uns überlegen, was am besten für die Gesellschaft ist - weltweit betrachtet. Ein Aspekt ist sicher die Umstrukturierung des Erziehungssystems, damit Menschen neben ihrer Berufstätigkeit neue Fähigkeiten erwerben können. Natürlich sollten wir mehr Wissenschaftler und Techniker ausbilden. Aber wir dürfen die Leute nicht einfach stark spezialisieren, sondern sollten ihnen beibringen, selbstständig zu denken und gute Bürger zu sein. Wir sollten Philosophieunterricht schon für kleine Kinder einführen. Sie brauchen das Rüstzeug, um schnell selbstständig lernen zu können.

Heutige Ergebnisse basieren zum Großteil auf 15 Jahre alten Durchbrüchen. Wo sind die nächsten Fortschritte zu erwarten?
Ich bin nur ein Wissenschaftler und habe keine Kristallkugel. Ich kann nur informierte Vermutungen anstellen. Es gibt immer Hindernisse auf dem Weg zu smarteren Maschinen. Wir haben in der Industrie zuletzt große Fortschritte mit beaufsichtigtem Lernen gemacht, bei dem Menschen den Maschinen sagen, was sie tun sollen. In der Grundlagenforschung ist unbeaufsichtigtes Lernen ein großes Thema. Das funktioniert noch nicht sehr gut und es könnte noch Jahrzehnte dauern, bis wir auf dem Gebiet große Durchbrüche machen. Aber wenn ich mir das exponentielle Wachstum der KI-Forschung ansehe, bin ich optimistisch.

KI sorgt derzeit für die größte Technologie-Investitionswelle aller Zeiten. Ist das die nächste Blase?
Es wird Rückschläge geben. Aber ein Grund, warum Firmen so viel investieren, ist, dass ein großer Teil der auf KI basierenden Wertschöpfung nicht von neuen Durchbrüchen abhängt. Wir können ein Jahrzehnt lang wirtschaftliche Fortschritte machen mit dem Wissen, das wir schon haben. In vielen Industrien und Sektoren sind die Strukturen, die für den Wandel notwendig sind, noch nicht da, aber sie werden gerade geschaffen. Zusätzlich fließt so viel Geld in die Forschung, dass es überraschend wäre, wenn wir keine weiteren Durchbrüche mehr erzielen würden. KI ist also eine relativ sichere Wette.

Neben den USA und Kanada investiert China groß in KI. Wer hat die Nase derzeit vorne?
Ich stelle nicht gerne solche Vergleiche an. Das Silicon Valley ist sicher ein aufregender Ort, die Fortschritte kommen aber aus allen Teilen der Welt. China hat große Vorteile in diesem Bereich, vor allem weil es so viele Einwohner und damit auch eine enorme Datenmenge hat.  Aus Investorensicht ist das ein wichtiger Faktor. Zudem gibt es großen Enthusiasmus für KI in China. Eine Menge Studenten wollen in dieser Richtung arbeiten. Das ist ein internationales Phänomen, aber China ist derzeit sicher vorne dabei.

Macht Ihnen das Sorgen?
Ja. Und ein bisschen Angst. Ich hoffe, dass die chinesische Führung versteht, dass es für alle wichtig ist, die Entwicklung verantwortungsvoll zu handhaben. Sonst könnte es zu sozialen Unruhen und Problemen führen.

Warum sind sie noch Professor, wenn sie bei Google ein Vermögen machen könnten?
Ich liebe Montreal und die Arbeit an Universitäten. Hier bin ich in einer neutralen Position und kann beeinflussen, wie wir mit den durch KI ausgelösten Veränderungen umgehen werden, indem ich unsere Forschung lenke. Ich genieße die Forschungsarbeit mit meinen Studenten und kann die nächste Forschergeneration ausbilden. Darauf müsste ich verzichten, wenn ich in die Privatwirtschaft wechseln würde. Die Förderung des öffentlichen Diskurses ist ebenfalls ein wichtiges Element. Es ist gut, dass Firmen wie Google und Facebook sich an dieser Diskussion beteiligen, aber ich bin mir nicht sicher, ob sie neutrale Teilnehmer sind. Universitäten, denen es um das Gemeinwohl geht, sind essenziell.

Wie sehen Sie die Rolle der großen Konzerne bei der Entwicklung von KI?
Es geht um sehr mächtige Technologien. Wir müssen die Auswirkungen auf die Gesellschaft immer mitdenken. Ist das gut für die Gesellschaft oder profitieren nur wenige Leute, die Geld investiert haben? Es ist wichtig, diese Fragen zu stellen und die Suche nach Lösungen nicht den Märkten zu überlassen - deren Motivation ist nämlich nicht das Gemeinwohl. Regierungen müssen darüber nachdenken und wenn notwendig die richtigen Regulierungsinstrumente entwickeln.

 

Die Reise der futurezone nach Kanada erfolgte auf Einladung der kanadischen Regierung.