“Autonome Maschinen werden unweigerlich Schaden anrichten”

Maschinen werden zunehmend flexibel und können eine immer größere Bandbreite an Aufgaben erledigen. Das führt dazu, dass sie auch immer enger mit Menschen zusammenarbeiten müssen. Das kann allerdings zu Problemen führen, da auch das Potenzial für Unfälle steigt. Daher müssen Roboter in Zukunft lernen, menschliches Verhalten vorherzusagen und ethische Entscheidungen zu treffen. Matthias Scheutz, der an der Tufts University in den USA an intelligenten Maschinen forscht, wird bei den Technologiegesprächen beim Forum Alpbach über das zukünftige Leben mit den Maschinen diskutieren. Die futurezone hat ihn vorab befragt.

Es gibt Prognosen, nach denen Roboter schon in wenigen Jahrzehnten einen großen Prozentsatz der heutigen Jobs effizienter als Menschen erledigen werden. Was halten Sie von solchen Vorhersagen?
Mir ist bei solchen Berichten immer etwas unwohl, weil es wahnsinnig schwierig ist, den Einfluss von Technologie über mehrere Jahrzehnte hinweg genau vorherzusagen. Niemand hätte vor zwanzig Jahren vermutet, welches Ausmaß das Internet annehmen würde. Dennoch glaube ich, dass Roboter zunehmend in unsere Gesellschaft integriert werden, und wir arbeiten in meinem Labor daran, die Roboter mit der sozialen Kompetenz auszustatten, die für reibungslose Interaktionen mit Menschen notwendig ist.

Welche Jobs sind ihrer Meinung nach in absehbarer Zeit tatsächlich bedroht?
Wenn man sich die gegenwärtigen Forschungsrichtungen in der Robotik ansieht, kann man glaube ich ganz gut erkennen, wo die nächsten Anwendungsbiete liegen werden, und die bereits ziemlich breit gestreut: Von industriellen Fertigungsrobotern bis zu vollautomatischen Erntemaschinen, von Inspektionsrobotern, die etwa Brücken oder Eisenbahnschienen überprüfen, bis zu Sicherheitsrobotern, die gesicherte Anlagen überwachen können; Von Zulieferungsrobotern in Lagerhallen, Spitälern, etc., bis zu Haushaltsrobotern, die verschiedene Tätigkeiten erledigen können.

Glauben Sie, dass der technologische Fortschritt im selben Maße neue Jobs erschaffen kann, wie er sie durch den zunehmenden Einsatz von Maschinen zerstört?
Ich bin leider kein Wirtschaftsexperte und kann daher die Auswirkungen von neuen Technologien auf den Arbeitsmarkt nicht beurteilen, kann mir aber vorstellen, dass die zunehmende Verwendung von Robotern eine ähnliche Verschiebung der Jobs mit sich bringen könnte, wie ursprünglich die Industrialisierung und später die Einführung von Computern.

Halten Sie die Tendenz zum häufigeren Einsatz von Maschinen für sozial gefährlich oder überwiegen die Chancen?
Das wird davon abhängen, wie diese Maschinen gestaltet sind und wo sie eingesetzt werden. Wir sind zur Zeit noch in einer Phase, wo wir die Strukturen einer zukünftigen Mensch-Maschinengesellschaft beeinflussen können, weil wir die Technologie für intelligente autonome Maschinen, die mit uns leben und interagieren, noch nicht voll entwickelt haben. So gesehen haben wir jetzt die Chance, mögliche Gefahren autonomer Maschinen zu reflektieren und diesen durch entsprechende Vorkehrungen vorzubeugen. Das kann zum Beispiel bedeuten, dass wir als Gesellschaft beschließen, bestimmte Maschinen nicht zu bauen, etwa autonome Kampfroboter. Aus meiner Sicht wird es vor allem notwendig sein, dass wir in der Entwicklung der Steuerungsprogramme von autonomen Robotern soziale und moralische Prinzipien integrieren, welche die Roboter benützen müssen, um Entscheidungen zu treffen und Handlungen zu setzen. Ohne solche Prinzipien befürchte ich, dass autonome Maschinen mehr Schaden anrichten werden als sie uns letztlich nützen können.

Gibt es Jobs, die eine Maschine ihrer Ansicht nach niemals machen können wird?
Wenn Sie meinen "im Prinzip", etwa weil es da Grenzen in der Technologie gibt, dann "nein". Ob wir wollen, dass Maschinen alle Jobs machen, ist eine andere Frage, die die Gesellschaft beantworten muss.

Können Roboter und Menschen sinnvoll zusammenarbeiten und was müssen Maschinen dafür können?
Ja, und die Roboter mit den nötigen Fertigkeiten auszustatten, damit das Zusammenarbeiten reibungslos verläuft, ist ein Hauptziel unserer Forschung. Wir sind besonders an natürlichsprachlichen Interaktionen interessiert, sodass Menschen mit Roboter in gesprochener Sprache kommunizieren und den Robotern somit direkt Anweisungen geben können. Zusätzlich brauchen die Roboter aber auch ein Verständnis davon, wie Menschen sich verhalten und was für Erwartungen Menschen haben, also ein sogenanntes "mentales Modell" von ihren menschlichen Interaktionspartnern.

Können wir Roboter mit ethischen Richtlinien ausstatten, die es ihnen erlauben, Entscheidungen zu treffen, bei denen eventuell Menschen geschadet wird, etwa wenn ein selbstfahrendes Auto entscheiden muss, ob es ein Kind überfahren oder mich gegen einen Baum setzen soll?
Das ist ein sehr wichtiger Punkt an, der meiner Ansicht nach noch nicht genügend in der Öffentlichkeit diskutiert wird, nämlich die Tatsache, dass autonome Maschinen unweigerlich Schaden anrichten werden, sei es Sachschaden oder physische oder emotionale Verletzungen von Menschen. Ich sage bewusst "unweigerlich" weil es Situationen geben wird, wo jede mögliche Handlung zu Schaden führt. In solchen Situationen stellt sich daher nicht die Frage, wie man Schaden vermeidet, sondern wie man ihn minimieren kann. Wir arbeiten dazu gerade an Roboterkontrollarchitekturen, die maschinelle ethische Schlussfolgerungen ermöglichen, um den potentiellen Schaden, den autonome Maschine anrichten können, so klein wie möglich zu halten.

Müssen Maschinen über das verfügen, was wir bei Menschen Intelligenz nennen, um im Alltag eingesetzt zu werden?
Das hängt von der Aufgabe der Maschine ab. Roboterstaubsauger oder Roboterrasenmäher brauchen praktich keine Intelligenz, um ihren Job zu erledigen; ein Roboter, der sich um gebrechliche Menschen kümmert, ihnen aus dem Bett und dann beim Anziehen hilft, für sie kocht und sich um ihre täglichen Bedürfnisse kümmert, hingegen schon.

Haben Sie Angst vor der Singularität?
Nein. Ich habe eher Angst, dass wir uns unsere Lebensbedingungen vorzeitig zerstören.

Die futurezone ist offizieller Medienpartner der Technologiegespräche beim Forum Alpbach 2015.