Warum niemand Googles selbstfahrende Autos kaufen wird

Die Vision einer Zukunft, in der intelligente Software uns stetig unbemerkt begleitet und uns all unsere Wünsche erfüllt, wird nicht nur im Silicon Valley gerne bemüht. Auch in der Informatik ist dieses Szenario Grundlage vieler Konzepte, wie dem "Internet der Dinge" oder der "Smarten Stadt". Zur Eröffnung der "Algorithmic Regimes"-Konferenz, die am Freitag an der TU Wien stattfindet, erklärt der Informatiker Peter Purgathofer, wo die Probleme dieser Technik-Utopie liegen: "Das Modell ist zu einfach. Der Computer als stiller Helfer im Hintergrund, ist nicht nur entmündigend, sondern manchmal sogar herablassend.

Der Mensch verkommt zum passiven Nutzer, der eigentlich nur Befehle vom System entgegennimmt." Der Versuch, die Menschen smarter zu machen, damit sie Software-Werkzeuge besser nutzen können, fehlt in der Betrachtung meist komplett. "In Visualisierungen des Internets der Dinge oder der Smart City finden sich oft gar keine Menschen. Menschen machen in dieser Zukunftsvision nur noch, was Maschinen - noch - nicht können", sagt Purgathofer. Als persönliche Kritik möchte der TU-Professor seine Beobachtungen aber nicht verstanden wissen: "Es geht mir eher darum, die Brüche in diesem Forschungsfeld aufzuzeigen, nicht um meine Erwartungen an die Zukunft."

Einer dieser Brüche hat mit der viralen Verbreitung von automatischen Systemen zu tun. Der zunehmende Einsatz von Software in verschiedensten Bereichen muss nicht zur Steigerung des Gemeinwohls führen. "Die Automatisierung passiert immer dort, wo es leicht ist. Fehler werden dann meist nur noch von Menschen gemacht, die als passive Überwacher überfordert sind und ihre Fähigkeiten langsam verlieren. Das führt zu einer weiteren Automatisierung, ein Prozess, der sich selbst beschleunigt", sagt Purgathofer. Die Sicherheit wird so zum Hauptargument für den Einsatz von automatischen Systemen an Stelle von Menschen. "Wir werden innerhalb der kommenden 20 Jahre vollautomatisierte Züge haben. Menschen werden nach und nach überall verdrängt. Es gibt eine Studie von Wirtschaftsforschern des MIT, nach der zum ersten Mal in der Geschichte mehr Jobs durch Automatisierung verlorengehen als geschaffen werden", so der Informatiker.

Silicon-Valley-Hybris

Dass Software dringende gesellschaftliche Probleme lösen kann, an denen sich die Politik bisher vergeblich abgearbeitet hat, ist ebenfalls unwahrscheinlich. "Der wachsende Verkehr und seine Folgen für Menschen und Umwelt hätte mit Steuern und anderen politischen Steuerungsinstrumenten längst gelöst werden können. Wir haben uns aber entschieden, es 100 Jahre lang zu ignorieren. Trotzdem denken Ingenieure jetzt, dass sie es mit selbstfahrenden Autos lösen können", sagt Purgathofer. Dass die Menschen selbstfahrende Autos kaufen werden, die wahrscheinlich um einiges mehr kosten werden, hält der Informatiker für unwahrscheinlich. "Die Automatisierung geht dorthin, wo das Geld ist. Wir werden Lastwagen, Taxis und Limousinen sehen, die automatisiert werden. Die erste Firma, die sich auf Lastwagen spezialisiert, wird den Markt aufrollen", sagt Purgathofer.

Künstliche Intelligenz, das derzeit wohl populärste Teilgebiet der Informatik, hat für den Fachmann ebenfalls ihre Tücken. "Wenn wir ein sogenanntes "System of Systems" haben, mit komplexer Vernetzung, dann kommt es zu emergentem Verhalten. Es passieren also Dinge, die sich nicht durch die einzelnen Bausteine des Systems erklären lassen. Ob wir das verstehen oder vorhersagen können, ist nicht geklärt", sagt Purgathofer. Software, die tatsächlich über Intelligenz in einem breiteren Sinn verfügt, hält Purgathofer längerfristig nicht für ausgeschlossen: "Es gibt Vorhersagen, die den Zeitpunkt der Entstehung von Software, die intelligenter ist als Menschen zwischen 2040 und 2060 ansetzt." Dann könnten wir nicht mehr verstehen, was Software überhaupt tut. Warnungen, wie sie kürzlich von renommierten Experten formuliert wurden, die in einem offenen Brief zur Vorsicht bei der Erforschung von KI gemahnt haben, hält Purgathofer nicht für übertrieben: "Die Katze ist aber wohl schon aus dem Sack."