"Wird Situationen geben, in denen Systeme zusammenbrechen"

Egal ob Auto, medizinisches Gerät oder Schaltstation in einem Stromnetz, immer mehr Geräte werden heute zu größeren Netzwerken, sogenannten cyber-physischen Systemen zusammengeschlossen. Dadurch soll der Verkehr sicherer, die Industrie effizienter und die Medizin effektiver werden. Gleichzeitig steigt das Risiko für Hackerangriffe und unerwartete Rückkoppelungen in den zunehmend komplexen Zusammenschlüssen. Werner Damm von der Carl Ossietzky Universität in Oldenburg spricht bei den Technologiegesprächen des diesjährigen Forum Alpbach über die Auswirkungen der zunehmenden Verbreitung von intelligenten Systemen. Die futurezone hat ihn vorab befragt.

Wie erklären Sie ihr einem Laien was ein cyber-physisches System ist?
Ich verwende gerne das Bild eines lebenden Organismus mit vielen Zellen. In einem cyber-physischen System ist jede Zelle ein technisches System, das sich und seine Umwelt durch Sensoren erfassen kann. Zudem analysieren die einzelnen Teile ihre Situation und handeln entsprechend. Durch die dichte Vernetzung entsteht Schwarmintelligenz, die in kurzer Zeit enormes Wissen ansammeln kann.

Wo kommen cyber-physische Systeme zum Einsatz?
Es gibt Einsatzgebiete in vielen Branchen, etwa in der Industrie, wo es die Erwartung gibt, dass es durch die Echtzeit-Erfassung von Daten in den Anlagen deutliche Effizienzsteigerungen geben wird. Im Bereich der Mobilität können bald LKWs zu Verbänden zusammengeschlossen werden. Das senkt den Luftwiderstand und damit den Verbrauch. Die rechtlichen Bedingungen müssen aber noch geklärt werden.

Es geht also hauptsächlich um Vernetzung?
Im Verkehr entsteht ein Schwarm von Autos, Fahrrädern und Fußgängern. Wenn jeder weiß, was der andere tut, wird es weniger Unfälle geben. Im Gesundheitssektor stehen wir vor der Herausforderung, flächendeckende Versorgung bei steigenden Kosten und stärkerer Zentralisierung anbieten zu müssen. Hier kann durch entsprechender Sensorik vieles bei den Patienten zuhause geschehen, etwa Rehabilitationsmaßnahmen. In der Therapie sind neue Ansätze möglich, wie die Bekämpfung von Krebszellen durch Schwärme von Mikrorobotern im Blut.

Wie sieht es im bei der Energieversorgung aus?
Hier sind wir ebenfalls auf intelligente Systeme angewiesen. Nur ein smartes Netz kann die Fluktuationen durch unstete erneuerbare Energiequellen und den steigenden Bedarf durch flächendeckende Elektromobilität ausgleichen und die Netze stabil halten.

Warum stehen die cyber-physischen Systeme gerade jetzt vor dem Durchbruch?
Es war zuerst notwendig, die einzelnen Zellen im Schwarm mit Intelligenz auszustatten. Die Industrie hat erkannt, dass wir etwa die Arbeitsumgebung aus dem Büro auch im Auto haben wollen. In dem Moment brauchen wir die Vernetzung, um die Daten des Fahrers ins Fahrzeug zu bringen. Das ist marktgetrieben und geht so weit, dass die Automobilindustrie Neuerungen mittlerweile auf der CES vorstellt.

Wie sieht es mit den Schattenseiten der Technologie aus?
Wir müssen großer Augenmerk auf die Risiken legen. Eine wichtige Frage ist, ob wir die Komplexität der Systeme beherrschen. Der Schwarm ist heute global verteilt, das macht die Netzwerke kompliziert. Lokale Effekte können unvorhergesehene Konsequenzen haben. Im System können ganz neue Phänomene auftreten, hier ist noch weitere Forschungsarbeit nötig.

Könnte sich die zunehmende Komplexität als unüberwindbare Hürde herausstellen?
In nichtlineare Systemen können kleine Änderungen überproportionale Effekte haben. Ab einem bestimmten Punkt ist das System nicht mehr stabilisierbar. Es ist deshalb notwendig, dass wir Modelle bilden, um die Kontrollierbarkeit zu gewährleisten. Vollständig ausschließen kann man eine Rückkopplung aber nie. Es wird mit Sicherheit Situationen geben, in denen Systeme zusammenbrechen, da wir nie in der Lage sein werden, alle möglichen potentiellen Wirkfaktoren, etwa auch Formen von Cyber-attacken, vorher zu identifizieren.

Zudem bieten solche Systeme eine große Angriffsfläche.
Die Systeme leben von der Vernetzung, das macht sie inhärent angreifbar. Lokale Hackerangriffe können globale Konsequenzen haben und etwa ein Energienetz lahmlegen. Hier müssen wir die Architektur möglichst robust gestalten. Wir sollten eine Debatte über Regelwerke und internationale Standards führen.

Diese Anfälligkeit ist in kritischen Bereichen problematisch.
Beim Automobil haben wir durch die Vernetzung und das autonome Fahren zusätzliche Quellen für Unfallsituationen. Wir müssen abwägen, ob wir bereit sind, solche Unfälle in Kauf zu nehmen, wenn dafür das globale Risiko für Unfälle und Tote sinkt. Wir brauchen einen politischen Diskurs. In der Autoindustrie gibt es schon Ansätze, in anderen Bereiche dominiert aber oft eine blinde Technikgläubigkeit.

Sollen wir uns solche Systeme derzeit wirklich schon ins Auto holen?
Wir haben uns die Systeme schon ins Auto geholt, mit der EU-Verordnung, laut der Autos automatisch Notrufe absetzen können müssen. Das setzt Netzanbindung voraus.

Jüngste erfolgreiche Angriffe auf vernetzte Autos zeigen, dass die Absicherung nicht funktioniert.
Diese Beispiele zeigen, dass noch Verbesserungen notwendig sind. Für die Automobilhersteller ist dies natürlich ein bereits identifiziertes Risiko. Mit sauberer Architektur können die Verbindungen zwischen Infotainmentsystem und Steuerung so minimiert werden, dass sie kontrollierbar sind und hochgradig abgesichert werden können.

Wieso soll es Autos besser gehen als Smartphones und Computern, die immer wieder gehackt werden?
Automobilhersteller haben den Vorteil, dass die Elektronik im Fahrzeug insgesamt besser kontrollierbar ist, da hat man mehr Möglichkeiten. Die Antwort liegt in Normen, die den jetzigen Stand der Absicherbarkeit gemäß Risikoklassen zementieren.

Ist der Industrie hier zu trauen?
Der Spielraum in den Normen wird von der Industrie ausgenutzt um Kosten zu senken. Die Vorgaben müssen deshalb stetig weiterentwickelt werden. Es wird immer Situationen geben, in denen die Sicherheitsmechanismen einzelner Fahrzeuge nicht mehr ausreichen. Die Elektronik kann sich aber im Notfall weigern, bestimmte gefährliche Kommandos umzusetzen und das Auto einfach anhalten.

Das geht bei anderen Systemen nicht.
Bei Energienetzen ist das Herunterfahren keine Option. Man kann aber Inseln bilden, die abgeschaltet werden können. Die Konsumenten dort sitzen dann zwar im Dunkeln. Notaggregate gibt es aber auch heute schon.

Wie wird mit der riesigen Menge an anfallenden Daten umgegangen?
Die Datenverarbeitung kostet, das ist aber kein unlösbares Problem. Interessant ist die Frage, wer die Rechte an den Daten hat, etwa am aktuellen Bild der Straßenzustands, das durch die Sensoren in Autos entsteht. Die Fahrer, Firmen oder der Staat? Diese Fragen sind zu klären.

Wie könnte eine Lösung aussehen?
Ein Open-Data-Ansatz wäre sicher begrüßenswert. Je mehr die öffentliche Hand beteiligt ist, desto eher kann das System für Konsumenten optimiert werden.

Wie sieht es mit dem Schutz dieser Daten aus?
Wir sind mittlerweile in viele Systeme eingebunden, dadurch ändert sich die Frage der Selbstbestimmung. Was passiert etwa mit Versicherungspolizzen? Bekomme ich die in Zukunft nur noch, wenn ich Daten abgebe?

Wie lange wird es dauern, bis solche Systeme allgegenwärtig sein werden?
Das passiert graduell. Autos werden in drei Jahren einen Highway-Piloten haben. Die Strecke von Graz bis Hamburg wird dann automatisch auf der Autobahn absolviert. Flächendeckendes autonomes Fahren ist aber noch 20 Jahre weit weg. In anderen Bereichen ist es ähnlich.

Die futurezone ist offizieller Medienpartner der Technologiegespräche beim Forum Alpbach 2015.