"Wir sehen KI als Intelligenzverstärker für den Menschen"

Michael May treibt bei Siemens Anwendungen für künstliche Intelligenz (KI)  in der Industrie voran. Die futurezone hat den Leiter der Siemens-Forschungsabteilung für künstliche Intelligenz und Datenanalyse bei einem Treffen zum Thema „Digital Factory“ („Digitale Fabrik“) im Salzkammergut getroffen und mit ihm über aktuelle Projekte und das Verhältnis zwischen Mensch und Maschine gesprochen.  

Wie neu ist das Thema KI für Siemens?
Das Thema KI ist für Siemens nicht neu. Da wird seit über 30 Jahren daran geforscht. 1995 gingen die ersten neuronalen Netzwerke für Qualitätsmonitoring in Stahlwerken online. Das war ein kommerzieller Erfolg, weshalb Siemens weiter an KI geforscht hat - zu einer Zeit, als das wenige andere gemacht haben. Siemens hat sich dadurch ein ganz gutes Patent-Portfolio in diesem Bereich aufgebaut.

Wie setzt Siemens künstliche Intelligenz ein?
KI wird sehr breit eingesetzt, inzwischen in praktisch allen Divisionen von Siemens. Ein Beispiel sind Gasturbinen, wo wir neuronale Netze, 'Deep Learning' und 'Reinforcement Learning' betreiben - ähnlich wie auch bei Deep Minds AlphaGo. Unser System lernt dabei aus Erfahrung und optimiert seine Kontrollstrategie, um Stickoxid-Emissionen in der Gasturbine zu reduzieren.

Ist jede Gasturbine so unterschiedlich, dass es da individueller Steuerungsstrategien bedarf?
Turbinen werden mit unterschiedlichen Zwecken eingesetzt, sie werden mit unterschiedlichen Lastprofilen gefahren, es gibt unterschiedliche Umweltparameter - es gibt also signifikante Unterschiede. Die Idee ist, aus dem Betrieb einer Turbine zu lernen. Das neu generierte Wissen kann man natürlich übertragen. Es ist vorstellbar, dass man die Erfahrungen aller Gasturbinen sammelt und ein Megamodell schafft. Das existiert heute aber noch nicht.

Haben Sie noch ein Beispiel für eine KI-Anwendung?
Ein Beispiel aus einer ganz anderen Ecke ist über viele Jahre in Österreich entstanden. Wir verwenden KI zur Konfiguration von Produkten, etwa bei Stellwerkkontrollsystemen für Bahnhöfe. Das sind sehr komplexe Systeme. Es gilt jede Menge Normen, Designprinzipien und Wünsche von Kunden zu berücksichtigen. Aus dieser astronomisch großen Zahl möglicher Konfigurationen muss man diejenigen herausfinden, die ihr Ziel möglichst gut erfüllen. Das ist eine KI-Aufgabe. Unsere Gruppe in Wien versucht solche Probleme mit logikbasierten Algorithmen zu lösen.

Was ist das?
Im Augenblick stehen ja eher Themen wie 'Deep Learning' und neuronale Netze im Vordergrund, aber meiner Meinung nach werden gerade in nächster Zeit logikbasierte Verfahren stärker in den Vordergrund treten. Das ist auch ein Thema, bei dem wir eng mit der Universität Wien zusammenarbeiten.

Logik klingt ja nach einer klassischen Computer-Aufgabe. Was ist daran KI?
Eine klassische Programmieraufgabe wäre, wenn man sagt 'Wenn folgendes passiert, mach jenes'. Die KI-Aufgabe ist logisches Schlussfolgern. Sie geben dem System eine Menge von Fakten, Wunschzuständen, Verboten, Designregeln. Das Zusammenstellen der Konfiguration macht das System automatisch, ohne dass es explizit dafür programmiert ist. Wollen Sie noch ein weiteres Beispiel hören?

Gerne.
In der Seestadt Aspern kommen KI-Anwendungen aus der Energy-Management-Sparte zum Einsatz. Da geht es darum, mit Hilfe von Datenanalyse die Energieeffizienz in der Stadt zu steigern.

Auf welche Art ist KI Menschen überlegen?
Ich betone eigentlich immer das Zusammenspiel von Menschen und künstlicher Intelligenz. Ein großes Ziel, das wir verfolgen, ist der 'Digital Companion'. Die Idee ist, dass ein Experte, etwa ein Siemens-Ingenieur zusammen mit einer KI schlauer ist, als jeder für sich genommen das alleine wäre. Wir sehen KI als eine Art Intelligenzverstärker für den Menschen. KI alleine lässt sich derzeit manchmal noch sehr leicht überlisten.

Wie funktioniert so etwas?
Das gibt es viele Beispiele aus der Forschung, etwa der 'One Pixel Attack'. Da kommen ganz abstruse Fehler heraus. Das ist unter Umständen auch sicherheitsrelevant. Wenn etwa ein Stoppschild von einem autonomen Fahrzeug falsch identifiziert wird. KI ist beeindruckend, aber sie lässt sich manchmal überlisten. Wir sind noch nicht am Ende der KI-Entwicklung und ich persönlich glaube nicht, dass die Ablöse des Menschen durch KI in absehbarer Zeit bevorsteht. Man muss auch bedenken, dass KI sehr spezialisiert ist, ein Bilderkennungssystem nimmt etwa nichts anders wahr als Bilder. Menschen würden sich nicht nur auf ein Bild verlassen. Da sind wir der KI überlegen. Wenn man jetzt potenziell sicherheitskritische Anwendungen hat, überlasse ich das nicht nur einer Maschine.

Menschen sollen also die Kontrolle behalten?
Die Kombination Mensch-Maschine ist auf absehbare Zeit der sichere Weg. Manche sagen ja, wir müssen alles komplett automatisieren. Das ist ein hoher Anspruch, den man unter anderem beim autonomen Fahren sieht. Das klappt ja teilweise gar nicht schlecht, aber dann crasht ein Tesla in ein Polizeiauto, eine Radfahrerin kommt durch ein Uber-Auto ums Leben. Eine KI zu bauen, die 100-prozentig funktioniert, ist unglaublich schwer. Zu 80 Prozent klappt es ja ganz gut, aber Ingenieure wissen, von 80 auf 90 Prozent zu kommen ist schon sehr schwer, von 90 auf 99 ist eine Superanstrengung und das letzte Prozent, die Ausnahme von der Regel, bekommt man sehr sehr schwer hin. Deshalb ist es besser, man automatisiert, was geht und der Rest wird von einem Menschen abgefangen.

Wie wird sich KI auf den Arbeitsmarkt auswirken?
Klar, es wird Automatisierungen in Bereichen geben. Ob das bedeutet, dass Menschen gar nicht mehr an der Stelle gebraucht werden, oder höherwertige Aufgaben übernehmen, ist nicht gesagt. Ich sehe da eine Verschiebung von Aufgabenprofilen. Menschen werden nicht unbedingt ersetzt - wenn sie mithalten und sich weiterbilden. Ich sehe da eine große Aufgabe für Universitäten und die betriebliche Weiterbildung. Im Medizinstudium läuft es teilweise noch genauso ab wie vor 100 Jahren. Meine Tochter studiert Medizin und ich sage ihr immer, sie soll sehen, dass sie Fähigkeiten erwirbt im Umgang mit den neuen, durch maschinelles Lernen gestützten Technologien, die in der Diagnostik, z.B. in der Radiologie, kommen werden. Sie sehen das wahrscheinlich auch an ihrem eigenen Job, oder?

Was denn?
Heutzutage verwendet jeder ganz selbstverständlich Suchmaschinen in der Recherche. Trotzdem macht das den Journalismus nicht überflüssig. Nehmen Sie z.B. Fake News. Da sind automatisch generierten Berichten Grenzen gesetzt. Guter Journalismus von Menschen wird auf Jahre gebraucht werden. Wir Menschen sind beschränkt in jeder einzelnen Tätigkeit, die wir machen können. Wir können nicht am schnellsten laufen, wir haben nicht das beste Gedächtnis, wir können nicht in feinster Auflösung sehen. Aber die Kombination vieler Tätigkeiten, das ist doch etwas, wo Maschinen Schwierigkeiten haben. Und das sind nicht nur nobelpreisverdächtige Tätigkeiten, sondern ganz Alltägliches - etwa wenn sie herausfinden wollen, ob ihr Gesprächspartner glaubwürdig ist oder nicht.

Ein Problem, das in Zusammenhang oft diskutiert wird, ist 'Bias'. Sehen Sie die Integration menschlicher Voreingenommenheit in KI als Problem?
Das ist dann ein Problem, wenn Maschinen autonom Entscheidungen treffen und diese nicht erklären können. Transparenz und Erklärbarkeit sind wichtig, wie etwa bei einer Kreditwürdigkeitsprüfung, wo es gesetzliche Anforderungen gibt. Dass man Bias in der KI komplett vermeiden kann, da wüsste ich nicht, wie das gehen soll. Es muss immer Prozesse geben, um Bias zu vermeiden, bei KI genauso wie bei Menschen, etwa ein Vier-Augen-Prinzip oder ähnliches.

In welchen Bereichen will Siemens KI in Zukunft einsetzen?
Ein sehr spannendes Thema ist, wie kann ich Fachwissen in digitale Form bringen und wie kann ich dieses Wissen in Herstellungsprozessen einsetzen. Das sehe ich als Thema, wo wir über Jahre hinaus etwas machen und verschiedene KI-Systeme verknüpfen können. Da kommen wir zu etwas, was Siemens seit vielen Jahren macht: Digital Twin. Der digitale Zwilling eines Prozesses. Da sehe ich Riesenpotenzial für KI. Wollen Sie noch ein etwas futuristischeres Beispiel?

Ja, bitte.
Kollegen in Belgien forschen an KI, die selbst Designs entwirft, die patentfähig sind. Im Bereich Automotive haben die schon gewisse Erfolge. Derzeit funktioniert das aber nur bei sehr einfachen Systemen. Die Maschine unterstützt damit quasi in kreativen Bereichen. So wie Newton auf den Schultern von Riesen stand, könnten unsere Ingenieure auf den Schultern von Computern stehen. Wir müssen als Menschen ausnutzen, was uns Maschinen bieten können. Darauf beruht Fortschritt.

Welche Auswirkung werden Quantencomputer auf KI haben?
Ein Quantencomputer hat potenziell dramatische Auswirkungen. Wenn die Realität sind und zuverlässig funktionieren, dann können Sie eigentlich alle Algorithmen, die Sie so haben, neu überdenken. Dann können manche Probleme gelöst werden, die bisher unmöglich zu lösen waren. Wir als Siemens sind da in Beobachterposition, aber schauen sehr genau hin, was da passiert. Es gibt noch viele technische Hürden, bis Quantencomputing in unserer Welt ankommt.