Wenn künstliche Intelligenz uns alle zu Büroklammern verarbeitet

Man wird uns alle töten und zu Büroklammern verarbeiten. Zumindest in einem Gedankenexperiment des Philosophen Nick Bostrom: Stellen wir uns vor, künstliche Intelligenz wird immer besser. Vielleicht kommen nach den selbstfahrenden Autos die selbstplanenden Maschinen, die sich ganz alleine überlegen, wie man ein bestimmtes Produkt am besten herstellt?

Angenommen, wir befehlen so einer Maschine, Büroklammern zu produzieren – und zwar so viele wie möglich. Sie legt los, erweitert sich laufend selbst und wird zur Büroklammer-Massenproduktionsanlage. Gleichzeitig wird sie intelligenter, sie beginnt die Naturgesetze und die Regeln der Wirtschaft zu verstehen. Sie kauft sämtliche Metallreserven auf und verarbeitet sie zu Büroklammern. Auf der Suche nach weiteren Rohstoffen zerlegt sie Autos, Gebäude und schließlich Menschen. Irgendwann findet sie eine Möglichkeit, jede Form von Materie in Elementarteilchen zu zerlegen und zu Büroklammern umzubauen. Mit unerbittlicher Effizienz verwandelt sie die gesamte Erde in eine leblose Büroklammerhalde.

Ein Bild der ganzen Welt im Kopf

Befinden wir uns auf dem Weg dorthin? Längst analysieren künstliche Intelligenzen unser Einkaufverhalten und erraten, welche anderen Produkte uns gefallen könnten. Künstliche Diagnoseprogramme helfen Ärzten beim Interpretieren von Röntgenbildern. Es gibt sogar Computerprogramme, die erkennen, ob ein Bild eine Katze zeigt oder nicht – und zwar schneller und zuverlässiger als jeder Mensch. Das ist eine gewaltige Leistung. Trotzdem: Von der Katzenerkennung bis zur völligen Büroklammerisierung des Planeten ist der Weg noch weit.

Eine künstliche Intelligenz hat eine klar definierte Aufgabe, die sie nach bestimmten mathematischen Regeln erfüllt. Wir Menschen hingegen bauen uns im Kopf ein möglichst exaktes Abbild der ganzen Welt – und das ist ein gewaltiger Unterschied. Vielleicht kann ein Roboter Fahrradfahren lernen. Aber dabei auf Beschimpfungen von Autofahrern reagieren, die kreativ mit dem soziökonomischen Status von Fortbewegungsmitteln spielen? Das können nur wir – weil in unserem Kopf ein komplexes Bild unserer Welt wohnt.

Ein Computerprogramm, das rasend schnell Katzenbilder sortiert, hat sich immer nur mit Katzenbildern befasst. Es baut sich keine simulierte innere Welt, in der man Pläne und Wünsche entwickeln kann. Auch wenn das Programm noch so lange Katzenbilder sortieren lernt, es kann nie etwas über menschlichen Ehrgeiz, über Kunstgeschichte oder über Hydrodynamik lernen. Es hat rein technisch gar nicht die Möglichkeit, ein umfassend gebildetes, bewusstes Wesen zu werden. Deshalb kann es auch nicht herausfinden, wie man die Erde vernichtet und Menschen zu Büroklammern verarbeitet.

Starke und schwache KI

Auch eine künstliche Intelligenz ist heute bloß ein Vollidiot mit Spezialbegabung. Oft bezeichnet man so etwas als „schwache künstliche Intelligenz“. Davor muss sich niemand fürchten. Vielleicht werden eines fernen Tages komplexe Maschinen möglich, die in ihren Schaltkreisen ein echtes Modell der Wirklichkeit anlegen – das wäre dann eine „starke künstliche Intelligenz“. Sollte das technisch machbar sein, hätte es mit unseren heutigen künstlichen Intelligenzen aber kaum noch etwas zu tun. Auf dem Weg dorthin bräuchte es noch einige technische Revolutionen. Katzenerkennungsprogramme sind noch keine Vorstufe dazu.

Zur Person

Florian Aigner ist Physiker und Wissenschaftserklärer. Er beschäftigt sich nicht nur mit spannenden Themen der Naturwissenschaft, sondern oft auch mit Esoterik und Aberglauben, die sich so gerne als Wissenschaft tarnen.