Killer-Roboter müssen ohne Teslas Autopilot auskommen

© apa

Peter Glaser: Zukunftsreich
01/31/2015

Der Kampf Stahl gegen Fleisch

Was sind Computerfehler? Institutionalisierte menschliche Schwächen. Manchmal brauchen wir sie sogar.

von Peter Glaser

Bislang gibt es keine mathematische Methode, um zu beweisen, dass ein Computerprogramm fehlerfrei funktioniert. „Die meisten Computerprogramme, vor allem die umfangreichsten und wichtigsten unter ihnen, sind nicht ausreichend theoretisch fundiert”, schrieb der Computerkritiker Joseph Weizenbaum in den Siebzigerjahren. Daran hat sich bis heute wenig geändert.

Ihre Bauweise folgt Faustregeln, die unter den meisten vorhersehbaren Umständen zu funktionieren scheinen, und auf anderen Mechanismen, die von Zeit zu Zeit zusätzlich eingebaut werden. „Fast alle großen Programme gehören dazu. Diese gigantischen Computersysteme sind in der Regel von Programmiererteams zusammengestoppelt worden (man kann wohl kaum sagen: konstruiert), deren Arbeit sich oft über einen Zeitraum von mehreren Jahren erstreckt. Wenn das System gebrauchsfertig ist, haben die meisten der ursprünglichen Programmierer gekündigt oder ihr Interesse anderen Projekten zugewandt, so dass, wenn diese gigantischen Systeme schließlich benutzt werden, ihr innerer Ablauf von einem einzelnen oder einem kleinen Team nicht mehr verstanden werden kann.“

Mark I und die Motte

1978 trat der Kampf Stahl gegen Fleisch in ein neues Zeitalter. In Japan wurde erstmals ein Mensch von einem Industrieroboter getötet, der ohne Befehl plötzlich wild um sich geschlagen hatte. Drei Jahre später wurde der Arbeiter Kanji Urata im japanischen Hyogo von einem im amerikanischen Connecticut unter Lizenz der Firma Kawasaki gebauten Roboter getötet. Der Mann hatte den Sicherheitszaun, der den Roboter umgab, übersprungen. Hätte er den Zaun geöffnet, hätte sich die Maschine automatisch abgeschaltet.

Das erste Lebewesen, das durch einen Computer zu Tode kam, war eine Motte. Im Juli 1944 hatte die damals 37jährige Mathematikerin Grace Murray Hopper in Harward, mit dem ersten elektronischen Computer MARK I zu arbeiten begonnen. Sie war der dritte Mensch in den Vereinigten Staaten, der einen Computer programmierte und die erste Frau. Das Elektronengehirn war mehr als 15 Meter lang, hatte 72 Byte Speicherplatz und konnte drei Additionen pro Sekunde ausführen. An einem heißen Augustnachmittag des Jahres 1945 fand Grace Hopper den ersten Bug.

„Wir hatten keine Klimaanlage”, erinnert sie sich, „und die Fenster standen offen.” Im Protokollbuch des MARK I-Nachfolgers MARK II ist um 15.25 Uhr der Start eines „Multi-Additions-Tests” verzeichnet. Neben dem nächsten Eintrag um 15.45 ist mit Klebstreifen ein Tier fixiert: „First actual case of bug being found. Relais #70, Schalttafel F - Motte im Relais.” Das Insekt hatte einen Kurzschluß zwischen zwei Röhren ausgelöst. „Von da an sagten wir immer, wenn der Computer gerade nicht lief, wir seien dabei, Bugs zu entfernen.“

Wie kann man Utopien verhindern?

Die Informationstechnologie verschafft uns Möglichkeiten, die bis vor kurzem noch Science Fiction waren. Utopien scheinen heute wie selbstverständlich realisierbar zu sein. Und immer wieder stehen wir aber auch vor der Frage: Wie sollen wir ihre Verwirklichung verhindern? Wie können wir zu einer nicht-utopischen, einer weniger vollkommenen, aber freieren Gesellschaft zurückkehren, die ihre Computer domestiziert und nützlich macht, so wie es unseren Urvorfahren mit wilden Tieren gelungen ist?

Wenn die Programmierer nicht mehr wissen, was ihr System tut, wird es unberechenbar. Das Gegenbild des Erinnerns, das Vergessen, spielt bei einem Blick nach vorn eine noch wichtigere Rolle. Als vor ein paar Jahren die „Unesco Online Photobank“ mit ihren frei verfügbaren Bildern ans Netz ging, fand ich unter dem Schlagwort „Austria“ unter anderem Fotos des Lachenden Kookburra-Vogels aus den „Wet Tropics of Queensland, Austria“. Was sich an dem Beispiel zeigt, sind die Folgen des Umstiegs auf digitale Kulturträger. Der Update-Effekt, den wir bereits von Software kennen, zeigt sich auch hier. Die neue Version enthält immer auch neue Fehler.

Die Hoffnung auf Fehler

Als mit der Digitalisierung des Index der US-Kongressbibliothek begonnen wurde, übertrugen schlecht bezahlte Datenerfasser die Karteninhalte in den Computer; die Karteikärtchen kamen ins Altpapier. Danach stellte man fest, dass in den neu eingebauten Tippfehlerkaskaden ganze Kulturbereiche zu versinken drohten und schuf ein neues Berufsbild: der Daten-Archäologen. Er versucht die verschwundenen alten Richtigkeiten wiederzufinden.

Ich hoffe ztotzdem darauf, dass Computer und Internet weiterhin Fehler ermöglichen werden. Denn in vielen Fällen sind Fehler, Irrtümer und Mängel auch Ausgangspunkte großartiger Entwicklungen. Es ist paradox, dass Utopien gewöhnlich in einem Endzustand ankommen, in dem es keine weitere Veränderung mehr gibt. Wenn ein System keine Fehler mehr zulässt, kann es sich nicht mehr entwickeln.