Forscher arbeiten an "Kill Switch" für Roboter

Dass die Menschheit die Kontrolle über die von ihr entwickelte künstliche Intelligenz verlieren könnte, wird seit längerem diskutiert. Prominente Forscher und Tech-Unternehmer, darunter Stephen Hawking, Elon Musk und Bill Gates, warnten wiederholt vor dem Aufstand der Maschinen. Damit dies nicht passiert, arbeiten Wissenschaftler von Googles Deep Mind Team und der University of Oxford an Möglichkeiten, künstliche Intelligenz, die außer Kontrolle gerät, zu stoppen, berichtet The Verge.

In einem beim Maschine Intelligence Research Institute veröffentlichten Papier mit dem Titel „Safely Interruptible Agents", werden Wege aufgezeigt, wie etwa Roboter, die Menschen gefährden, außer Betrieb gesetzt werden können.

„Unerwünschtes Ergebnis“

Ein Problem, dass sich den Forschern stellt, ist, dass die selbstlernenden Maschinen sich auch Fähigkeiten aneignen könnten, mit denen ein solcher „Kill Switch“ für Roboter umgangen werden könnte. In dem Papier ist in diesem Zusammenhang von einem „unerwünschten Ergebnis“ die Rede, dem die Forscher mit der Manipulation der Belohnungssysteme der künstlichen Intelligenz beikommen wollen.

Unklar sei, ob solche Mechanismen auf alle Algorithmen künstlicher Intelligenz angewandt werden könnten, schreiben die Deep Mind-Forscher, die unter anderem für die Entwicklung der künstlichen Intelligenz Alpha Go verantwortlich zeichnen, die sich beim Brettspiel Go gegen mehrere Spitzenspieler durchsetzte. Wie sich das Zusammenleben zwischen Mensch und Maschine künftig gestalten wird, bleibt vorerst also offen. Gut möglich, dass auch eine Prognose des Apple-Gründers Steve Wozniak Wirklichkeit wird. Er geht davon aus, dass sich Roboter künftig Menschen als „Haustiere“ halten.