New Autopilot features are demonstrated in a Tesla Model S during a Tesla event in Palo Alto

© REUTERS / BECK DIEFENBACH

Science
02/19/2020

Hacker trickst Tesla aus, Auto fährt 80 km/h zu schnell

Ein knapp 5 Zentimeter langes Klebeband überlistete das Tesla-Kamerasystem und brachte den Wagen dazu, zu beschleunigen.

Hacker haben zwei Tesla-Wägen dazu gebracht, um 80 km/h zu beschleunigen und so Geschwindigkeitsübertretungen zu begehen, berichtet die MIT Technology Review. Dabei überlisteten sie das Mobileye EyeQ3 Kamerasystem der Autos, indem sie ein Tempolimit-Schild subtil und für das menschliche Auge kaum wahrnehmbar manipulierten.

Dabei klebten sie auf ein Schild, das die Geschwindigkeit auf 35 Meilen pro Stunde (56 km/h) begrenzte, einen kleinen, kaum wahrnehmbaren, Klebestreifen. Für die Kamera des Autos sah es nun so aus, als wären 85 Meilen pro Stunde (136 km/h) erlaubt. Entsprechend beschleunigten die Wägen. Konkret handelte es sich um Teslas Model X und Model S, beide Baujahr 2016.

Demonstriert wurde der Hack von der Cybersicherheitsfirma McAfee, die damit auf Sicherheitsherausforderungen für autonome Fahrsysteme hinweisen wollte.

Im Falle der Tesla-Wägen sei die Geschwindigkeitsbeschränkung vom Kamerasystem erfasst und die entsprechenden Informationen an Teslas automatische Geschwindigkeitsregelung (automatic cruise control) weitergegeben worden, erläuterten die McAfee-Experten Steve Povolny und Shivangee Trivedi die Funktionsweise.

Algorithmen leicht manipulierbar

Der Hack sei nur ein Beispiel dafür, wie sich Systeme maschinellen Lernens austricksen lassen und damit potenziell lebensbedrohliche Situationen hervorgerufen werden können, hieß es.

Mit ihrem Hack bauten die McAfee-Forscher auf eine Reihe ähnlicher Attacken auf. Im vergangenen Jahr wurde etwa für eine Studie ein selbstfahrendes Auto ebenfalls mithilfe von Klebebändern dazu gebracht, ein Stoppschild für ein 70-Meilen-Tempolimitschild zu halten. In einem anderen Fall wurden die Algorithmen eines teilweise autonom fahrenden Wagens mit Stickern auf der Straße getäuscht und dazu gebracht, auf der falschen Spur zu fahren.

McAfee informierte auch bereits Tesla und den Kamerasystemhersteller Mobileye über den Hack. Tesla wollte dies auf Anfrage der MIT Technology Review nicht kommentieren. Von Mobileye hieß es, dass die Kamera nicht für den Einsatz beim autonomen Fahren konzipiert sei.