Die weißen Sticker, die den Autopilot zum Spurwechsel bringen, sind mit roten Kreisen markiert

© Tencent Keen Security Lab

Produkte
04/01/2019

Kleine Sticker auf der Straße lassen Tesla auf Gegenfahrbahn wechseln

Mit einfachen Mitteln kann Teslas Autopilot in eine Situation gebracht werden, die potenziell lebensgefährlich ist.

Sicherheitsforscher des Tencent Keen Security Lab haben sich den Tesla Elektroautos angenommen. In einem Bericht (PDF) haben sie ihre Ergebnisse veröffentlicht. Laut diesen konnten sie den Autopilot (Version 2018.6.1) dazu bringen, auf die Gegenfahrbahn zu wechseln. Alles was sie dazu benötigten, war etwas weiße Farbe.

Dieser „Angriff“ auf den Tesla Autopilot nutzt die Methode der „Adversarial Examples“, zu Deutsch: „gegensätzliche Beispiele“. Dabei werden in der Umgebung Änderungen vorgenommen, die für Menschen unauffällig sind, aber auf die Bilderkennung von Machine-Learning-Systemen großen Einfluss haben.

In diesem Fall haben die Forscher kleine weiße Sticker auf der Fahrbahn angebracht. Für einen menschlichen Fahrer sind die kaum bemerkbar während der Fahrt. Der Autopilot erkannte darin aber eine Fahrbahnmarkierung. Anstatt auf der aktuellen Spur zu bleiben, wechselte der Autopilot auf die Gegenfahrbahn.

Die Tests wurden auf einem abgesperrten Gelände durchgeführt. Es kann also nicht sicher gesagt werden, ob der Autopilot im Straßenverkehr genauso reagiert hätte. Allerdings hat der Autopilot schon zuvor Schwächen gezeigt, auch ohne absichtliche Manipulation der Umgebung. So dokumentierte ein User etwa mehrere Fälle, in denen der Autopilot plötzlich auf eine Highway-Absperrung zusteuerte.

Steuer übernommen

Die Forscher haben auch andere Attacken erfolgreich ausgeführt. Bei einer konnten sie mehrere Sicherheitsmaßnahmen umgehen und so das Steuer des Elektroautos übernehmen. Dazu programmierten sie eine App. Das Auto wurde mit einem Gaming-Controller gesteuert, der mit dem Smartphone verbunden war.

Diese Attacke funktioniert aber nicht immer. Befindet sich das Elektroauto im Park-Modus oder im Cruise-Control-Modus, kann die Steuerung komplett übernommen werden. Wurde der Gang kürzlich von Rückwärts auf Drive gewechselt, kann das Auto nur auf maximal 8 km/h aus der Ferne beschleunigt werden. Laut den Forschern wurde die Sicherheitslücke an Tesla gemeldet und seitdem behoben.