Phantom-Bilder lassen Teslas grundlos stehenbleiben

Teslas Autopilot nutzt Kameras, um die Umgebung zu erfassen. Dies macht das System anfällig für Fehler, da es rein auf optischer Bilderkennung basiert.

Forscher an der israelischen Ben Gurion Universität haben schon mehrfach demonstriert, wie sich der Autopilot austricksen lässt. Jetzt haben sie eine neue Methode gefunden, die sich laut ihnen besonders einfach nutzen lässt.

Phantom-Bilder

Dazu werden sogenannte Phantom-Bilder genutzt. Diese sind auf üblichen elektronischen Werbeflächen, wie etwa Bildschirmen, in Werbungen versteckt.

Für ihre Demonstration haben die Forscher eine MacDonalds-Werbung manipuliert. In dem Video ist für eine halbe Sekunde ein Stoppschild in der linken Ecke zu sehen. Der Autopilot des Tesla Model X erkennt dies als echtes Stoppschild und lässt das Auto grundlos – mitten auf der Straße – stehenbleiben.

Die Forscher sind noch weitergegangen und haben einen Algorithmus entwickelt, um das Phantom-Bild bestmöglich zu verstecken. Dieser analysiert das Werbevideo und platziert das Bild des Stoppschild dort, wo es für Menschen am wenigsten auffällig ist. Wenn der Autopilot dann das Auto stoppt, hat der Fahrer keine Ahnung, warum das passiert ist.

Auch andere Kamerasysteme anfällig

Zum Vergleich haben die Forscher noch ein Kamerasystem zum Nachrüsten getestet, dass Mobileye 630. Dies ist noch anfälliger als der Tesla Autopilot. Hier reicht es das Verkehrszeichen für 125ms, also eine 1/8 Sekunde, in einem Video anzuzeigen.

Diese Attacke funktioniert nicht nur mit Stoppschildern, sondern auch mit anderen Verkehrszeichen. So könnte man etwa ein Temposchild im Werbevideo verstecken, wodurch der Tesla Autopilot das Fahrzeug beschleunigen würde.

Digitale Plakate einfach zu hacken

Für den Test haben die Forscher eine vergleichsweise kleine Werbefläche, die in etwa die Größe eines TV-Bildschirms hat, verwendet. Würden Hacker aber große digitale Plakate, wie sie in manchen US-Städten bei Highways platziert sind, manipulieren, könnten sie so Unfälle provozieren und Chaos anrichten.

Das Hacken solcher Werbevideo-Anzeigentafeln ist weit verbreitet in der Hacker-Community. Früher wurde dies gemacht, in dem man sich physisch Zugang zum Service-Port der Werbefläche verschaffen hat. Heute werden viele dieser Großdisplays per Fernzugriff gesteuert. Da der Datentransfer oft schlecht oder gar nicht gesichert ist, ist es für Hacker relativ einfach, die Anzeigentafeln zu kapern und andere Inhalte darauf anzuzeigen. So kam es schon mehrfach vor, dass Pornovideos auf solchen Werbebildschirmen bei Highways gezeigt wurden.

Gegenmaßnahme

Die Forscher haben nicht nur den Angriff, sondern auch gleich die Abwehr entwickelt. Ein Algorithmus sammelt dabei Faktoren wie Tiefe, Licht und den Inhalt rund um das Verkehrszeichen, um zu bewerten, ob das Verkehrszeichen echt oder fake ist.

Diese Methode sei laut den Forschern noch nicht perfekt. Sie würde aber viele der Phantom-Bilder erkennen, ohne die Reaktionsgeschwindigkeit des Tesla Autopiloten spürbar zu verlangsamen.