Lastwagen brettern ungebremst über Kreuzungen. PKW blochen mit 120 km/h durch 30er-Zonen. Die Polizei ist ratlos: Wieso ignorieren alle selbstfahrenden Autos plötzlich die Verkehrszeichen?
Schuld an dem Riesenchaos haben kleine, farbige Papierzettelchen, die jemand nachts zuvor auf Schilder, Werbebanner und Firmenlogos geklebt hat. Eine vermeintlich harmlose Aktion mit zerstörerischer Wirkung.
Zwar gibt es diese Art von Hackern und Chaoten noch nicht. Doch dieses Horrorszenario ist gar nicht so unwahrscheinlich, wie jetzt die Universitäten Princeton und Purdue in einem gemeinsamen Projekt nachgewiesen haben.
Software wertet verfälschte Signale aus
Mit einfachen Markierungen auf Verkehrszeichen konnten die Forscher eine Software austricksen, wie sie in Tausenden selbstfahrenden Autos verbaut ist. Sie erkennt normalerweise Verkehrsschilder und gibt entsprechende Befehle an die Fahrelektronik weiter.
Doch die Forscher jubelten der Software falsche Signale unter. Eine Tafel «Höchstgeschwindigkeit 80 km/h» wurde so plötzlich zu einem Stoppzeichen. Austricksen lassen sich die Autos, weil die Forscher eine Schwäche des Systems ausnutzen: Erkennungssysteme basieren auf neuronalen Netzwerken.
Neuronale Netzwerke sind der grosse Trend der letzten Jahre, denn sie sollen die eigentlich dummen Algorithmen in intelligente Maschinen verwandeln. Denn auch vermeintlich komplexe Systeme wie Autos funktionieren nach einfachen, logischen Operationen. Sensoren liefern Daten, die der Computer nach vordefinierten Kriterien auswertet.
Damit lassen sich viele Aufgaben bewerkstelligen: offene Türen erkennen, den Abstand zum Vorderfahrzeug überwachen oder das ABS im richtigen Moment einschalten. Doch Verkehrsschilder anhand einer Kamera zu erkennen, ist eine ganz andere Kategorie. Für den Menschen mag ein Verkehrsschild einfach zu entschlüsseln sein, für den Computer jedoch ist jedes Bild nur eine unsystematische Reihe von Farbtupfern.
Niemand weiss, wie Maschinen Verkehrssignale erkennen
Erst neuronale Netzwerke können diese komplexen Aufgaben meistern. Sie funktionieren dabei wie Maschinen voller kleiner Drehscheiben, die miteinander verbunden sind. Doch sollen sie etwas richtig erkennen, brauchen sie Training.
Das funktioniert so: Will man ein System dazu bringen, etwa ein Verkehrsschild zu erkennen, füttert man es mit einem Bild dieser Tafel. Dann wartet man das Ergebnis ab. Ist es falsch, wird so lange an den Drehscheiben gedreht, bis das Ergebnis korrekt ist. Die Maschine merkt sich nun, welche Verbindungen zum richtigen Ergebnis geführt haben. Tausend Bilder später ist das neuronale Netzwerk trainiert und einsatzbereit. Der Clou dabei: Nicht mal die Schöpfer des Netzwerks wissen, anhand welcher Kriterien die Maschine eine Verkehrstafel erkennt.
KFC als tödliche Falle
Diesen Umstand haben sich die Forscher zunutze gemacht. Denn manchmal reichen wenige Markierungen, um dem Computer ein anderes Zeichen vorzugaukeln. Mit fatalen Folgen: «Jede Falscherkennung eines Verkehrszeichens könnte eine Vielzahl desaströser Konsequenzen haben», schreiben die Forscher in ihrer Arbeit. Lebensbedrohliche Unfälle oder das Kollabieren des gesamten Transportwesens könnten die Folgen sein.
Diese Methode funktioniert nicht nur bei Verkehrsschildern. Auch Firmenlogos, Werbebanner oder Plakate konnten die Forscher ganz einfach in tödliche Symbole verwandeln. Und das beweisen die Forscher eindrücklich.
Das Logo des Fast-Food-Giganten KFC sieht zwar nach der Behandlung durch die Forscher etwas verschmutzt, aber trotzdem noch unauffällig, aus. Doch dank dieser «Verunreinigung» mutiert das Logo für das Auge des Fahrzeugs zu einem Stoppzeichen. Angebracht bei einer Autobahn könnte dieses Logo für autonome Fahrzeuge verheerende Folgen haben.
Grosse Autohersteller bieten das System an
Zumal die ausgetrickste Technologie immer günstiger und damit immer öfter in Autos verbaut werden wird. Alle wichtigen Autohersteller bieten diese Systeme bereits an.
Meist zeigen sie dem Fahrer nur die erforderliche Geschwindigkeit an, ohne selbst das Fahrzeug zu steuern. Der Elektrofahrzeug-Pionier Tesla zeigt aber auf, wohin diese Entwicklung gehen wird: autonome Fahrzeuge. Andere Hersteller werden nachziehen und ihre Fahrzeuge mit einem Autopiloten ausstatten.
Nimmt man dies und die Erkenntnisse der Forscher zusammen, dann stehen wir bereits vor einer neuen Ära von Hackern, die nicht mehr versteckt hinter Computerbildschirmen ihrem Werk nachgehen, sondern als Strassenarbeiter verkleidet Markierungen auf Strassenschildern anbringen. Und somit den Verkehr in ein tödliches Chaos stürzen können.