Ein einfaches Farbmuster lässt selbstfahrende Autos „erblinden“

Selbstfahrende Autos sehen die Welt anders als Menschen. Ihre Kamerabilder werden von KI-Systemen nach Mustern abgesucht, mit bekannten Mustern abgeglichen und entsprechend bewertet. Auf diese Weise werden Fahrbahnbegrenzungen, Fußgänger, Radfahrer, Straßenschilder, Ampelanlagen und andere Automobile erkannt und dreidimensional im Raum verortet.

Dadurch sind autonome Fahrzeuge auch anfällig für Manipulation. Denn die Mustererkennungssysteme können Fehler machen und auch gezielt angegriffen werden . Genau das haben gerade erst vier Forscher des Max Planck Institut für Intelligente Systeme in Tübingen demonstriert.

Sie haben ein einfaches Farbmuster geschaffen und auf T-Shirts gedruckt, das die Mustererkennung boykottiert , da es sich nicht eindeutig zuordnen oder als Teil eines bewegenden Objektes identifizieren lässt. Angegriffen wird insbesondere die sogenannte „optical flow estimation“, also der Algorithmus eines künstlichen neuronalen Netzes, der vorhersagt, wie sich ein Objekt anhand eines erkannten Pixelmusters wohl weiterbewegen wird.

Dadurch wird der Fußgänger nicht mehr als Fußgänger oder der Radfahrer als Radfahrer erkannt, sondern könnte als unidentifizierter „Blob“ oder sogar als nicht vorhanden ausgemacht werden. Das könnte bei einem selbstfahrenden Wagen eine Notbremsung auslösen oder einen Menschen übersehen lassen. Wird ein solches Farbmuster größer dargestellt, kann es, so demonstrieren die Forscher, bei einem Wagen zum Totalausfall der Mustererkennung führen und er quasi blind werden.

Laut den Forschern wurden mit dem Muster „moderne Systeme“ getestet, die derzeit so noch nicht auf den Straßen sind. Die Fahrzeuge, die momentan schon selbstfahrend unterwegs seien, wären daher wohl nicht betroffen.

Allerdings lassen diese sich von anderen Mustern täuschen. Denn schon vor zwei Jahren hatten Forscher demonstriert, das einfache Aufkleber verschiedene Verkehrszeichen für KI-Systeme unsichtbar machen können.

Dieser Artikel ist Teil des 1E9-Themenspecials: Fahren 2035. Wir und die Roboterautos. Alle Texte und Diskussionen und Mobilitäts-Expertinnen und -Experten aus unserer Community findest du hier!

2 Like