Für eine ordentliche Teilnahme am Straßenverkehr reicht es nicht, wenn die Systeme ihre Umgebung regelgerecht interpretieren. Das zeigen Experimente, in denen Sicherheits-Forscher McAfees Teslas Assistenz-Systeme mit einem Stück Klebeband austricksten.
Menschliche Fahrer achten im besten Fall nicht nur auf ihre Umgebung, sondern sind auch in der Lage, viel weitergehende Situationen großräumig einzuschätzen. Das führt dazu, dass grobe Fehler in einer bestimmten Umgebung eher als außergewöhnliches Problem erkannt und entsprechend behandelt werden. Solch eine Feinabstimmung der Realität ist bei automatisierten Systemen eher selten anzutreffen.
Das kann zu enormen Sicherheitsproblemen führen. In dem Experiment wurde das anhand eines Tesla-Fahrzeugs demonstriert, in dem das Mobileye EyeQ3-Kamerasystem in Verbindung mit dem Bordcomputer unter anderem auch dafür zuständig ist, Verkehrsschilder zu erkennen und die Fahrassistenten mit den notwendigen Informationen zu versorgen.
Tesla-System interpretiert Verkehrsschild falsch
Stur den Regeln nach!
Auf einem Schild, das die zulässige Höchstgeschwindigkeit auf 35 Meilen pro Stunde reguliert, wurde die aufgedruckte Ziffer 3 durch ein Stück schwarzes Klebeband verändert. Vorbeifahrende Menschen würden mit sehr hoher Wahrscheinlichkeit weiterhin die richtige Zahl auf dem Schild sehen. Das Bildanalyse-System im Tesla interpretierte die Weisung des Schildes allerdings dahingehend, dass eine Höchstgeschwindigkeit von 85 Meilen pro Stunde vorgegeben wurde. Die direkte Folge bestand darin, dass der Fahrassistent begann, das Fahrzeug ordentlich zu beschleunigen.
Selbst wenn ein menschlicher Fahrer das Schild falsch interpretiert hätte, wäre ihm anhand der Umgebung sicherlich aufgefallen, dass eine solche Geschwindigkeitsbegrenzung nicht sonderlich sinnvoll ist und wohl ein Fehler vorliegen muss. Ein Computer, dem umfangreichere "Lebenserfahrungen" fehlen, kommt natürlich kaum zu solch einem Schluss. Das dürfte entsprechend auch kein Problem der Tesla-Technologie allein sein, auch wenn diese im aktuellen Fall für das Experiment genutzt wurde.
Anmelden
Für eine ordentliche Teilnahme am Straßenverkehr reicht es nicht, wenn die Systeme ihre Umgebung regelgerecht interpretieren. Das zeigen Experimente, in denen Sicherheits-Forscher McAfees Teslas Assistenz-Systeme mit einem Stück Klebeband austricksten.
Menschliche Fahrer achten im besten Fall nicht nur auf ihre Umgebung, sondern sind auch in der Lage, viel weitergehende Situationen großräumig einzuschätzen. Das führt dazu, dass grobe Fehler in einer bestimmten Umgebung eher als außergewöhnliches Problem erkannt und entsprechend behandelt werden. Solch eine Feinabstimmung der Realität ist bei automatisierten Systemen eher selten anzutreffen.
