Was für ein Problem gibt es nun? Der Fahrer muss eh mit auf alles achten. Und das extrem verdreckte Schilder hier von vielen Kamerasystemen nicht korrekt erkannt werden, davon ist natürlich keine Rede..
@McClane: Das Problem ist, dass der Fahrer "noch" eh mit au alles achten muss. Bald aber nicht mehr. Und bis dahin ist es nicht mehr lange hin und solche Probleme und Fehlerquellen, die teils schwer zu lösen sind, müssen bis dahin gelöst sein.
@markox: Noch... Tesla ist so weit wie kein anderer Hersteller - das wird noch etwas mehr Zeit brauchen. Dazu reden wir von eindeutig manipulierten Schildern... wie oft kommt so was vor!?
@McClane: wenn die KI das nicht lernt, wird es künftig wahrscheinlich genauso häufig vorkommen wie das Hacking der Fahrzeuge selbst - oder sogar noch öfter, weil das wirklich jeder Vollpfosten kann.
@markox: Du tust so, als gäbe es eine feste Deadline, aber umgekehrt wird ein Schuh draus: erst wenn die Probleme gelöst sind, wird der Fahrer nicht mehr drauf achten müssen.
@Rob Otter: Es ist ein Wettrennen. Die Deadline hat sich Tesla selbst gesetzt.
Gibt es da nicht auch dokumentierte Fälle von Autos in U-Bahn Schächten oder in Gewässern weil die menschlichen Fahrer*innen sich nur nach Navi gerichtet haben?
Soviel zu menschlicher Erfahrung/Interpretation...
@anyone: Wobei ich mich frage, wie das passieren kann. Glotzen die stumpf nur auf das Navi und fahren danach? Naja, viele Autofahrer sind ja sowieso total überfordert und sollten besser auf ÖPNV umsteigen. Die würden sich und vielen anderen damit einen Gefallen tun.
@anyone: Ist überhaupt nicht das Gleiche. Ist irgendwo auf der Welt 2-3 Leuten passiert, aber hier brettert es grundsätzlich jedes mal 50 zu schnell und findet dass alles prima ist.
@jackii: Ja, woher soll das Auto auch wissen, dass das Schild manipuliert wurde? Vielleicht ´ne CRC via NFC oder so anfordern? Ein menschlicher Autofahrer fällt auch darauf rein, wenn man ein 50er Schild irgendwo auf dem Land gegen ein 70er austauschen würde oder dieses mit einem entsprechenden Aufkleber überdecken würde. Online-Datenbanken dazu gibt es noch nicht in ausreichendem Maß und schon gar nicht in aktuellem Zustand. Würde es diese in zuverlässiger Form geben, könnte sich das Auto die Informationen da herausholen. Das würde aber wieder vorausetzen, dass bei jeglicher Änderung auf der Straße und sei es nur temporär (Baustellen etc.), sofort ein Update in der Datenbank erfolgt. Und selbst diese Datenbank könnte dann manipuliert werden, wenn sie nicht vernüntig abgesichert wird.
@Mordy: Volle Zustimmung. Mein Auto hat eine Anzeige für die erlaubte Geschwindigkeit, aber die ist so unzuverlässig, dass sie höchstens als kleiner Hinweis dienen kann, aber auf keinen Fall kann ich mich auf sie verlassen.
@Rob Otter: Ja, hat meins auch. Zum Glück nicht mit dem Tempomaten gekoppelt. Den Fall hatte ich letztens, als ich wegen einem Werkstattbesuch einen Passat mit Koppelung als Leihwagen bekommen hatte... bei 130 auf der Bahn hat er ein 40-Schild an der Ausfahrt (die ich nicht benutzen wollte - war auf der mittleren Spur) erkannt - was meinst du, was das Auto gemacht hat?! Kein Spaß, sowas! :D
Ist denn hier noch niemals ein Tesla vorbeigekommen, der erkannte Schilder in der Cloud ablegte, so daß Nachfolger auch bei schlechten Sichtverhältnissen wissen, was für Schilder hier standen? Diese Technologie ist uralt und wird als "Schwarmverhalten" bezeichnet. (Jeder Vogel bzw. Fisch nutzt die Infos seiner Artgenossen)
Hier ist es ja wie bei der Boing MAX, Ein Sensor liefert verkehrte Werte und der Autopilot läuft Amok...
@AWolf: Denk ich auch, dass über kurz oder lang die Verkehrsinformationen aller Straßen den Systemen der Autohersteller bekannt sein werden.
Klar müssen die trotzdem noch Schilder erkennen - allerdings wäre ja auch vorstellbar, dass in Zukunft neue/temporäre Änderungen (z.B. aufgrund von hohem Verkehrsaufkommen oder Baustellen) direkt an diese Systeme übermittelt werden müssen, damit diese das instant live aktualisieren können und somit vor Schildvandalismus nicht beeinflusst würden, da sie nur die Schilder kennen (ohne sie per Sensor lesen zu müssen), die vom Straßenverkehrsamt übermittelt wurden.
@monte: Ist das denn nicht schon so? Ich kann auf meinem Navi immer die jeweilig erlaubte Geschwindigkeit der Strasse sehen, auf der ich gerade fahre, die Daten kommen von TomTom und Google. Sollte als Programmierer doch kinderleicht sein, das mit in die Analyse einzubeziehen und bei einem Konflikt das niedrigere der beiden zu nehmen.
@AWolf: Joa nur was gilt dann, was letzte Woche andere dort gefahren sind oder was es glaubt was auf dem Schild steht.. Im Zweifel sollte ja schon das vor Ort zählen.
Und wenn einige das falsche erkennen und melden, sagt sich auch der schöne Cloudeintag, huii schön die Straße wurde ausgebaut und jetzt geht hier 85.
@AWolf: Steht sogar im "siehe auch" unten drunter: "Teslas Autopilot erfasst Schlaglöcher, um sie später zu vermeiden" und damit waren natürlich nicht nur Schlaglöcher gemeint sondern wie weit die Erfassung gehen soll um die Straßenverhältnisse zu erkennen... ;)
@AWolf: Problematisch könnte das aber sein: Angenommen, das Schild ist bei der 2. Durchfahrt nur leicht verschmutzt, dass was anderes erkannt wird. Ist das jetzt richtig erkannt, weil das Schild tatsächlich gewechselt hat oder falsch erkannt der Schmutzes wegen? Diese Beurteilung zu betrachten ist essentiell in dem Fall, finde ich schon schwierig.
@AWolf: Und was passiert, wenn ein Schild dauerhaft geändert wird, oder wegen einer Baustelle oder ähnlichem kurzzeitig? Soll das Auto dann das Schild ignorieren, weil 1000 andere Teslas zuvor doppelt so schnell dort lang gefahren sind?
Dennoch sollte nichts Schlimmeres passieren können, als dass man vielleicht geblitzt wird.
Denn die Grundregel der StVo heißt schließlich nicht, dass man so schnell fahren soll wie es laut Schild erlaubt ist, sondern dass man stets der Situation angemessen fahren soll und nur so schnell wie man auch die volle Kontrolle hat.
Selbst wenn also offiziell 100 erlaubt sind, aber man auf dem befahrenen Straßenstück das Auto mit mehr als 30 nicht mehr sicher lenken kann, dann darf man eben nur diese 30 auch fahren.
Autonome Fahrzeuge und Fahrassistenzsysteme mappen ja auch den Straßenverlauf und andere Objekte bzw Hindernisse über größere Distanzen. Wenn jetzt also auf einer sehr kurvigen Strecke oder in einer engen Gasse auf einmal ein Tempo 100 Schild kommt, sollte die andere Komponente des autonomen Systems, nämlich die erkannten Fahrbahngegebenheiten, dazu führen, dass sich das Auto selber ein Limit von z.B. nur 50 setzt.
Eben genau diese Einschätzung "wie soll man denn hier 100 fahren?", die der Artikel als Erfahrung eines menschlichen Fahrers beschreibt, muss von dem autonom fahrenden System zwingend erbracht werden. Das ist kein Extra, sondern ein Muss, damit solche Systeme jemals zugelassen werden könnten.
Wo kommt denn das Video her? Mobileye ist doch schon lange ausgeschaltet bei Tesla, oder nicht?
Also im Model 3 geht es nicht und das Model 3 erkennt auch keine Verkehrsschilder!? Die Daten werden von Google übernommen (sind natürlich auch nicht immer richtig, gerade Baustellen und so fehlen, aber auch sonst oft Fehler drin).
Also entweder ist das Video sehr alt oder ne sehr alte Firmware auf dem Tesla?! Bin leider zu doof hier ne Quelle zu sehen... ;)
Edit: Ganz nebenbei... die Überschrift ist falsch. Es müsste wenn heißen:
"Tesla: KI-Kameras können durch manipulierte Verkehrsschilder ausgetrickst werden"
oder man geht direkt aufs Ganze:
"Tesla: KI-Kameras lesen Verkehrsschilder falsch - unglaublich was dann passierte!" ;)
@Yamben: "Elon Musk hasst diesen Trick"
@Yamben: die 10 krassesten Tesla KI Fehler - Nummer 7 wird dich überraschen.
Tesla bereitet nur den großen Markteintritt in Deutschland vor. Ist hier doch Gang und Gebe, dass Schilder eher nach Erfahrung als nach Aufschrift interpretiert werden. Kennt jeder: "Baustelle? 60? Hier geht 100!", "50 in der Stadt? Ich bin mir sicher ich hab 70 gelesen!", "Parkverbot? Das sieht aus wie Parken erlaubt!"
Ich denke also alles im grünen Bereich, der Tesla (German Edition) hätte auch ohne Klebeband das ganze als 85 erkannt.
Aktuelle Navi "wissen" ja auch die Geschwindigkeiten auf den Strecken.
Wäre doch eigentlich logisch, dass die interne/Internet Strecken-Datenbank mit visuellem abgeglichen wird.
So würde ich auf jeden Fall ein System aufbauen....
@tomsan: Das "wissen" die Navis bzw. die Navi-Apps auch nur, wenn die Datenbank aktuell ist. Leider sehe ich das oft genug, dass das nicht der Fall ist - zumindest hier in Deutschland nicht. Im Ausland (NL, DK z.B.) habe ich das noch nicht beobachten können.
@Mordy:
Deswegen meine ich ja nun auch Kombi & Plausibilitätsprüfung.
Da gibt es in Deutschland genug ähnliche Situationen in denen das System Probleme kriegen dürfte. Z.B. werden hier in letzter Zeit öfter mal Ortsschilder geklaut. Da dürfte der Tesla dann teils erst Mal mit 100 in den Ort rasen. Auch bei manchen Baustellen wird mal ein Schild vergessen, zu viel hingestellt oder noch interessanter, falsch hingestellt. Also das aktuellere, temporäre Schild leicht versetzt hinter dem ersetzten Schild. Der Tesla dürfte im letzteren Fall dann erst die z.B. 30 registrieren und direkt danach die z.B. 70 und dann erst Mal mit den 70 auf die Baustelle zu fahren.
https://en.wikipedia.org/wiki/Tesla_Autopilot
-------------------
Hardware 1
Autopilot was first offered on October 9, 2014, for Tesla Model S, followed by the Model X upon its release.[6] Autopilot was included within a "Tech Package" option. At that time Autopilot features included semi-autonomous drive and parking capabilities,[7][8][9] and was not designed for self-driving.[10] Initial versions of Autopilot were developed in partnership with Israeli company Mobileye.[11] Tesla and Mobileye ended their partnership in July 2016.
--------------------
Tesla nutzt aktuell die Technik gar nicht mehr was in diesem Artikel vollkommen fehlt.
Es sind quasi nur die alten Model S und X betroffen. Ab AP2.0 sind tesla eigene systeme drin wo die Verkehrszecihenerkennung quasi nicht funktioniert.
Mhm ... ein KI Computer macht Fehler weil ein Mensch bewust Maniporiert... Finden den Fehler.
Ich sage Fehler 40
Wenn (warum auch immer) auf dem Schild 85 steht und nicht 35, kann der arme Tesla nichts dafür...
Und ich denke da grundsätzlich nicht mit sondern halte mich an das was das Schild zeigt. Wenn ich mitdenke würde, könnte ich auf einer leeren Autobahn auch 180 km/h fahren auch wenn da idiotischerweise (und absolut nicht nachvollziehbar) 100 km/h steht...
Somit - das was auf den Zeichen steht gilt.
Besonders schön wenn mal wieder ein Trottel auf die Idee kommt ein 30er Schild 10 Meter VOR ein 50er Schild zu stellen wegen einer Baustelle an der kein Mensch arbeitet.
Dann gilt logischerweise trotzdem das 50er Schild - klar war das nicht so gedacht aber dann muss man eben die Beschilderung richtig machen.
Ich bin nicht dazu da mit Gedanken zu machen ob das was auf dem Schild steht auch stimmt. (OK - ich mache mir insofern Gedanken ob es für mich sicher ist auch diese Geschwindigkeit zu fahren...)
Wenn ich mitdenken dürfte würde ich mich auch nicht eine knappe Minute um 2 Uhr nachts vor eine rote Ampeln stellen wenn 300 Meter weit kein Auto zu sehen ist...
schilder sind doch eh nur für den menschen da - wenn man selbstfahrende autos hat, braucht man keine mehr - da kann man das dann einfach digital regeln...
Das Problem lässt sich relativ einfach beheben. Das Auto scannt das Schild und vergleicht es mit Schildern, die als Drahtmodell und Metainformationen in einer Datenbank gespeichert sind.
Eine Fehlinterpretation kann nicht mehr passieren.
Anmelden