Mit Ex-Uber-Manager am Steuer: Tesla fährt im Selbstfahrmodus gegen Wand

• Der frühere Uber-Manager Raffi Krikorian warnt vor den Risiken von KI-gestützten Fahrassistenzsystemen im Straßenverkehr.
• In einem Essay schildert er einen Unfall mit seinem Tesla, der ihm die Grenzen solcher Technologien vor Augen geführt habe.
• Demnach erlitt sein Tesla Model X im vergangenen Jahr einen Totalschaden, nachdem das Fahrzeug im „Full Self-Driving“-Modus gegen eine Wand gefahren war.

Wenn Raffi Krikorian sich zu autonomen Fahrzeugen äußert, sollte man aufmerksam zuhören: Beim Fahrdienstvermittler Uber war er früher selbst für die Entwicklung dieser Technologie verantwortlich. Was er über sein Erlebnis mit einem Tesla im Selbstfahrmodus beschreibt, klingt mehr als beunruhigend. Krikorian saß bei diesem Unfall selbst am Steuer und versuchte noch einzugreifen, als das Fahrzeug ungewöhnlich reagierte. Nach eigenen Angaben bewegte sich das Lenkrad unerwartet, zudem habe das Auto anders gebremst als erwartet. Die genauen Ursachen für das Verhalten des Systems seien unklar geblieben.

Krikorian erlitt bei dem Unfall eine Gehirnerschütterung, weitere Personen kamen nicht zu Schaden. Der Vorfall ereignete sich in San Francisco. Tesla äußerte sich dazu bislang nicht.

Autonomiefunktionen verleiten zu zu viel Vertrauen in die Technik

Für den heutigen CTO von Mozilla liegt die zentrale Erkenntnis weniger im technischen Fehler als im Umgang des Menschen mit der Technologie. Obwohl ihm die Risiken bekannt gewesen seien, habe die Leistungsfähigkeit des Systems dazu geführt, dass er ihm zu sehr vertraut habe. Es sei schwierig, innerhalb kürzester Zeit wieder die vollständige Kontrolle zu übernehmen, wenn man sich zuvor auf automatisierte Funktionen verlassen habe.

Moderne Assistenzsysteme wie „Full Self-Driving“ können zwar viele Fahrsituationen bewältigen, gelten jedoch weiterhin als fehleranfällig. Hersteller weisen daher darauf hin, dass Fahrer jederzeit aufmerksam bleiben und eingriffsbereit sein müssen. Genau hierin sieht Krikorian ein grundlegendes Problem: Systeme, die nahezu fehlerfrei arbeiten, könnten zu einem trügerischen Sicherheitsgefühl führen.

Noch viele ungelöste Probleme

Fehlfunktionen solcher Systeme sind bereits vielfach dokumentiert. Behörden untersuchen unter anderem Fälle, in denen autonome Fahrzeuge Verkehrsregeln missachteten oder Situationen falsch einschätzten. Zudem sieht sich Tesla mit mehreren Klagen im Zusammenhang mit Unfällen konfrontiert.

Auch andere Unternehmen stehen vor ähnlichen Herausforderungen. So wird etwa Fords Assistenzsystem „BlueCruise“ im Zusammenhang mit tödlichen Unfällen untersucht. Frühere Vorfälle bei Uber zeigen ebenfalls, dass neben der Technik auch menschliches Verhalten eine entscheidende Rolle spielt, insbesondere wenn Systeme einen hohen Grad an Automatisierung erreichen.