Tesla bereitet sich auf seinen ersten Versuch mit Autopilot-Todesfällen vor

In den letzten mehr als einem Jahrzehnt waren autonome Fahrzeuge (AVs) ein großes Thema in der Automobilindustrie und sorgten weltweit für Schlagzeilen und Fantasie. Diese Erzählung nimmt immer mehr Gestalt an und wird von der Geschichte zur Realität. Das Insurance Institute for Highway Safety (IIHS) prognostiziert, dass bis 2025 3,5 Millionen selbstfahrende Autos auf US-Straßen unterwegs sein werden.

Allerdings haben selbstfahrende Autos neben Milliardeninvestitionen und unzähligen Stunden an Entwicklung und Forschung auch neue Fragen zu Sicherheit und Schutz in der Branche aufgeworfen. Da immer mehr AVs für den privaten und öffentlichen Gebrauch auf die Straße kommen, werden diese Fragen zur persönlichen und sogar nationalen Sicherheit immer relevanter – und immer dringlicher.

Im Januar 2023 sprach FBI-Direktor Christopher Wray bei der Diskussion über Technologie und nationale Sicherheit des Weltwirtschaftsforums in Davos, Schweiz, über die potenziellen Bedrohungen, die von selbstfahrenden Autos ausgehen. Er erwähnte, dass AVs als Werkzeuge zur Schädigung von Menschen und als Quelle wertvoller und gefährdeter personenbezogener Daten eingesetzt werden könnten.

„Wenn man über autonome Fahrzeuge spricht, ist das natürlich etwas, worüber wir uns wie alle anderen freuen“, sagte Wray. „Aber es gibt Schäden, vor denen wir uns schützen müssen und die nicht nur offensichtlich sind.“

Wray beschrieb selbstfahrende Autos als potenzielle neue „Angriffsfläche“ für Terroristen, um Zivilisten Schaden zuzufügen. Er verwies auf die aktuelle Invasion Russlands in der Ukraine und erörterte, wie Online-Überwachungsaktivitäten ein frühes Anzeichen für einen bevorstehenden Versuch von Cyberangriffen sein können. Er erwähnte auch, dass das FBI und andere Behörden einen Anstieg der digitalen Überwachungsaktivitäten durch externe Akteure in den USA festgestellt hätten.

„Wir befürchten zunehmend, dass die Überwachungsaktivitäten – das Scannen, die Forschung, alle vorbereitenden Aktivitäten – ein Hinweis auf etwas Ernsthafteres sein könnten“, sagte Wray.

Der FBI-Direktor sprach auch über die Möglichkeit einer böswilligen Nutzung personenbezogener Daten, die von selbstfahrenden Fahrzeugen gesammelt werden.

„Eine andere Art von Schaden, über den wir uns Sorgen machen, ist die enorme Datenmenge, die beispielsweise autonome Fahrzeuge sammeln“, sagte Wray. „Und jedes Mal, wenn man viele, viele sensible Daten zusammenfasst, ist das ein sehr verlockendes Ziel.“

Wrays Aussagen in Davos sind nicht nur theoretisch. Es gibt bereits Beispiele aus der Praxis, wie anfällig selbstfahrende Autos sein können. In seinen Kommentaren verwies Wray auf eine Geschichte über eine einfache Art und Weise, wie Forscher einen automatisierten Tesla austricksen konnten.

„Ich denke an eine Geschichte, die ich vor nicht allzu langer Zeit gehört habe, über die Forscher, die den Algorithmus eines selbstfahrenden Autos austricksen konnten, indem sie im Wesentlichen ein Stück schwarzes Klebeband über ein Stoppschild klebten“, sagte er der Jury. „Dadurch beschleunigte das Auto, etwa 50 Meilen pro Stunde oder so.“

Die Details der Geschichte, auf die sich Wray bezog, unterscheiden sich geringfügig von seiner Anekdote, aber die darin geäußerten Bedenken sind dieselben.

Im Jahr 2020 verwendeten Forscher von McAfee ein Stück Klebeband, um ein Tempolimitschild von 35 Meilen pro Stunde auf 85 Meilen pro Stunde zu ändern. Das Team berichtete, dass dies dazu führte, dass der Tempomat des Tesla automatisch auf 50 Meilen pro Stunde beschleunigte.

Die Forscher verwendeten für ihren Test ein Tesla Model S und Model X aus dem Jahr 2016. Tesla sagte, dass spätere Modelle nicht die gleiche Schwachstelle aufwiesen, die einer von Mobileye entwickelten Kamera zugeschrieben wurde. Unabhängig davon hat das Team von McAfee nur eine der Möglichkeiten aufgezeigt, wie AVs manipuliert werden können.

Auch wenn Ingenieure bei Tesla und anderen Autoherstellern, die AV-Geräte herstellen, die von McAfee-Forschern aufgedeckte spezifische Schwachstelle behoben haben, gibt es noch andere potenzielle Bedrohungen. Eines der größten Risiken sind Cyberangriffe durch Hacker.

Im Jahr 2015 demonstrierten zwei Cybersicherheitsexperten, wie sich jemand in ein Fahrzeug hacken und aus der Ferne die Kontrolle darüber übernehmen konnte. Chris Valasek und Charlie Miller, damals Direktor für Fahrzeugsicherheitsforschung bei IOActive und Sicherheitsforscher bei Twitter, konnten sich in einen Jeep Cherokee hacken und dessen Radio und andere Funktionen steuern. Andy Greenberg, ein Reporter von Wired, fuhr das Auto so, wie es unter der Kontrolle von Valasek und Miller war, und schrieb über seine Erfahrungen.

„Obwohl ich das Armaturenbrett nicht berührt hatte, begannen die Lüftungsschlitze im Jeep Cherokee bei maximaler Einstellung kalte Luft auszuströmen und kühlten den Schweiß auf meinem Rücken durch das eingebaute Klimatisierungssystem“, schrieb Greenberg. „Als nächstes schaltete das Radio auf den örtlichen Hip-Hop-Sender um und begann Skee-lo in voller Lautstärke zu dröhnen. Ich drehte den Bedienknopf nach links und drückte den Einschaltknopf, ohne Erfolg. Dann schalteten sich die Scheibenwischer ein und Wischerflüssigkeit verwischte die Scheibe ."

Nachdem sie einige der elektronischen Funktionen des Fahrzeugs kontrolliert hatten, gingen Valasek und Miller zu einem ernsteren Unterfangen über und unterbrachen das Getriebe des Jeeps während der Fahrt.

„Mein Beschleuniger funktionierte sofort nicht mehr“, schrieb Greenberg. „Während ich hektisch auf das Pedal drückte und zusah, wie die Drehzahl anstieg, verlor der Jeep die Hälfte seiner Geschwindigkeit und verlangsamte sich dann auf Kriechgeschwindigkeit. Dies geschah gerade, als ich eine lange Überführung erreichte, an der es keinen Seitenstreifen gab, der einen Ausweg bot. Das Experiment hatte aufgehört zu existieren Spaß."

Obwohl diese Demonstration in einer kontrollierten Umgebung stattfand, lieferte sie den Beweis, dass zunehmend vernetzte Autos hackbar sind. Es bot auch einen Einblick, wie schwerwiegend die Folgen eines solchen Hacks sein könnten.

Bemerkenswert ist, dass es sich bei dem von Valasek und Miller gehackten Jeep Cherokee nicht um ein selbstfahrendes Auto handelte. In einem Interview mit Automoblog sagte der Sicherheitsingenieur und Softwareentwickler Zac Morris, dass die zunehmende Abhängigkeit von elektronisch gesteuerten Komponenten ein Risiko für alle Fahrzeuge mit sich bringe, nicht nur für autonome.

„Nicht selbstfahrende Autos werden höchstwahrscheinlich auf die gleiche Weise angreifbar sein wie selbstfahrende Autos“, sagte Morris. „Heutzutage sind die meisten Autos Drive-by-Wire. Das Rad und die Pedale sind nicht wirklich über Hardware mit den Rädern, Bremsen und dem Gashebel verbunden. Stattdessen laufen sie über die elektronische Steuereinheit, die alles, was Sie eingeben, in Kombination mit Funktionen moduliert.“ wird anhand der Fahrerassistenzfunktionen des Fahrzeugs berechnet. Dazu gehören Dinge wie Lenkunterstützung und Sicherheitsfunktionen wie Rutschschutz und Antiblockierbremsen.“

Aber auch wenn nicht autonome Autos einem Hackerrisiko ausgesetzt sind, vermutete Morris, dass die Natur selbstfahrender Fahrzeuge und die sie umgebenden technologischen Entwicklungen die Auswirkungen eines Hacks verschlimmern könnten.

„Mein Auto verfügt zum Beispiel über eine grundlegende KI für den Spurassistenten“, sagte er. „Aber mein Auto hat auch ein Lenkrad. Selbst wenn es den Spurassistenten ausführt, achte ich zumindest größtenteils darauf. Wenn das Auto also versucht, mich mit 80 Meilen pro Stunde in den Mittelwert zu bringen, Es ist wahrscheinlicher, dass ich es erwische, bevor es mich umbringt. Tesla will den Autos die Lenkräder entziehen.“

Morris sagte, dass AVs zwar nicht von Natur aus mehr oder weniger hackbar seien als nicht selbstfahrende Autos, Fahrer von AVs jedoch möglicherweise weniger in der Lage seien, einem Cyberangriff auf der Straße zu begegnen.

„Man kann einfach nicht viel tun, um es zu stoppen, wenn jede Eingabe, die man als ‚Fahrer‘ das Auto steuern muss, über das Steuergerät erfolgt, das manipuliert wird“, sagte er. „Das Fehlen jeglicher Rücksichtnahme auf Eingaben seitens des Fahrers bedeutet, dass es einfacher ist, einen tatsächlichen Schaden herbeizuführen.“

In seiner Ansprache erwähnte der FBI-Direktor auch Sicherheitsbedenken hinsichtlich personenbezogener Daten. Allerdings ist Wray nicht der einzige Regierungsbeamte, der diese Bedenken geäußert hat.

Im September 2021 gründete das Repräsentantenhaus den Vehicle Data Access Caucus, einen überparteilichen Ausschuss, der sich mit Fragen zu Fahrerdaten befasst. Damals äußerte sich der Abgeordnete Earl „Buddy“ Carter (R-GA), der die Bildung des Caucus ankündigte, in einer Pressemitteilung zum Zweck der Gruppe.

„Wir müssen sicherstellen, dass Benutzer Zugriff auf die von [Datensammlern] gesammelten Daten haben und dass die Informationen vor böswilligen Akteuren im In- und Ausland geschützt werden“, sagte Carter. „Datenschutz, Sicherheit und Innovation sollten Hand in Hand gehen.“

Ein Schwerpunkt des Gremiums sind Telematikprogramme, mit denen Versicherungen das Fahrerverhalten überwachen und Prämien anpassen können. Diese Programme erfassen Fahrverhalten wie Geschwindigkeit, Bremsen und sogar Bewegungen des Fahrers im Fahrzeug und melden sie an private Versicherungsgesellschaften. Morris sagte jedoch, dass der Zuwachs an Technologie in Autos auch Anlass zu Bedenken hinsichtlich des Datenschutzes gebe.

„Moderne Autos haben überall Kameras und Mikrofone, innen und außen“, sagte er. „Sie verfügen auch über eine Fülle anderer Datenquellen.“

Tesla-Fahrzeuge der aktuellen Generation verfügen beispielsweise über insgesamt neun Kameras – acht außen und eine innen. Diese Kameras unterstützen die Autopilot-Funktionen der Fahrzeuge, indem sie ständig ihre Umgebung überwachen und Abstände zwischen Objekten, Geschwindigkeit, Bewegung und andere Variablen messen. Sie können auch Unfälle und andere Verkehrsereignisse aufzeichnen, um den Vorfall zu dokumentieren.

Die Kameras laufen jedoch weiter, wenn die Fahrzeuge ausgeschaltet und unbesetzt sind. Dadurch können sie eine Überwachungsfunktion übernehmen, vorgeblich als Diebstahl- und Vandalismusschutz.

Doch im April 2023 berichtete Reuters, dass Tesla-Mitarbeiter Videos untereinander und manchmal auch mit Personen außerhalb des Unternehmens geteilt hätten. In der Datenschutzerklärung des Unternehmens heißt es: „Kameraaufzeichnungen bleiben anonym und werden nicht mit Ihnen oder Ihrem Fahrzeug in Verbindung gebracht.“ Allerdings enthalten Videos auch Standortdaten, die es Personen mit Zugang ermöglichen, genau zu bestimmen, wo ein Fahrzeug zum Zeitpunkt der Aufnahme geparkt war – häufig bei einer Person zu Hause.

Tesla gab an, nur mit Zustimmung des Besitzers Videos erhalten zu haben und keine Videos von inaktiven Autos mehr zu erhalten. Reuters berichtete jedoch über Kommentare von Tesla-Mitarbeitern, denen zufolge sie in den erhaltenen Videos private Räume wie das Innere der Garage einer Person sehen konnten, was die Möglichkeit eines Missbrauchs verdeutlichte.

Selbstfahrende Autos benötigen Funktionen wie Kameras und Light Detection and Ranging (LiDAR), um sich sicher in ihrer Umgebung zurechtzufinden. Doch dabei generieren sie riesige Datenmengen über Fahrer im Fahrzeug und die Welt um es herum. Was schlechte Akteure möglicherweise mit diesen Daten anfangen könnten, ist immer noch Gegenstand von Spekulationen, aber Morris sagte, dass das Thema der Automobildatenerfassung für viele noch nicht vollständig berücksichtigt sei.

„Wir entwickeln eine riesige Anzahl von Überwachungsdrohnen auf Rädern, für deren Besitz wir Geld bezahlen“, sagte er.

Trotz Bedenken hinsichtlich Sicherheitsrisiken und Datenschutz im Zusammenhang mit autonomen Fahrzeugen und Automatisierungsfunktionen in anderen Autos treiben Forscher und Ingenieure ihre Entwicklung im privaten und öffentlichen Sektor weiterhin voran. Ein Forscherteam am College of Engineering der North Carolina A&T University erwartet beispielsweise, im Herbst ein automatisiertes Shuttle-Pilotprogramm zu starten. Im Juni wurde berichtet, dass das Google-Spinoff Waymo und andere AV-Unternehmen die Genehmigung der Stadtverwaltung von San Francisco einholen, um Flotten selbstfahrender Taxis auf den Markt zu bringen.

Es ist klar, dass diese Bedenken den Fortschritt der AV-Entwicklung nicht verlangsamen. Doch Wrays Äußerungen in Davos deuten darauf hin, dass die Themen Sicherheitsrisiken im Zusammenhang mit selbstfahrenden Autos und Datenschutz auf dem Radar der Regierung stehen. Der FBI-Direktor äußerte ähnliche Ansichten über die Notwendigkeit, Innovation und Sicherheit in Einklang zu bringen, wie Rep. Carter, als er den Vehicle Data Access Caucus gründete.

Es bleibt abzuwarten, ob Regierungsbehörden, die sich mit Sicherheits- und Datenschutzproblemen rund um selbstfahrende Autos befassen, versuchen werden, diese Probleme durch Regulierung und andere Maßnahmen zu lösen. Morris sagte, dass er davon überzeugt sei, dass sie im privaten und öffentlichen Sektor noch nicht angemessen angegangen würden. Er sagte jedoch, er glaube immer noch, dass selbstfahrende Autos immer noch das Potenzial hätten, von Vorteil zu sein und die Straßen weniger gefährlich zu machen.

„Die Befürworter selbstfahrender Autos haben Recht, wenn sie sagen, dass Autos sicherer werden, wenn sie Stufe vier der selbstfahrenden Entwicklung erreichen“, sagte Morris. „Wenn man darüber nachdenkt, ist es irgendwie verrückt, dass wir Menschen 3500-Pfund-Maschinen steuern lassen, die 140 Meilen pro Stunde fahren können.“

Diese Geschichte wurde von Automoblog produziert und von Stacker Media überprüft und vertrieben.

Tesla wird sich zum ersten Mal vor Gericht gegen die Behauptungen verteidigen, dass ein Versagen des Autopilot-Fahrassistenten zum Tod geführt habe. Dies wird wahrscheinlich ein großer Test für die Behauptungen von Vorstandsvorsitzender Elon Musk über die Technologie sein.

Die Fähigkeit zum autonomen Fahren sei von zentraler Bedeutung für die finanzielle Zukunft von Tesla, so Musk, dessen eigener Ruf als führender Ingenieur in einer von zwei Klagen mit Behauptungen der Kläger in Frage gestellt wird, dass er persönlich die Gruppe hinter der gescheiterten Technologie leitet. Erfolge von Tesla könnten das Vertrauen und den Umsatz der Software steigern, die bis zu 15.000 US-Dollar pro Fahrzeug kostet.

Tesla steht kurz hintereinander vor zwei Prüfungen, weitere werden folgen.

Bei der ersten, die Mitte September vor einem kalifornischen Staatsgericht angesetzt ist, handelt es sich um eine Zivilklage mit Vorwürfen, das Autopilot-System habe dazu geführt, dass das Model 3 des Besitzers Micah Lee plötzlich mit 65 Meilen pro Stunde von einer Autobahn östlich von Los Angeles abkam und gegen eine Palme prallte und ging innerhalb von Sekunden in Flammen auf.

Bei dem Unfall im Jahr 2019, über den bisher nicht berichtet wurde, kam Lee ums Leben und seine beiden Passagiere wurden schwer verletzt, darunter ein damals achtjähriger Junge, dem der Bauch aufgeschlitzt wurde. Die von den Passagieren und Lees Nachlass gegen Tesla eingereichte Klage wirft Tesla vor, beim Verkauf des Autos gewusst zu haben, dass der Autopilot und andere Sicherheitssysteme defekt waren.

Der zweite Prozess, der für Anfang Oktober vor einem Gericht des US-Bundesstaates Florida angesetzt ist, ging auf einen Unfall im Jahr 2019 nördlich von Miami zurück, bei dem das Modell 3 des Besitzers Stephen Banner unter den Anhänger eines 18-rädrigen Großlastwagens fuhr, der auf die Straße geriet und abscherte Das Dach des Tesla und das Tötungsbanner. Der Autopilot habe es versäumt, zu bremsen, zu lenken oder irgendetwas zu unternehmen, um die Kollision zu vermeiden, heißt es in der Klage von Banners Frau.

Tesla lehnte die Haftung für beide Unfälle ab, machte einen Fahrerfehler verantwortlich und sagte, der Autopilot sei sicher, wenn er von Menschen überwacht werde. Tesla sagte in Gerichtsunterlagen, dass Autofahrer auf die Straße achten und die Hände am Lenkrad behalten müssen.

„Heute sind keine selbstfahrenden Autos mehr unterwegs“, sagte das Unternehmen.

Das Zivilverfahren wird wahrscheinlich neue Beweise dafür liefern, was Musk und andere Unternehmensvertreter über die Fähigkeiten von Autopilot wussten – und über mögliche Mängel. Banners Anwälte argumentieren beispielsweise in einem vorgerichtlichen Verfahren, dass interne E-Mails zeigten, dass Musk der „de facto Anführer“ des Autopilot-Teams sei.

Tesla und Musk antworteten nicht auf die E-Mail-Fragen von Reuters zu diesem Artikel, aber Musk machte keinen Hehl aus seiner Beteiligung an der Softwareentwicklung für selbstfahrendes Fahren und twitterte häufig über seine Testfahrten mit einem Tesla, der mit der Software „Full Self-Driving“ ausgestattet war . Er hat jahrelang versprochen, dass Tesla die Fähigkeit zum autonomen Fahren erreichen würde, nur um seine eigenen Ziele zu verfehlen.

Tesla gewann im April in Los Angeles einen bahnbrechenden Prozess mit der Strategie, den Fahrern mitzuteilen, dass ihre Technologie trotz der Namen „Autopilot“ und „Full Self-Driving“ menschliche Überwachung erfordert. In dem Fall ging es um einen Unfall, bei dem ein Model S auf den Bordstein geriet und seinen Fahrer verletzte. Die Geschworenen teilten Reuters nach der Urteilsverkündung mit, dass sie glaubten, Tesla habe die Fahrer vor seinem System gewarnt und sei auf die Ablenkung des Fahrers zurückzuführen.

Bei den Versuchen im September und Oktober, dem ersten einer Serie rund um Autopilot in diesem und im nächsten Jahr, steht für Tesla viel mehr auf dem Spiel, weil Menschen starben.

„Wenn Tesla in diesen Fällen viele Siege erringen kann, denke ich, dass sie in anderen Fällen günstigere Vergleiche erhalten werden“, sagte Matthew Wansley, ehemaliger General Counsel von nuTonomy, einem Startup für automatisiertes Fahren und außerordentlicher Professor für Rechtswissenschaften Cardozo School of Law.

Andererseits könnte „ein großer Verlust für Tesla – insbesondere mit einem hohen Schadensersatz“ „die zukünftige Geschichte dramatisch beeinflussen“, sagte Bryant Walker Smith, Juraprofessor an der University of South Carolina.

In Gerichtsakten argumentierte das Unternehmen, dass Lee Alkohol konsumiert habe, bevor er sich ans Steuer setzte, und dass nicht klar sei, ob der Autopilot zum Zeitpunkt des Unfalls eingeschaltet war.

Jonathan Michaels, ein Anwalt der Kläger, lehnte es ab, sich zu Teslas konkreten Argumenten zu äußern, sagte jedoch: „Wir sind uns der falschen Behauptungen von Tesla, einschließlich ihrer beschämenden Versuche, den Opfern die Schuld an ihrem bekanntermaßen defekten Autopilotsystem zuzuschieben, vollkommen bewusst.“

Im Fall Florida reichten Banners Anwälte ebenfalls einen Antrag ein, in dem sie geltend machten, dass Strafschadenersatz gerechtfertigt sei. Die Anwälte haben mehrere Tesla-Führungskräfte abgesetzt und interne Dokumente des Unternehmens erhalten, die ihrer Meinung nach zeigen, dass Musk und die Ingenieure sich der Mängel bewusst waren und diese nicht behoben haben.

In einer Aussage bezeugte der frühere Geschäftsführer Christopher Moore, dass es beim Autopiloten Einschränkungen gebe, und sagte, er sei „nicht darauf ausgelegt, jede mögliche Gefahr oder jedes mögliche Hindernis oder Fahrzeug zu erkennen, das sich auf der Straße befinden könnte“, heißt es in einer von Reuters überprüften Abschrift.

Im Jahr 2016, einige Monate nach einem tödlichen Unfall, bei dem ein Tesla mit einem Sattelschlepper zusammenprallte, teilte Musk Reportern mit, dass der Autohersteller den Autopiloten mit verbesserten Radarsensoren aktualisiere, die den Todesfall wahrscheinlich verhindert hätten.

Aber Adam (Nicklas) Gustafsson, ein Tesla-Autopilot-Systemingenieur, der beide Unfälle in Florida untersuchte, sagte, dass in den fast drei Jahren zwischen diesem Unfall im Jahr 2016 und dem Unfall von Banner keine Änderungen an den Systemen des Autopiloten vorgenommen wurden, um Querverkehr zu berücksichtigen Gerichtsdokumente, die von den Anwälten der Kläger eingereicht wurden.

Die Anwälte versuchten, Musk die Schuld für die mangelnde Veränderung zu geben. „Elon Musk hat Probleme mit dem nicht ordnungsgemäß funktionierenden Tesla-Autopilotsystem eingeräumt“, heißt es in den Unterlagen der Kläger. Der ebenfalls abgesetzte frühere Autopilot-Ingenieur Richard Baverstock erklärte den Unterlagen zufolge, dass „fast alles“, was er bei Tesla getan habe, auf Wunsch von „Elon“ geschehen sei.

Tesla reichte am späten Mittwoch vor Gericht einen Eilantrag ein, um die Aussageprotokolle seiner Mitarbeiter und andere Dokumente geheim zu halten. Banners Anwalt, Lake „Trey“ Lytal III, sagte, er werde den Antrag ablehnen.

„Das Tolle an unserem Justizsystem ist, dass Milliarden-Dollar-Unternehmen Geheimnisse nur so lange für sich behalten können“, schrieb er in einer SMS.

Tesla kündigte die Veröffentlichung seiner Beta-Software für „vollständig selbstfahrende“ Autos für eine kleine Gruppe von Tesla-Besitzern an.

Derzeit in Kennewick

Leider gibt es keine aktuellen Ergebnisse für beliebte kommentierte Artikel.

Melden Sie sich an, um aktuelle Nachrichten, Wettervorhersagen und mehr in Ihrem E-Mail-Posteingang zu erhalten.

Jetzt registrieren