Autonomes Fahren
03.06.2022
KI-Forschung

Schreckhafte autonome Autos

UCI.edu/Ziwen Wan
Bereits Kisten, Fahrräder, Mülleimer und Verkehrskegel am Straßenrand können bei autonomen Fahrzeugen einen abrupten Stopp auslösen – mit Folgen für die allgemeine Verkehrssicherheit.
Kisten, Fahrräder, Mülleimer und Verkehrskegel können ein fahrerloses Fahrzeug abrupt stoppen, sodass der nachfolgende Verkehr gefährdet wird. Zudem wird so die Lieferung von Passagieren und Gütern beeinträchtigt, sagt Informatiker Qi Alfred Chen von der University of California, Irvine. Fahrzeuge könnten nicht zwischen Objekten unterscheiden, die sich rein zufällig auf der Straße befinden, und solchen, die absichtlich platziert werden.

Software oft zu konservativ

Chen und sein Team haben sich in ihrer Untersuchung auf Sicherheitslücken fokussiert, die für das Planungsmodul spezifisch sind, einen Teil des Software-Codes, der autonome Fahrsysteme steuert. Diese Komponente überwacht die Entscheidungsprozesse des Fahrzeugs, die unter anderem bestimmen, wann es fährt, die Spur wechselt oder langsamer wird und anhält. "Dieses Planungsmodul ist logischerweise mit einer Fülle von Vorsichtsmaßnahmen konzipiert, weil niemand will, dass fahrerlose Fahrzeuge außer Kontrolle geraten", sagt Chens Doktorand Ziwen Wan. "Aber unsere Tests haben ergeben, dass die Software übermäßig konservativ entscheiden kann." Dies könne dazu führen, dass ein Auto zu einem Verkehrshindernis oder Schlimmerem wird.
Um das Problem näher zu ergründen, hat das Team ein Testwerkzeug namens "PlanFuzz" entwickelt. Es erkennt Schwachstellen in weitverbreiteten automatisierten Fahrsystemen automatisch. Wie in Videodemonstrationen gezeigt, hat das Team PlanFuzz genutzt, um drei verschiedene Reaktionen der Open-Source-Systeme "Apollo" und "Autoware" für autonomes Fahren auf Industrieniveau zu bewerten. Sie fanden heraus, dass Pappkartons und Fahrräder, die am Straßenrand platziert waren, dazu führten, dass Fahrzeuge auf leeren Durchgangsstraßen und Kreuzungen dauerhaft anhielten. In einem weiteren Test wechselten autonom fahrende Autos die Spur, wenn sie eine imaginäre Bedrohung wahrnahmen.

Verkehrsfluss wird behindert

"Autonome Fahrzeuge waren an tödlichen Kollisionen beteiligt, die Unternehmen wie Uber und Tesla großen finanziellen und Reputationsschaden zugefügt haben, sodass wir verstehen können, warum Hersteller und Dienstleister zur Vorsicht neigen", sagt Chen und fügt hinzu: "Aber das übermäßig konservative Verhalten, das viele autonome Fahrsystemen zeigen, stört den reibungslosen Verkehrsfluss und die Verkehrssicherheit."