03.06.2022
KI-Forschung
Schreckhafte autonome Autos
Autor: Wolfgang Kempkens, pte
UCI.edu/Ziwen Wan
Bereits Kisten, Fahrräder, Mülleimer und Verkehrskegel am Straßenrand können bei autonomen Fahrzeugen einen abrupten Stopp auslösen – mit Folgen für die allgemeine Verkehrssicherheit.
Kisten, Fahrräder, Mülleimer und Verkehrskegel können ein fahrerloses Fahrzeug abrupt stoppen, sodass der nachfolgende Verkehr gefährdet wird. Zudem wird so die Lieferung von Passagieren und Gütern beeinträchtigt, sagt Informatiker Qi Alfred Chen von der University of California, Irvine. Fahrzeuge könnten nicht zwischen Objekten unterscheiden, die sich rein zufällig auf der Straße befinden, und solchen, die absichtlich platziert werden.
Software oft zu konservativ
Chen und sein Team haben sich in ihrer Untersuchung auf Sicherheitslücken fokussiert, die für das Planungsmodul spezifisch sind, einen Teil des Software-Codes, der autonome Fahrsysteme steuert. Diese Komponente überwacht die Entscheidungsprozesse des Fahrzeugs, die unter anderem bestimmen, wann es fährt, die Spur wechselt oder langsamer wird und anhält. "Dieses Planungsmodul ist logischerweise mit einer Fülle von Vorsichtsmaßnahmen konzipiert, weil niemand will, dass fahrerlose Fahrzeuge außer Kontrolle geraten", sagt Chens Doktorand Ziwen Wan. "Aber unsere Tests haben ergeben, dass die Software übermäßig konservativ entscheiden kann." Dies könne dazu führen, dass ein Auto zu einem Verkehrshindernis oder Schlimmerem wird.
Um das Problem näher zu ergründen, hat das Team ein Testwerkzeug namens "PlanFuzz" entwickelt. Es erkennt Schwachstellen in weitverbreiteten automatisierten Fahrsystemen automatisch. Wie in Videodemonstrationen gezeigt, hat das Team PlanFuzz genutzt, um drei verschiedene Reaktionen der Open-Source-Systeme "Apollo" und "Autoware" für autonomes Fahren auf Industrieniveau zu bewerten. Sie fanden heraus, dass Pappkartons und Fahrräder, die am Straßenrand platziert waren, dazu führten, dass Fahrzeuge auf leeren Durchgangsstraßen und Kreuzungen dauerhaft anhielten. In einem weiteren Test wechselten autonom fahrende Autos die Spur, wenn sie eine imaginäre Bedrohung wahrnahmen.
Verkehrsfluss wird behindert
"Autonome Fahrzeuge waren an tödlichen Kollisionen beteiligt, die Unternehmen wie Uber und Tesla großen finanziellen und Reputationsschaden zugefügt haben, sodass wir verstehen können, warum Hersteller und Dienstleister zur Vorsicht neigen", sagt Chen und fügt hinzu: "Aber das übermäßig konservative Verhalten, das viele autonome Fahrsystemen zeigen, stört den reibungslosen Verkehrsfluss und die Verkehrssicherheit."
Sponsored Post
Amazon Connect und GenAI – Superpower für den Kundenservice
Unternehmen benötigen Cloud-, Digital- und KI-Technologien, um die Customer Experience (CX) zu optimieren. SoftwareOne und AWS helfen Unternehmen, Kunden proaktiv individuell zugeschnittene Erlebnisse zu bieten. So wächst die Kundenbindung über alle Kanäle hinweg und fördert gleichzeitig die Leistungsfähigkeit und das Engagement der Mitarbeiter.
>>
Swisscom
Neue Cyberbedrohungen auf dem Radar
Der neue Cyber Security Threat Radar von Swisscom zeigt die Angriffsmethoden und das Vorgehen von Cyberkriminellen. Er beleuchtet neu auch die Entwicklungen in den Bereichen "Disinformation & Destabilisation", "Manipulated Generative AI" und "Unsecure IoT/OT-Devices".
>>
Künstliche Intelligenz
Memary - Langzeitgedächtnis für autonome Agenten
Das Hauptziel ist es, autonomen Agenten die Möglichkeit zu geben, ihr Wissen über einen längeren Zeitraum hinweg zu speichern und abzurufen.
>>
Cloud Infrastructure
Oracle mit neuen KI-Funktionen für Sales, Marketing und Kundenservice
Neue KI-Funktionen in Oracle Cloud CX sollen Marketingspezialisten, Verkäufern und Servicemitarbeitern helfen, die Kundenzufriedenheit zu verbessern, die Produktivität zu steigern und die Geschäftszyklen zu beschleunigen.
>>