Selbstfahrende Technologien brauchen nutzungsfreundliche KI
Bei den selbstfahrenden Technologien gibt es dank künstlicher Intelligenz, die riesige Datenmengen verarbeiten kann, um sichere und effiziente Fahrentscheidungen zu treffen, rasante Fortschritte zu verzeichnen. Die Bedenken der Bürgerinnen und Bürger diesbezüglich, wie oder warum KI-Systeme diese Entscheidungen treffen, müssen jedoch ausgeräumt werden, wenn die großräumige Einführung automatisierter Fahrzeuge von Erfolg gekrönt sein soll. „Wenn wir Auto fahren, wissen wir, warum wir in eine bestimmte Richtung lenken, die Spur wechseln oder bremsen“, sagt die Koordinatorin des Projekts AIthena, Oihana Otaegui von Vicomtech in Spanien. „Aber wenn wir in einem automatisierten Auto sitzen, ist es möglich, dass wir nicht ganz verstehen, was vor sich geht. Die KI ist wie eine Blackbox: Informationen gehen hinein, und eine Entscheidung kommt heraus.“
Verantwortlich per Design
Mithilfe des Projekts AIthena sollte diese Blackbox geknackt werden, damit Menschen in automatisierten Fahrzeugen, aber auch Autobahnbehörden und Verkehrsmanagement verstehen können, warum Fahrentscheidungen getroffen werden. Zu diesem Zweck hat das Projektteam einen neuen Ansatz zur Entwicklung nutzungsfreundlicher KI in vernetzten, kooperativen und automatisierten Mobilitätsanwendungen (CCAM) erarbeitet. „Unsere Methodik soll Hilfestellung dabei leisten, dass KI-Systeme für Endnutzende erklärbar sind und den europäischen Verordnungen wie der Datenverordnung und der Verordnung über künstliche Intelligenz im vollen Umfang entsprechen“, fügt Otaegui hinzu. Der Projektansatz umfasst die KI-Entwicklung über vier Schlüsselphasen: Datenerfassung, Ausbildung, Erprobungen und Einsatz. Ein Schlüsselelement ist die Dokumentation der wichtigsten Details, wozu der vorgesehene Verwendungszweck, ethische Überlegungen und Leistungskennzahlen zählen. „Wir haben außerdem Methoden entwickelt, um sensible Daten zu schützen und gleichzeitig die KI-Leistung aufrechtzuerhalten“, fährt Otaegui fort. „Zu diesen Methoden zählen die Privatsphäre schützende Verfahren wie homomorphe Verschlüsselung und föderales Lernen, mit denen KI trainierbar ist, ohne die Rohdaten direkt offenzulegen.“
Besserer KI den Weg bereiten
Diese Methodik bildet die Grundlage für die weitere Verfeinerung der KI in automatisierten Fahrzeugen und wird im letzten Projektjahr innerhalb von vier praktischen Anwendungsfällen erprobt. In der ersten dieser Fallstudien steht im Mittelpunkt, wie KI-Systeme Rohdaten von beispielsweise Kameras, Lidar- und Ultraschallsensoren wahrnehmen und verarbeiten. Im Zuge einer zweiten Fallstudie wird untersucht, wie Informationen von verschiedenen Sensoren eingebunden werden können, um Situationsbewusstsein zu schaffen. Das Projektteam ist daran interessiert, zu verstehen, wie die KI die Fahrumgebung interpretiert und Faktoren wie das Verhalten anderer am Verkehr Teilnehmender einbezieht. „Anhand des dritten Anwendungsfalls werden Entscheidungsfindungsprozesse in autonomen Fahrsystemen untersucht, wobei das Verständnis der Gründe für KI-gesteuerte Entscheidungen den Schwerpunkt bildet“, merkt Otaegui an. „Das Ziel besteht darin, die Transparenz und das Vertrauen in die KI zu erhöhen, indem erklärt wird, warum bestimmte Fahrentscheidungen getroffen werden. Dieser Anwendungsfall betont die Erklärbarkeit und die Ausrichtung an ethischen Grundsätzen.“ Mithilfe eines letzten Anwendungsfalls werden KI-gestützte Verkehrsmanagementsysteme untersucht, wobei es hauptsächlich darum geht, wie automatisierte Fahrzeuge mit größeren Verkehrsnetzen interagieren. Als Ziel gilt, die Funktion der KI bei der Gewährleistung eines reibungslosen Verkehrsflusses, einer effizienten Ressourcennutzung und einer kooperativen Mobilität zu verstehen und zu optimieren.
Eine nachhaltige KI-Landschaft
Diese Fallstudien werden anhand von realen Fahrsituationen sowie von Simulationen komplexerer und potenziell gefährlicher Szenarien bewertet. Das Team wird beurteilen, wie die KI die Umgebung wahrnimmt, Fahrsituationen versteht und kommuniziert, Entscheidungen trifft und innerhalb größerer Verkehrsmanagementsystemen funktioniert. „Wenn wir nachweisen können, dass unsere Methodik ein gangbarer Weg ist, um vertrauenswürdige KI für CCAM-Anwendungen zu entwickeln, könnte dies die Grundlage für zukünftige Projekte bilden“, erklärt Otaegui. „Wir hoffen, dass die Arbeit von AIthena durch die Konzentration auf Erklärbarkeit, Datenschutz und Verantwortlichkeit dazu beitragen wird, zu gewährleisten, dass KI-Technologien transparent, ethisch vertretbar und menschenzentriert sind. Im Endeffekt wird damit zu einer vertrauenswürdigeren und nachhaltigen KI-Landschaft für den autonomen Verkehr beigetragen.“
Schlüsselbegriffe
AIthena, CCAM, vernetzte, kooperative und automatisierte Mobilität, Fahrzeug, KI, künstliche Intelligenz, Mobilität, Lidar, Verkehr, Transport, Erklärbarkeit, vertrauenswürdig