Erklärbare KI für mehr Vertrauen in Software für das Flugverkehrsmanagement
Künstliche Intelligenz (KI) wird zwar in unterstützenden Funktionen des Flugverkehrsmanagements (ATM) eingesetzt, z. B. bei der Analyse nach einem Unfall oder bei der Nachfrageprognose, aber sie ist noch nicht vollständig in den gesamten Betrieb integriert. KI eignet sich nicht für die traditionellen technischen Arbeitszyklen, die lineare Schritte mit vorhersehbaren Ergebnissen bevorzugen. Dies erschwert den nationalen Behörden insbesondere die Validierung und Zertifizierung für sicherheitskritische Funktionen. Dazu José Manuel Cordero von www.crida.es (CRIDA) (Website nur auf Spanisch): „Während KI die Leistung des Flugverkehrsmanagements verbessern kann - Erhöhung der Kapazität, Verringerung von Verspätungen und Verbesserung der Sicherheit -, sind die Fluglotsinnen und -lotsen letztlich immer noch für ihre Entscheidungen verantwortlich, sodass der Aufbau von Vertrauen eine grundlegende Voraussetzung für die Einführung von KI ist.“ Das Projekt TAPAS (Towards an Automated and exPlainable ATM System) wurde im Rahmen des gemeinsamen Unternehmens SESAR finanziert, einer öffentlich-privaten Partnerschaft, die zur Modernisierung des europäischen ATM-Systems gegründet wurde. Unter der Koordination von CRIDA wurde ermittelt, welche zusätzlichen Funktionen in KI-Systemen berücksichtigt werden sollten, um deren Akzeptanz zu erhöhen. Im Rahmen des Projekts wurden zwei Prototypen für erklärbare KI (XAI) entworfen und getestet und gleichzeitig Richtlinien für KI im Flugverkehr entwickelt.
Die „Black Box“ der KI entschlüsseln
KI-Verfahren sind für menschliches Personal oft nicht ohne weiteres verständlich. Das in sich geschlossene Design des Großteils der KI bedeutet, dass die Nutzenden in der Regel nicht verstehen, warum eine Entscheidung statt einer anderen getroffen wurde, was es erschwert, ein erfolgreiches oder fehlgeschlagenes Ergebnis rückgängig zu machen. „Wir müssen die Verständlichkeit von KI erhöhen, d. h. ihr Innenleben – ihre Regeln, Fähigkeiten und Grenzen – für potenzielle Nutzende transparenter gestalten“, fügt Cordero, TAPAS-Projektkoordinator, hinzu. Daher verwendet TAPAS XAI-Verfahren, die Entscheidungen erklären, während das System sie tatsächlich trifft. Im Rahmen des Projekts wurden zunächst die wichtigsten Kriterien identifiziert und ein Rahmen für die Verständlichkeit erstellt. Um anschließend den Detaillierungsgrad und die Bandbreite der erforderlichen Erklärungen zu kalibrieren, wurde dieser Rahmen in Echtzeitsimulationen verschiedener Szenarien integriert. Fachkräfte aus den Bereichen Fluglotsung von ENAIRE, (der spanischen Flugsicherung), Ausbildung und der Industrie testeten diese Simulationen bei CRIDA in Madrid. TAPAS erweitert die bestehenden ATM-Systeme, die mit traditionellen (deterministischen) Algorithmen arbeiten, um erweiterte KI-Funktionen. Es wurden verschiedene Automatisierungsgrade erforscht, wobei Maschinen schrittweise immer mehr Funktionen übernahmen und der Mensch mehr überwachte als bediente. „Es ist wie beim Schach: Manche Spielzüge sind selbsterklärend, manche brauchen ein wenig Erklärung, andere viel mehr. Es gibt jedoch einen Punkt, an dem ausführliche Erklärungen keinen Mehrwert bringen, weil sie zu komplex sind und die Nutzenden einfach der zugrunde liegenden Logik vertrauen müssen“, erklärt Cordero. Diese Prozesse ermöglichten es TAPAS, die XAI-Prototypen in Kombination mit der visuellen Analyse zu entwickeln, die Informationen aus der Funktionsweise der KI extrahiert und in nutzungsfreundlichen Formaten auf dem Bildschirm anzeigt. Das Projekt testete seine XAI für zwei Anwendungsfälle: nicht sicherheitskritisches Flugverkehrsfluss- und Kapazitätsmanagement und sicherheitskritische Konflikterkennung und -lösung. Diese wurden eine Woche lang mit Fluglotsinnen und -lotsen und ATC-Betriebsplattformen durchgeführt. Um verschiedene Verhaltensweisen des Systems zu untersuchen, wurden erneut verschiedene Automatisierungs- und Verkehrsstufen untersucht, auch unter schwierigen Bedingungen. „Beobachtung und Feedback zeigten eine beeindruckende Nutzungsakzeptanz. Darüber hinaus haben wir Empfehlungen in unseren allgemeinen Erklärungsrahmen aufgenommen, die uns bei zukünftigen Anwendungen helfen sollen“, bemerkt Cordero.
Bereit zum Abflug
Die von TAPAS erforschten KI-Verfahren werden im European ATM Master Plan als Schlüssel für einen höheren Automatisierungsgrad in der Luftfahrt angesehen, wodurch die Kapazität des Luftverkehrs erhöht werden kann – eine Priorität der Luftfahrtstrategie der EU. Mit den wissenschaftlichen Veröffentlichungen, die bereits auf der Projektwebseite im Ergebnisbereich zu finden sind, und einem geplanten Workshop, weist Cordero darauf hin, dass TAPAS bereit ist, seinen Beitrag zu leisten. „Unser Erklärbarkeits-Framework könnte bereits dazu beitragen, die Einführung von ‚Kapazität auf Abruf‘ als vorrangige automatisierte Anwendung voranzutreiben“, sagt er. Auch die Agentur der Europäischen Union für Flugsicherheit äußerte Interesse daran, die Ergebnisse der Projektarbeit zu höheren Automatisierungsgraden in die nächste Ausgabe ihrer KI-Leitlinien einfließen zu lassen.
Schlüsselbegriffe
TAPAS, Fluglotse, Fluglotsin, KI, transparent, sicherheitskritisch, Luftfahrt, Automatisierung, Reisen, Algorithmus
