Aufbau von Vertrauen in KI beim Flugverkehrsmanagement
Künstliche Intelligenz (KI) vereinfacht zunehmend komplexe Aufgaben und automatisiert alltägliche Aufgaben vollständig. Im Flugverkehrsmanagement hat die mangelnde Transparenz von KI-Methoden wie neuronalen Netzen und Deep Learning gravierende Folgen für das Vertrauen und die Umsetzung. Das Projekt ARTIMATION (Transparent Artificial Intelligence and Automation to Air Traffic Management Systems), das im Rahmen des gemeinsamen Unternehmens SESAR zur Modernisierung des europäischen Flugverkehrsmanagementsystems finanziert wird, hat „erklärbare künstliche Intelligenz“ (XAI-Algorithmen) entwickelt, mit denen die Funktionsweise der immer größer werdenden Palette von KI-Lösungen im Flugverkehrsmanagement offengelegt wird. „Unser Ansatz besteht nicht nur darin, die Zuverlässigkeit und Funktionalität der KI für die Aufgaben des Flugverkehrsmanagements zu gewährleisten, sondern auch darin, sie akzeptabler zu gestalten, indem wir sie verständlicher machen“, sagt Shahina Begum, stellvertretende Leiterin der Gruppe AI and Intelligent Systems der Hochschule Mälardalen. ARTIMATION hat Algorithmen entwickelt, die XAI-Techniken nutzen, um zwei häufige betriebliche Aufgaben zu unterstützen: die Lösung von Konflikten im Luftverkehr (beispielsweise die Umleitung von Flugzeugen zur Vermeidung von Kollisionen) und Fortpflanzungseffekte von Verspätungen (Verständnis der Gründe für verspätete Flüge). „Wir haben erfolgreich transparente KI-Modelle entwickelt, die generisch genug sind, um für eine Vielzahl von Aufgaben eingesetzt zu werden, und die im Laufe der Zeit angepasst werden können, um eine sichere und zuverlässige Entscheidungshilfe zu bieten“, so der Projektkoordinator Mobyen Uddin Ahmed, ebenfalls von der Hochschule Mälardalen, an der das Projekt angesiedelt ist.
Vom Konzeptnachweis zum praktischen Test
Nach einer Literaturstudie über KI-Optionen für den Flugverkehr wählte das ARTIMATION-Team frei zugängliche Algorithmen wie den Zufallswald als bevorzugte Lösungen aus. In drei Online-Workshops arbeitete das Team mit Fachleuten aus der Flugsicherungsbranche zusammen und passte die Algorithmen an. Die überarbeiteten Algorithmen wurden dann von Forschenden der Hochschule Mälardalen und Fachleuten des Projektpartners, der Französischen Hochschule für Zivilluftfahrt (ENAC), im Labor getestet. Das Ergebnis war ein XAI-Prototyp, der das Verständnis der Nutzenden für die Phasen, die zu einer kritischen Entscheidung führen, sowie für die zugrunde liegende Logik dieses Prozesses verbessert. Mit Hilfe von Headsets, die mit 3D-Visualisierungstools wie datengesteuertem Storytelling und immersiver Analytik ausgestattet sind, folgen die Nutzergruppen den KI-Erklärungen. Die Erklärungen decken die drei vom Team entwickelten Automatisierungsstufen ab. In der ersten Stufe haben die Nutzergruppen die meiste Kontrolle, in der dritten Stufe übernimmt dies die KI. Derzeit werden in den Räumlichkeiten der ENAC in Frankreich in Kooperation mit den italienischen Partnern Deep Blue und Universität Sapienza Tests durchgeführt, bei denen simulierte Szenarien zur Lösung von Konflikten im Luftverkehr und zur Ausbreitung von Verspätungen untersucht werden. „Unser Prototyp war in der Lage, Verspätungen in 90 % der Fälle genau vorherzusagen“, fügt Ahmed hinzu.
Zukünftige Möglichkeiten am Horizont
Es sind Tests des Prototyps in den Flugsimulatoren des ENAC in Frankreich geplant. Bei dieser qualitativen Bewertung werden Fragen der Akzeptanz, der Sicherheit, der Rollen und der Aufgabenverteilung eingehender untersucht. „Wir werden uns eingehender damit befassen, wie sich unterschiedliche Transparenzgrade und Visualisierungstechniken auf das Vertrauen sowie auf die Leistung von Mensch und System auswirken“, erklärt Ahmed. „Wir werden untersuchen, wie Menschen physiologisch und psychologisch auf KI reagieren, indem wir verschiedene neurophysiologische Messungen durchführen.“ Diese Messungen werden insbesondere die Arbeitsbelastung, den Stress und die Akzeptanz verschiedener XAI-Niveaus durch den Menschen bewerten. Begum kann sich für die Zukunft sogar KI-Systeme vorstellen, die sich mit dem menschlichen Gehirn verbinden und die Absichten der Menschen lesen, um die Bedienung zu beschleunigen, und die in immersiven Umgebungen wie der virtuellen Realität eingesetzt werden. Da die Lösung von ARTIMATION den Grundsätzen der Anpassungsfähigkeit folgt, könnte sie auf weitere Aufgaben des Flugverkehrsmanagements, wie beispielsweise die Objekterkennung, ausgeweitet werden. Dazu Begum: „Die automatisierte Überwachung, Steuerung und Entscheidungsunterstützung könnte sogar eines Tages zu einem ‚virtuellen oder ferngesteuerten Turm‘ führen, der die Notwendigkeit von physischen Anlagen, wie wir sie heute sehen, beseitigt.“ Das Team arbeitet derzeit auch an KI-Richtlinien für die Ausbreitung von Verspätungen und die Konfliktlösung, die sich an die Fluglotsung und KI-Gemeinschaften richten.
Schlüsselbegriffe
ARTIMATION, erklärbare KI, XAI, Flugverkehrsmanagement, ATM, Flugverkehrskontrolle, Sicherheit, maschinelles Lernen, neuronale Netze, Kollision, Verspätungen, Algorithmen, Visualisierung, virtuelle Realität
