Descrizione del progetto
Un nuovo sistema intelligente per supportare i controllori del traffico aereo
Una maggiore automazione dell’intelligenza artificiale e dell’apprendimento automatico consente migliori prestazioni, risultati, efficienza nella risoluzione dei problemi, sicurezza e controllo dei processi. Tuttavia, la tecnologia che sostituisce l’attività umana potrebbe creare problemi quando i suoi processi non sono comprensibili per l’uomo. Il progetto MAHALO, finanziato dall’UE, mira a progettare un sistema spiegabile automatizzato basato su intelligenza artificiale, apprendimento automatico e apprendimento neuronale profondo per la risoluzione dei problemi tra equipaggi e controllori del traffico aereo. Formata dal singolo operatore, la macchina sarà in grado di informare lo stesso in merito a ciò che ha appreso. Questo aumenterà capacità, prestazioni e sicurezza. In particolare, MAHALO esaminerà l’impatto della trasparenza (quanto l’IA è in grado di spiegare perché ha preso una decisione specifica) e della conformità (quanto la decisione presa dall’IA è simile a quella che un controllore sceglierebbe). Il progetto sarà valutato in simulazioni in tempo reale per difficoltà di traffico, fiducia, accettazione e comprensione del controllore. La struttura di MAHALO servirà da modello per i futuri sistemi di intelligenza artificiale.
Obiettivo
MAHALO asks a simple but profound question: in the emerging age of Machine Learning (ML), should we be developing automation that matches human behavior (i.e. conformal), or automation that is understandable to the human (i.e. transparent)? Further, what tradeoffs exist, in terms of controller trust, acceptance, and performance? To answer these questions, MAHALO will:
• Develop an individually-tuned ML system comprised of layered deep learning and reinforcement models, trained on controller performance (context-specific solutions), strategies (eye tracking), and physiological data, which learns to solve ATC conflicts;
• Couple this to an enhanced en-route CD&R prototype display to present machine rationale with regards to ML output;
• Evaluate in realtime simulations the relative impact of ML conformance, transparency, and traffic complexity, on controller understanding, trust, acceptance, workload, and performance; and
• Define a framework to guide design of future AI systems, including guidance on the effects of conformance, transparency, complexity, and non-nominal conditions.
Building on the collective experience within the team, past research, and recent advances in the areas of ML and ecological interface design (EID), MAHALO will take a bold step forward: to create a system that learns from the individual operator, but also provides the operator insight into what the machine has learnt. Several models will be trained and evaluated to reflect a continuum from individually-matched to group-average. Most recent work in areas of automation transparency, Explainable AI (XAI) and ML interpretability will be explored to afford understanding of ML advisories. The user interface will present ML outputs, in terms of: current and future (what-if) traffic patterns; intended resolution maneuvers; and rule-based rationale. The project’s output will add knowledge and design principles on how AI and transparency can be used to improve ATM performance, capacity, and safety.
Campo scientifico
Parole chiave
Programma(i)
Meccanismo di finanziamento
RIA - Research and Innovation actionCoordinatore
00185 Roma
Italia
L’organizzazione si è definita una PMI (piccola e media impresa) al momento della firma dell’accordo di sovvenzione.