Creare fiducia nella gestione del traffico aereo trainata dall’IA
L’intelligenza artificiale (IA) semplifica sempre di più attività complesse e rende interamente automatiche quelle banali. Nel contesto della gestione del traffico aereo (ATM, Air Traffic Management), la mancanza di trasparenza in merito alle tecniche di IA, tra cui reti neurali e apprendimento profondo, ha serie conseguenze in termini di fiducia e integrazione. Il progetto ARTIMATION (Transparent Artificial Intelligence and Automation to Air Traffic Management Systems), finanziato nell’ambito del quadro dell’impresa comune SESAR, un partenariato pubblico-privato istituito per modernizzare il sistema europeo di gestione del traffico aereo, ha sviluppato algoritmi di «intelligenza artificiale spiegabile» (XAI) che svelano il funzionamento della schiera sempre più folta di soluzioni IA destinate all’ATM. «Oltre a garantire l’affidabilità e la funzionalità dell’IA per le attività di gestione del traffico aereo, il nostro approccio è proiettato a renderla più accettabile e spiegabile», afferma Shahina Begum, vicepresidente del gruppo di IA e sistemi intelligenti dell’Università di Mälardalen. ARTIMATION ha messo a punto algoritmi utilizzando tecniche XAI allo scopo di contribuire a due attività operative comuni: la risoluzione di conflitti nel traffico aereo, ad esempio mediante la deviazione degli aeromobili per evitare collisioni, e la propagazione dei ritardi (la comprensione dei motivi per i voli ritardati). «Abbiamo sviluppato con successo prove di concetto per modelli IA trasparenti, abbastanza generici da adottare per una serie di attività, nonché adattabili nel corso del tempo, fornendo un supporto alle decisioni sicuro e affidabile», osserva il coordinatore del progetto Mobyen Uddin Ahmed, anch’egli dell’Università di Mälardalen, che ospita il progetto.
Da prova di concetto al collaudo in loco
In seguito a una revisione della letteratura in materia di opzioni IA per l’ATM, il gruppo di ARTIMATION ha selezionato alcuni algoritmi ad accesso libero disponibili sul mercato, quale la foresta casuale, come soluzioni preferite. Il gruppo si è quindi occupato di personalizzarli lavorando con figure esperte di ATM in occasione di tre workshop online. Gli algoritmi ottimizzati sono stati successivamente collaudati in laboratorio da rappresentanti dell’Università di Mälardalen e dalla Scuola nazionale francese di aviazione civile (ENAC). Il risultato è stato un prototipo di XAI in grado di migliorare la comprensione degli utenti nei confronti delle fasi precedenti una decisione determinante, così come della logica di fondo che guida il processo. Gli utenti seguono le spiegazioni dell’IA mediante cuffie integrate con strumenti di visualizzazione tridimensionale, tra cui narrazioni basate sui dati e analisi immersive. Le spiegazioni abbracciano tre livelli di automazione sviluppati dal gruppo. Nel primo livello, gli utenti detengono un maggiore controllo, mentre nel terzo livello è l’IA ad averlo. È attualmente in corso presso i locali dell’ENAC, in Francia, il collaudo da parte degli utenti dedicato allo studio di scenari simulati di risoluzione dei conflitti del traffico aereo e di propagazione del ritardo, in collaborazione con i partner Deep Blue e l’Università La Sapienza, entrambe con sede in Italia. «Il nostro prototipo è riuscito a prevedere accuratamente i ritardi il 90 % delle volte», aggiunge Ahmed.
Possibilità future all’orizzonte
Sono programmate verifiche del prototipo presso i simulatori ATM dell’ENAC in Francia. Questa valutazione qualitativa approfondirà i problemi legati all’accettazione, alla sicurezza, ai ruoli e all’assegnazione dei compiti. «Scaveremo più a fondo per capire in che modo livelli diversi di trasparenza e tecniche di visualizzazione condizionano la fiducia, nonché le prestazioni delle persone e del sistema», spiega Ahmed. «Analizzeremo la modalità di risposta fisiologica e psicologica degli utenti all’IA, impiegando varie misurazioni neurofisiologiche.» Queste misure valuteranno in particolare il carico di lavoro, lo stress e l’accettazione da parte degli operatori di diversi livelli XAI. Begum prevede inoltre che in futuro ci saranno sistemi IA, ospitati in ambienti immersivi, come la realtà virtuale, capaci di interagire con il cervello umano, leggendo efficacemente l’intenzione degli utenti per accelerare il controllo dell’operatore. Poiché la soluzione di ARTIMATION segue principi di progettazione all’insegna dell’adattabilità, in futuro potrà essere introdotta in altre attività di gestione del traffico aereo, tra cui il rilevamento di oggetti. Secondo Begum: «Il monitoraggio, il controllo e il supporto alle decisioni automatizzati potrebbero un giorno persino condurre a una “torre di controllo virtuale o telecomandata”, eliminando così la necessità di qualunque risorsa fisica presente attualmente.» Al momento, il gruppo sta redigendo linee guida sull’IA relative alla propagazione dei ritardi e alla risoluzione dei conflitti, concepite per i controllori del traffico aereo e comunità di IA.
Parole chiave
ARTIMATION, IA spiegabile, XAI, gestione del traffico aereo, ATM, controllo del traffico aereo, sicurezza, apprendimento automatico, reti neurali, collisione, ritardi, algoritmi, visualizzazione, realtà virtuale
