Intelligenza artificiale spiegabile per aumentare la fiducia in un software di gestione del traffico aereo
Nonostante venga utilizzata nelle funzioni di supporto alla gestione del traffico aereo (ATM), quali l’analisi successiva a un incidente o la previsione della domanda, l’intelligenza artificiale (IA) non è stata ancora pienamente integrata a livello operativo. L’IA non è adatta ai tradizionali cicli di lavoro di ingegneria, per i quali sono preferibili passaggi lineari con esiti prevedibili. Ciò rende particolarmente difficile la convalida e la certificazione delle funzioni critiche in termini di sicurezza da parte delle autorità nazionali. Secondo José Manuel Cordero, attivo presso www.crida.es (CRIDA) (sito web solo in lingua spagnola): «Pur essendo in grado di migliorare le prestazioni ATM (incrementando la capacità, riducendo i ritardi ed elevando il livello di sicurezza), affinché l’IA venga adottata rimane di fondamentale importanza la costruzione di fiducia, poiché in definitiva i controllori restano responsabili delle proprie decisioni». Il progetto TAPAS (Towards an Automated and exPlainable ATM System) è stato finanziato nell’ambito dell’Impresa comune SESAR, un partenariato pubblico-privato istituito per modernizzare il sistema ATM europeo. Con il coordinamento di CRIDA, il progetto ha individuato le caratteristiche aggiuntive che dovevano essere prese in considerazione nei sistemi di IA al fine di migliorarne il livello di accettazione. Il progetto ha concepito e collaudato due prototipi di IA spiegabile, sviluppando al tempo stesso l’intelligenza artificiale nelle linee guida ATM.
Decifrare la «scatola nera» dell’intelligenza artificiale
Spesso, le tecniche di IA non sono immediatamente comprensibili per gli operatori. La progettazione autonoma di gran parte dell’IA implica che di solito gli utenti non capiscono perché sia stata presa una decisione anziché un’altra, rendendo difficile sottoporre a ingegneria inversa un esito positivo o negativo. «Dobbiamo aumentare l’intelligibilità dell’IA, ovvero renderne più trasparenti le operazioni interne (regole, abilità e limiti) agli occhi dei potenziali utenti», aggiunge Cordero, coordinatore del progetto TAPAS. Perciò TAPAS ha impiegato le tecniche di IA spiegabile che illustrano le decisioni mentre il sistema le sta concretamente attuando. In primo luogo, il progetto ha individuato i criteri chiave, realizzando un quadro di intelligibilità, per poi calibrare il dettaglio e la gamma di spiegazioni richieste: questo quadro è stato integrato nelle simulazioni in tempo reale dei vari scenari. I controllori del traffico aereo di ENAIRE (il fornitore spagnolo di servizi di navigazione aerea), i formatori e i rappresentanti dell’industria hanno verificato queste simulazioni presso CRIDA, a Madrid. TAPAS ha aggiunto caratteristiche potenziate di IA ai sistemi ATM esistenti eseguiti negli algoritmi tradizionali (deterministici). Sono stati esaminati livelli diversi di automazione, con una progressiva acquisizione di ulteriori funzioni da parte delle macchine e con gli esseri umani sempre più addetti al controllo che alle fasi operative. «È come una partita a scacchi: alcune mosse si spiegano da sole, alcune richiedono qualche spiegazione, altre invece molte di più. Ma si giunge a un punto in cui tali spiegazioni esaustive non aggiungono valore a causa della loro eccessiva complessità e gli utenti devono semplicemente fidarsi della logica sottostante», spiega Cordero. Questi processi hanno consentito a TAPAS di sviluppare i suoi prototipi di IA spiegabile abbinati all’analisi visiva, che estrae informazioni dal funzionamento dell’IA e le visualizza sullo schermo in formati intuitivi. Il progetto ha testato la propria IA spiegabile in due casi d’uso: il flusso di traffico aereo e la gestione delle capacità non critici in termini di sicurezza; e il rilevamento e la risoluzione dei conflitti critici sotto il profilo della sicurezza. Questi casi sono stati condotti per una settimana con i controllori e le piattaforme operative di controllo del traffico aereo. Al fine di esaminare una gamma di comportamenti del sistema, sono stati riesaminati vari livelli di automazione e traffico, anche nel corso di condizioni impegnative. «L’osservazione e i riscontri hanno indicato un impressionante livello di accettazione da parte degli utenti. Inoltre, nel nostro quadro generale di intelligibilità abbiamo incluso raccomandazioni a supporto delle future applicazioni della guida», osserva Cordero.
Pronto al decollo
Le tecniche di IA esaminate da TAPAS vengono valutate dai principali facilitatori del piano direttivo ATM europeo dei livelli superiori di automazione dell’aviazione, promettendo di incrementare la capacità dei viaggi aerei: una priorità della strategia di aviazione europea. Con i documenti scientifici disponibili nella sezione Esiti del sito web del progetto e un workshop in cantiere, Cordero sottolinea che TAPAS è pronto per iniziare a dare il suo contributo. «Il nostro quadro di intelligibilità potrebbe già contribuire a incentivare l’adozione della “capacità su richiesta”, ad esempio, come applicazione automatizzata prioritaria», afferma. Inoltre, l’Agenzia dell’Unione europea per la sicurezza aerea ha espresso il proprio interesse a integrare i risultati del progetto a livelli di automazione più elevati nella prossima edizione delle linee guida IA.
Parole chiave
TAPAS, controllore del traffico aereo, IA, trasparente, critico in termini di sicurezza, aviazione, automazione, viaggio, algoritmo
