Une IA explicable pour améliorer la confiance dans les logiciels de gestion du trafic aérien
L’intelligence artificielle (IA) est déjà utilisée dans les fonctions de support de la gestion du trafic aérien (ATM), comme l’analyse post-incident ou la prévision de la demande, mais elle n’est pas encore entièrement intégrée dans toutes les opérations. L’IA ne s’intègre pas aux cycles de travail d’ingénierie traditionnels, qui privilégient les étapes linéaires avec des résultats prévisibles. Pour les autorités nationales, cela complique particulièrement la validation et la certification des fonctions critiques pour la sécurité. Selon José Manuel Cordero, de www.crida.es (CRIDA) (site Web en espagnol uniquement): «Même si l’IA peut améliorer les performances de l’ATM, notamment en augmentant la capacité, en réduisant les retards et en améliorant la sécurité, comme les contrôleurs sont responsables en dernier ressort de leurs décisions, il est indispensable d’instaurer la confiance pour adopter l’IA définitivement.» Le projet TAPAS (Towards an Automated and exPlainable ATM System) a été financé au sein de l’entreprise commune SESAR, un partenariat public-privé mis en place pour moderniser le système ATM européen. Coordonnée par CRIDA, l’initiative a identifié les fonctionnalités supplémentaires à prendre en compte dans les systèmes d’IA pour accroître leur acceptation. Le projet a conçu et testé deux prototypes d’IA explicable (XAI), tout en développant également des directives sur l’IA dans l’ATM.
Ouvrir la «boîte noire» de l’IA
Les techniques d’IA ne sont pas souvent facile à comprendre pour les opérateurs humains. La conception autonome de la plupart des IA signifie que leurs utilisateurs ne comprennent généralement pas pourquoi une décision a été prise plutôt qu’une autre, ce qui complique la rétro-ingénierie d’un résultat, qu’il soit réussi ou raté. «Nous devons accroître l’explicabilité de l’IA, c’est-à-dire rendre son fonctionnement interne – ses règles, ses capacités et ses limites – plus transparent pour les utilisateurs potentiels», ajoute José Manuel Cordero, coordinateur du projet TAPAS. TAPAS a donc utilisé des techniques XAI qui expliquent les décisions au moment où le système les prend réellement. Le projet a d’abord identifié des critères clés, en élaborant un cadre d’explicabilité. Ce cadre a été intégré dans des simulations en temps réel de divers scénarios pour ensuite calibrer le détail et la gamme d’explications requises. Des contrôleurs aériens de ENAIRE (le fournisseur espagnol de services de navigation aérienne), des formateurs et des représentants de l’industrie ont testé ces simulations au CRIDA à Madrid. TAPAS a ajouté des fonctionnalités d’IA améliorées aux systèmes ATM existants fonctionnant sur des algorithmes traditionnels (déterministes). Différents niveaux d’automatisation ont été explorés, les machines prenant progressivement davantage de fonctions et les humains devenant plus moniteurs qu’opérateurs. «C’est comme aux échecs: certaines tactiques s’expliquent d’eux-mêmes, certaines nécessitent une petite explication, d’autres beaucoup plus. Mais il y a un moment où les explications exhaustives n’ajoutent plus de valeur: devenues trop complexes, les utilisateurs doivent simplement se fier à la logique sous-jacente», explique José Manuel Cordero. Ces processus ont permis à TAPAS de développer ses prototypes XAI combinés à des analyses visuelles, qui extraient des informations du fonctionnement de l’IA et les affichent à l’écran dans des formats conviviaux. Le projet a testé leur XAI dans deux cas d’utilisation: la gestion des flux et de la capacité du trafic aérien non critique pour la sécurité, et la détection et la résolution des conflits critiques pour la sécurité. Ces tests ont été menés auprès des contrôleurs aériens et des plateformes opérationnelles de contrôle du trafic aérien pendant une semaine. Pour explorer une gamme de comportements du système, différents niveaux d’automatisation et de trafic ont de nouveau été explorés, notamment dans des conditions difficiles. «L’observation et les commentaires ont indiqué une acceptation impressionnante des utilisateurs. Nous avons également inclus des recommandations dans notre cadre général d’explicabilité pour aider à guider les futures applications», remarque José Manuel Cordero.
Paré au décollage
Les techniques d’IA explorées par TAPAS sont considérées par le Plan directeur ATM européen comme des catalyseurs clés de niveaux d’automatisation de l’aviation plus élevés, promettant d’augmenter la capacité de transport aérien – une priorité pour la stratégie de l’aviation de l’UE. Avec des articles scientifiques déjà disponibles dans la section Résultats du site Web du projet et un atelier en préparation, José Manuel Cordero souligne que TAPAS est prêt à commencer à apporter sa contribution. «Notre cadre d’explicabilité pourrait déjà contribuer à stimuler l’adoption de la "capacité à la demande", par exemple, en tant qu’application automatisée prioritaire», dit-il. L’agence de la sécurité aérienne de l’Union européenne a également exprimé son intérêt à intégrer les résultats des travaux du projet sur des niveaux d’automatisation plus élevés dans la prochaine édition de leurs directives sur l’IA.
Mots‑clés
TAPAS, contrôleur aérien, IA, transparent, critique pour la sécurité, aviation, automatisation, voyage, algorithme
