Instaurer la confiance dans l’IA de gestion du trafic aérien
L’intelligence artificielle (IA) simplifie toujours plus les tâches complexes et automatise entièrement les tâches banales. Dans la gestion du trafic aérien (ATM), un manque de transparence concernant les techniques d’IA telles que les réseaux neuronaux et l’apprentissage profond a de graves conséquences sur la confiance et la mise en œuvre. Le projet ARTIMATION (Transparent Artificial Intelligence and Automation to Air Traffic Management Systems), financé dans le cadre de l’entreprise commune SESAR, visant à moderniser le système ATM européen, a mis au point des algorithmes «d’lA explicable» (XAI) qui révèlent le fonctionnement de la variété grandissante de solutions AI de l’ATM. «Outre garantir la fiabilité et la fonctionnalité de l’IA pour les tâches liées à l’ATM, notre approche consiste à la rendre plus acceptable, en la rendant plus explicable», explique Shahina Begum, responsable adjointe du groupe AI and Intelligent Systems de l’université de Mälardalen. ARTIMATION a développé des algorithmes utilisant des techniques XAI pour appuyer deux tâches opérationnelles courantes: la résolution des conflits du trafic aérien (comme le déroutement des avions pour éviter les collisions) et la propagation des retards (comprendre pourquoi des vols sont retardés). «Nous avons réussi à développer des preuves de concept de modèles d’IA transparents – suffisamment génériques pour être adoptés pour une série de tâches, mais également adaptables dans le temps, apportant une aide à la décision sûre et fiable», fait remarquer le coordinateur du projet, Mobyen Uddin Ahmed, également de l’Université Mälardalen, hôte du projet.
De la preuve de concept au test in situ
Après une analyse documentaire des options d’IA pour l’ATM, l’équipe d’ARTIMATION a privilégié des algorithmes en accès libre tels que les forêts d’arbres décisionnels. En travaillant avec des experts de l’ATM dans le cadre de trois ateliers en ligne, l’équipe a personnalisé ces algorithmes. Les algorithmes modifiés ont ensuite été testés en laboratoire par des représentants de l’université de Mälardalen et du partenaire du projet, l’ENAC (École nationale de l’aviation civile). Il en est résulté un prototype XAI qui a permis aux utilisateurs de mieux comprendre les étapes menant à une décision critique, ainsi que la logique sous-jacente de ce processus. Les utilisateurs suivent les explications de l’IA à l’aide de casques intégrés à des outils de visualisation 3D, tels que la narration axée sur les données et l’analyse immersive. Les explications couvrent les trois niveaux d’automatisation développés par l’équipe. Au niveau un, les utilisateurs disposent d’un contrôle maximum; au niveau trois, c’est l’IA qui détient le contrôle. Des tests utilisateurs sont en cours dans les locaux de l’ENAC en France, explorant des scénarios simulés de résolution de conflits de trafic aérien et de propagation de retards, en collaboration avec les partenaires Deep Blue et l’Université Sapienza, tous deux en Italie. «Notre prototype a pu prédire avec précision les retards dans 90 % des cas», ajoute Mobyen Uddin Ahmed.
Des possibilités futures à l’horizon
Des tests du prototype sont prévus sur les simulateurs d’ATM de l’ENAC en France. Cette évaluation qualitative permettra de sonder plus en détail les questions d’acceptabilité, de sécurité, de rôles et de répartition des tâches. «Nous allons examiner plus en détail comment les différents niveaux de transparence et les techniques de visualisation influent sur la confiance, ainsi que sur les performances des humains et du système», explique Mobyen Uddin Ahmed. «Nous étudierons comment les utilisateurs réagissent physiologiquement et psychologiquement à l’IA, au moyen de diverses mesures neurophysiologiques.» Ces mesures permettront notamment d’évaluer la charge de travail, le stress et la tolérance de l’opérateur à différents niveaux de XAI. Shahina Begum envisage même à l’avenir des systèmes d’IA qui s’interfacent avec le cerveau humain – lisant réellement l’intention des utilisateurs afin d’accélérer le contrôle de l’opérateur – hébergés dans des environnements immersifs, tels que la réalité virtuelle. Comme la solution d’ARTIMATION suit les principes de conception de l’adaptabilité, elle pourrait être étendue à d’autres tâches d’ATM, comme la détection d’objets. Selon Shahina Begum: «La surveillance, le contrôle et l’aide à la décision automatisés pourraient même un jour déboucher sur une “tour de contrôle virtuelle ou distante” qui supprimerait le besoin de tous les actifs physiques que nous observons actuellement.» L’équipe travaille également sur des directives d’IA concernant la propagation des retards et la résolution des conflits, destinées aux contrôleurs aériens et aux communautés d’IA.
Mots‑clés
ARTIMATION, IA explicable, XAI, gestion du trafic aérien, ATM, contrôle du trafic aérien, sécurité, apprentissage automatique, réseaux neuronaux, collision, retards, algorithmes, visualisation, réalité virtuelle
