Les technologies de conduite autonome ont besoin d’une IA conviviale
Les technologies de conduite autonome ont connu de rapides avancées grâce à l’intelligence artificielle (IA), qui peut traiter des quantités massives de données pour prendre des décisions de conduite sûres et efficaces. Néanmoins, les préoccupations des citoyens concernant la manière dont les systèmes d’IA prennent ces décisions ou concernant les raisons qui les motivent doivent être prises en compte dans le cadre du déploiement à grande échelle des véhicules automatisés. «Lorsque nous conduisons une voiture, nous savons pourquoi nous nous dirigeons dans telle ou telle direction, pourquoi nous changeons de voie ou pourquoi nous freinons», explique Oihana Otaegui, coordinatrice du projet AIthena, de Vicomtech en Espagne. «Mais lorsque nous sommes dans une voiture automatisée, il est possible que nous ne comprenions pas totalement ce qui se passe. L’IA est comme une boîte noire, des informations y entrent et une décision en sort.»
Responsabilité intégrée dès la conception
Le projet AIthena a voulu ouvrir cette boîte noire, de sorte que les occupants de ces véhicules automatisés, mais aussi les autorités routières et les gestionnaires de la circulation, comprennent les raisons qui sous-tendent les décisions de conduite. Pour ce faire, l’équipe du projet a développé une nouvelle approche pour la conception d’une IA conviviale dans les applications de mobilité connectée, coopérative et automatisée (CCAM). «Notre méthodologie devrait contribuer à garantir que les systèmes d’IA sont explicables aux utilisateurs finaux et entièrement conformes aux réglementations européennes telles que le règlement sur les données et le règlement sur l’IA», ajoute Oihana Otaegui. L’approche du projet couvre les quatre phases clés du développement de l’IA: la collecte de données, l’entraînement, les tests et le déploiement. La documentation des détails essentiels tels que l’utilisation prévue, les considérations éthiques et les mesures de performance constitue un élément clé. «Nous avons également développé des méthodes permettant de protéger les données sensibles tout en maintenant les performances de l’IA», poursuit Oihana Otaegui. «Il s’agissait notamment de techniques de préservation de la vie privée telles que le chiffrement homomorphe et l’apprentissage fédéré, qui permettent d’entraîner l’IA sans exposer directement les données brutes.»
Améliorer l’IA
Cette méthodologie servira de base à l’amélioration de l’IA dans les véhicules automatisés et sera testée dans quatre cas d’utilisation pratiques au cours de la dernière année du projet. La première de ces études de cas portera sur la manière dont les systèmes d’IA perçoivent et traitent les données brutes provenant de capteurs tels que les caméras, les lidars et les ultrasons. Une deuxième étude de cas examinera l’intégration des informations provenant de différents capteurs afin de créer une perception complète de l’environnement. L’équipe du projet entend appréhender la manière dont l’IA interprète l’environnement de conduite et prend en compte des facteurs tels que le comportement des autres usagers de la route. «Le troisième cas d’utilisation explorera les processus de prise de décision dans les systèmes de conduite autonome, avec une attention particulière sur les raisons qui sous-tendent les décisions guidées par l’IA», souligne Oihana Otaegui. «L’objectif est de renforcer la transparence et la confiance dans l’IA en expliquant pourquoi décisions de conduite spécifiques sont prises. Ce cas d’utilisation met en avant l’explicabilité et l’alignement sur les principes éthiques.» Un dernier cas d’utilisation étudiera les systèmes de gestion du trafic pilotés par l’IA, et principalement l’interaction des véhicules automatisés avec les réseaux de transport au sens large. L’objectif est de comprendre et d’optimiser le rôle de l’IA dans la fluidité du trafic, l’utilisation efficace des ressources et la mobilité coopérative.
Un écosystème IA durable
Ces études de cas seront menées en diverses situations de conduite réelles, et dans des simulations de scénarios plus complexes et potentiellement dangereux. L’équipe évaluera la manière dont l’IA perçoit l’environnement, comprend et communique les situations de conduite, prend des décisions et s’intègre aux systèmes plus larges de gestion du trafic. «Si nous parvenons à démontrer que notre méthodologie constitue un moyen viable de développer une IA fiable pour les applications de CCAM, celle-ci pourrait servir de référence pour de futurs projets», explique Oihana Otaegui. «En mettant l’accent sur l’explicabilité, le respect de la vie privée et la responsabilité, nous espérons qu’AIthena contribuera à garantir que les technologies de l’IA sont transparentes, éthiques et centrées sur l’humain. À terme, cela contribuera à un écosystème IA plus fiable et plus durable pour le transport autonome.»
Mots‑clés
AIthena, CCAM, mobilité connectée, coopérative et automatisée, véhicule, IA, intelligence artificielle, mobilité, Lidar, transport, explicabilité, fiable, IA