Une feuille de route pour la technologie de l’IA dans les services de maintien de l’ordre
Le monde évolue rapidement et l’intelligence artificielle (IA) est au cœur de cette transformation. Si l’IA est capable de révolutionner des domaines tels que le logement, les soins de santé, les transports et l’éducation, le déploiement de l’IA par les agences de détection et de répression (ADR) soulève des questions éthiques. Le projet ALIGNER, financé par l’UE, a rassemblé des acteurs européens concernés par l’IA et les services de police afin de discuter de la manière de renforcer le maintien de l’ordre et d’en faire bénéficier le public.
Comités consultatifs et ateliers
La communication est essentielle pour atteindre les objectifs d’ALIGNER, et pour faciliter les discussions interdisciplinaires, le projet a mis en place deux comités consultatifs. L’un des comités était composé d’ADR, dont les forces de police basques, munichoises et suédoises, qui figuraient parmi les partenaires du projet. Le second conseil comprenait des experts scientifiques, industriels et éthiques. Au total, les comités consultatifs représentaient plus de 60 experts impliqués dans plus de 30 projets de recherche. Le projet a identifié quatre domaines essentiels à l’élaboration d’une feuille de route pour aborder la technologie de l’IA dans le domaine du maintien de l’ordre. Pour chaque thème, ALIGNER a organisé un atelier afin de faciliter la discussion entre les parties prenantes. Deux des ateliers ont porté sur la manière dont les criminels utilisent les technologies d’IA émergentes et sur la manière dont l’IA peut être utilisée par les ADR pour contrer cette tendance. Un troisième atelier s’est concentré sur les questions juridiques et éthiques liées au déploiement de l’IA dans les services de police, et un dernier atelier s’est penché sur les besoins de renforcement des capacités des ADR et sur les recommandations politiques.
Informer la loi sur l’IA
Les ateliers ont permis à ALIGNER d’obtenir des informations et des réactions de la part des groupes cibles de manière efficace. La pertinence et l’immédiateté de ces dialogues ont été particulièrement utiles compte tenu de la vaste initiative de la Commission européenne visant à traiter l’impact de l’IA sur la société. ALIGNER s’est coordonné avec d’autres projets financés dans le cadre de l’appel H2020-SU-AI-2020, en particulier popAI et Starlight. Tous ces projets servent à soutenir la Loi sur l’IA de l’UE, un élément majeur de la législation européenne. Cette confluence entre la législation et les projets financés a constitué un défi intéressant et fructueux pour ALIGNER. Selon le coordinateur du projet, Daniel Lückerath, «nous travaillions sur un projet dont l’objectif était de formuler des recommandations en matière de politique et de recherche sur l’IA, alors que la loi européenne sur l’IA était en cours d’élaboration et de discussion en parallèle».
Feuilles de route et évaluations
Les principaux résultats d’ALIGNER comprennent des produits accessibles au public qui aident les ADR, les décideurs politiques et les chercheurs à atteindre les objectifs liés à l’IA. La feuille de route en matière de politique et de recherche donne une vue d’ensemble des besoins et des défis en matière de technologie de l’IA auxquels sont confrontées les ADR. La feuille de route contient neuf recommandations politiques, telles que la formation spécifique des agents chargés du maintien de l’ordre afin de les sensibiliser aux risques inhérents aux systèmes d’IA. Le document identifie également 19 domaines dans lesquels des recherches supplémentaires sont nécessaires, par exemple pour étudier l’impact de l’IA sur l’équité et la transparence des décisions judiciaires. Un résultat notable du projet est l’évaluation d’impact des droits fondamentaux d’ALIGNER (AFRIA). Composé de deux modèles complémentaires qui aident les ADR à identifier et à évaluer l’impact d’un système d’IA sur les droits fondamentaux des individus, l’AFRIA contribue à assurer la conformité avec la loi sur l’IA. La conformité de l’IA avec les principes éthiques a été l’un des principaux objectifs d’ALIGNER. Comme l’explique Daniel Lückerath: «L’IA ne peut pas remplacer et ne remplacera pas la prise de décision humaine, mais c’est un outil important pour soutenir les décisions prises par les humains». Avec la loi sur l’IA et des projets comme ALIGNER, l’UE se prépare à un avenir sans précédent qui se rapproche rapidement.
Mots‑clés
ALIGNER, feuille de route, maintien de l’ordre, technologie de l’IA, loi sur l’IA, AFRIA, évaluation éthique
