Hoja de ruta para la tecnología de inteligencia artificial en las fuerzas de seguridad
El mundo está cambiando rápidamente, y la IA es fundamental para la transformación. Aunque la IA puede revolucionar ámbitos como la vivienda, la sanidad, el transporte y la educación, su despliegue por parte de las fuerzas de seguridad plantea problemas éticos. El proyecto ALIGNER, financiado con fondos europeos, reunió a los agentes europeos interesados en la IA y la actuación policial para debatir cómo reforzar las fuerzas de seguridad y beneficiar a los ciudadanos.
Consejos asesores y talleres
La comunicación resulta clave para los objetivos de ALIGNER, y para facilitar los debates interdisciplinarios el proyecto estableció dos consejos asesores. Una de las juntas estaba compuesta por fuerzas de seguridad, entre ellas las policías del País Vasco, Múnich y Suecia, que formaban parte de los socios del proyecto. El segundo consejo incluía expertos científicos, industriales y éticos. En conjunto, los consejos asesores representaban a más de sesenta expertos que participaban en más de treinta proyectos de investigación. El proyecto identificó cuatro ámbitos esenciales para desarrollar una hoja de ruta que aborde la tecnología de IA en las fuerzas de seguridad. Para cada tema, el equipo de ALIGNER organizó un taller con el fin de facilitar el debate entre las partes interesadas. Dos de los talleres abordaron el modo en que los delincuentes usaban las nuevas tecnologías de IA y cómo pueden utilizarlas las fuerzas de seguridad para contrarrestar esta tendencia. Un tercer taller se centró en los aspectos jurídicos y éticos del despliegue de la IA en el ámbito policial, y un último taller abordó las necesidades de mejora de las capacidades de las fuerzas de seguridad y las recomendaciones políticas.
Informar sobre el Reglamento de IA
Los talleres permitieron a ALIGNER recopilar aportaciones y comentarios de los grupos destinatarios de manera eficaz. La pertinencia e inmediatez de estos diálogos fue particularmente útil teniendo en cuenta la amplia iniciativa de la Comisión Europea para abordar el impacto de la IA en la sociedad. El equipo de ALIGNER se coordinó con otros proyectos financiados en el marco de la convocatoria H2020-SU-AI-2020, en particular popAI y Starlight. Todos estos proyectos sirven de apoyo al Reglamento de IA, un importante texto legislativo europeo. La confluencia de legislación y proyectos financiados constituyó un reto interesante y fructífero para ALIGNER. Según el coordinador del proyecto, Daniel Lückerath: «Estábamos trabajando en un proyecto cuyo objetivo era dar recomendaciones políticas y de investigación sobre IA, mientras se desarrollaba y debatía en paralelo el Reglamento de IA de la Unión Europea (UE)».
Evaluaciones y hojas de ruta
Los principales resultados de ALIGNER incluyen productos accesibles al público que ayudan a las fuerzas de seguridad, los responsables políticos y los investigadores a cumplir los objetivos relacionados con la IA. La hoja de ruta política y de investigación ofrece una visión general de las necesidades tecnológicas en materia de IA y de los retos a los que se enfrentan las fuerzas de seguridad. La hoja de ruta ofrece nueve recomendaciones políticas, como la formación específica de las fuerzas de seguridad a fin de mejorar la concienciación sobre los riesgos inherentes a los sistemas de IA. También señala diecinueve ámbitos en que es necesario seguir investigando, como la forma en que la IA puede influir en la imparcialidad y transparencia de las decisiones judiciales. Un resultado destacado del proyecto es la evaluación del impacto de ALIGNER sobre los derechos fundamentales (AFRIA, por sus siglas en inglés). Compuesto por dos plantillas complementarias que ayudan a las fuerzas de seguridad a identificar y evaluar el impacto de un sistema de IA sobre los derechos fundamentales de las personas, AFRIA contribuye a garantizar el cumplimiento del Reglamento de IA. El cumplimiento de los principios éticos por parte de la IA fue uno de los principales objetivos del equipo de ALIGNER. Como afirma Lückerath: «La IA no puede sustituir ni sustituirá la toma de decisiones humana, pero es una herramienta importante para apoyar las decisiones que toman los humanos». Con el Reglamento de IA y proyectos como ALIGNER, la UE se prepara para un futuro sin precedentes.
Palabras clave
ALIGNER, hoja de ruta, las fuerzas de seguridad, tecnología de IA, Reglamento de IA, AFRIA, evaluación ética
