Las tecnologías de conducción autónoma necesitan una inteligencia artificial sencilla
Las tecnologías de conducción autónoma han experimentado rápidos avances gracias a la IA, que puede procesar cantidades masivas de datos para tomar decisiones de conducción seguras y eficientes. Sin embargo, para que el despliegue generalizado de los vehículos automatizados tenga éxito, resulta necesario abordar las preocupaciones de los ciudadanos sobre cómo o por qué los sistemas de IA toman estas decisiones. «Cuando conducimos un coche, sabemos por qué giramos en una dirección determinada, cambiamos de carril o frenamos», explica la coordinadora del proyecto AIthena, Oihana Otaegui, de Vicomtech (España). «Sin embargo, cuando estamos en un coche automatizado, es posible que no entendamos del todo lo que está pasando. La IA es como una caja negra: entra información y sale una decisión».
Responsabilidad desde el diseño
El proyecto AIthena pretendía abrir esta caja negra para que los usuarios de vehículos automatizados, así como las autoridades viarias y los gestores de tráfico, comprendieran los motivos por los que se toman las decisiones al volante. Para lograrlo, el equipo del proyecto ha sido pionero en un nuevo método para desarrollar una IA sencilla en aplicaciones de movilidad conectada, cooperativa y automatizada (CCAM, por su siglas en inglés). «Nuestra metodología debería ayudar a garantizar que los sistemas de IA sean explicables a los usuarios finales y cumplan plenamente normativas europeas como el Reglamento de Datos y el Reglamento de IA», añade Otaegui. El planteamiento del proyecto abarca el desarrollo de la IA en cuatro fases fundamentales: recogida de datos, formación, pruebas y despliegue. Un elemento básico es documentar los detalles fundamentales, como el uso previsto, las consideraciones éticas y las métricas de rendimiento. «También hemos avanzado en los métodos para proteger los datos sensibles manteniendo el rendimiento de la IA», prosigue Otaegui. «Estos métodos incluían técnicas de preservación de la privacidad como el cifrado homomórfico y el aprendizaje federado, que permiten entrenar la IA sin exponer directamente los datos en bruto».
Abriendo camino a una mejor IA
La metodología sentará las bases para seguir perfeccionando la IA en los vehículos automatizados y se pondrá a prueba en cuatro casos prácticos cuando el proyecto entre en su último año. El primero de dichos casos prácticos se centrará en cómo los sistemas de IA perciben y actúan a partir de datos brutos procedentes de sensores como cámaras, lidar y ultrasonidos. Un segundo estudio de caso analizará la manera de integrar la información de distintos sensores para crear un conocimiento de la situación. El equipo del proyecto está interesado en comprender cómo la IA interpreta el entorno de conducción y tiene en cuenta factores como la conducta de otros usuarios de la carretera. «El tercer caso de uso explorará los procesos de toma de decisiones en los sistemas de conducción autónoma, centrándose en la comprensión de las razones que subyacen a las decisiones impulsadas por la IA», señala Otaegui. «El objetivo es aumentar la transparencia y la confianza en la IA explicando por qué se toman determinadas decisiones de conducción. En este caso de uso se enfatiza la explicabilidad y la alineación con los principios éticos». Un último caso de uso analizará los sistemas de gestión del tráfico basados en IA, centrándose en cómo los vehículos automatizados interactúan con redes de transporte más amplias. El objetivo es entender y optimizar el papel de la IA para garantizar la fluidez del tráfico, el uso eficiente de los recursos y la movilidad cooperativa.
Un panorama sostenible para la IA
Dichos casos prácticos se evaluarán mediante situaciones reales de conducción, así como simulaciones de escenarios más complejos y potencialmente peligrosos. El equipo evaluará cómo la IA percibe el entorno, comprende y comunica las situaciones de conducción, toma decisiones y opera en sistemas más amplios de gestión del tráfico. «Si podemos demostrar que nuestra metodología es una forma fiable de desarrollar IA fiable para aplicaciones de CCAM, entonces eso podría ser la base de futuros proyectos», explica Otaegui. «Al centrarnos en la explicabilidad, la privacidad y la responsabilidad, esperamos que AIthena contribuya a garantizar que las tecnologías de IA sean transparentes, éticas y centradas en las personas. Ello contribuirá en última instancia a un panorama de IA más fiable y sostenible para el transporte autónomo».
Palabras clave
AIthena, CCAM, movilidad conectada, cooperativa y automatizada, vehículo, IA, inteligencia artificial, movilidad, lidar, transporte, explicabilidad, fiable, IA