Innovar con responsabilidad en la era de la inteligencia artificial
La formación y validación de modelos de inteligencia artificial generativa (IAG) son cada vez más complejas, por lo que ¿cómo pueden las empresas que desarrollan u operan estos sistemas evaluar y mitigar los riesgos? El equipo del proyecto QuantPi, financiado por el Consejo Europeo de Innovación, aborda el problema a través de su plataforma de confianza de IA, una solución de enchufar y usar todo en uno, independiente del modelo, para la gestión de los riesgos de la IAG.
El planteamiento integral
La plataforma aborda la complejidad del modelo de IAG reduciendo los riesgos en tres dimensiones críticas: adaptación de las partes interesadas, cumplimiento modulable y pruebas técnicas de vanguardia. Estas dimensiones se combinan para mejorar la supervisión, identificar los riesgos, evaluar su gravedad y proporcionar resultados detallados en los que basar estrategias de mitigación eficaces. Lo importante es la transparencia para todas las partes interesadas. Tal y como explica Lukas Bieringer, responsable de política y subvenciones de QuantPi, la empresa alemana de «software» que coordina el proyecto: «No se pueden abordar riesgos de los que no se es consciente. La fortaleza particular de nuestra plataforma radica en su capacidad para involucrar con eficacia a todas las partes interesadas del ciclo de vida de la IA en la mitigación de riesgos, lo que garantiza una toma de decisiones informada y la eficiencia de los procesos sin obstaculizar las transformaciones de la IA». El equipo de QuantPi reconoció la necesidad de un planteamiento integral relativamente pronto, cuando la aceptación de un sistema de IA por parte del mercado tardaba en llegar debido a problemas de confianza relacionados con la «caja negra», es decir, el funcionamiento interno de la IA que a los humanos nos cuesta entender. Por eso, a diferencia de otras soluciones, su plataforma integra a la perfección las pruebas de IA con una sólida gestión de riesgos y las necesidades de cumplimiento normativo. «Al proporcionar información transparente y agilizar los procesos, capacitamos a las organizaciones para navegar y capitalizar las transformaciones de la IA con confianza», observa Bieringer. La plataforma de confianza de IA tiene el potencial de mejorar considerablemente la fiabilidad de los sistemas IAG en varios campos. Un ejemplo son los vehículos autónomos, en los que los sistemas de IA deben tomar decisiones en fracciones de segundo basándose en los datos de los sensores. Otro son los sistemas de IAG utilizados para el diagnóstico de enfermedades y la planificación de tratamientos, en los que el cumplimiento y la confianza son la máxima prioridad. Por último, pero no por ello menos importante, están los asistentes virtuales y el servicio de atención al cliente, donde la plataforma QuantPi (First automated risk management platform to enable safety, fairness, explainability, and continuous monitoring of generative AI systems) puede utilizarse para garantizar que los sistemas de IA y sus barreras de protección protegen la información privada frente a filtraciones, y que las respuestas de los asistentes virtuales y los chatbots son adecuadas, sólidas y no discriminatorias. Si desea que su proyecto aparezca en la sección «Proyecto del mes» en un próximo número, envíenos un correo electrónico a editorial@cordis.europa.eu explicándonos por qué deberíamos elegirlo.
Palabras clave
QuantPi, IA, IA generativa, IAG, riesgo, confianza, cumplimiento, mitigación de riesgos, gestión de riesgos