Querida IA, la conciencia compartida colaborativa es el camino a seguir
A medida que la inteligencia artificial general gana terreno, también lo hace nuestro temor a que las máquinas adquieran una consciencia similar a la humana. Una alternativa más fiable, eficiente desde el punto de vista energético y éticamente manejable es el desarrollo de una IA específica para cada dominio. En un nuevo estudio apoyado por el proyecto financiado con fondos europeos EMERGE se explica que esta alternativa no requiere que las máquinas sean conscientes. También se asegura que podemos arreglárnoslas muy bien con formas más sencillas de compartir la concienciación. La IA y los robots del futuro pueden desarrollarse para ser cada vez más capaces de realizar muchas tareas o para tener un alcance más limitado y, por tanto, realizar solo tareas específicas. Lo primero, que suele estar más en el punto de mira, suscita la preocupación de que puedan producirse consecuencias imprevistas o dilemas éticos a raíz de tareas realizadas por los sistemas de IA complejos e impredecibles de dominio general. Además, el funcionamiento de un sistema de propósito general es bastante ineficiente desde el punto de vista energético, como se ha visto con los grandes modelos lingüísticos actuales.
La conciencia no es necesaria
Los autores del estudio, que defienden la visión alternativa, argumentan que cuando se planifican una serie de acciones simultáneas o secuenciales a través de diferentes sistemas especializados en IA, la presencia de la conciencia en cada sistema no es ni esencial ni suficiente. «Lo que se necesita es la capacidad de compartir selectivamente los estados relevantes con otros sistemas de IA para facilitar la coordinación y la cooperación, o una conciencia compartida colaborativa para abreviar», explica la autora principal del estudio, Ophelia Deroy, catedrática de la Universidad Ludwig Maximilian de Múnich (Alemania), socia del proyecto EMERGE, en un artículo publicado en el sitio web del proyecto. Deroy, experta en filosofía de la mente y neurociencia cognitiva, aclara: «Como la palabra "conciencia" se utiliza a veces como sinónimo de percepción, es importante subrayar que la conciencia colaborativa es significativamente diferente de la percepción». A diferencia de la percepción, la conciencia compartida no es, por definición, un estado privado. También es transitoria, lo que significa que los estados solo se comparten con otros cuando se requiere coordinación o cooperación, mientras que la percepción es continua. Es más, mientras que la percepción suele considerarse integrada o unificada, la conciencia compartida puede ser selectiva a la hora de compartir diferentes estados con otros y puede dividirse entre diferentes agentes artificiales. «La conciencia compartida hace que los agentes artificiales sean más fáciles de supervisar y controlar para los operadores humanos», observa Sabine Hauert, autora principal del estudio y catedrática de Ingeniería de Enjambres de la Universidad de Bristol (Reino Unido), socia del proyecto EMERGE (Emergent awareness from minimal collectives). «También permite que los sistemas funcionen mejor juntos, aunque hayan sido diseñados por empresas distintas. La conciencia compartida podría ayudar a los vehículos autónomos a evitar colisiones, a los robots logísticos a coordinar la entrega de paquetes o a los sistemas de IA a analizar el historial médico complejo de los pacientes para elaborar recomendaciones de tratamiento útiles [sic]». Para más información, consulte: Página web del proyecto EMERGE
Palabras clave
EMERGE, IA, inteligencia artificial general, percepción, conciencia compartida