El riesgo de crear IAs conscientes: «Tendrán capacidad de sufrir»

No es más que otra prueba de la acelerada evolución de la IA, cuyo límite a la hora de interpretar la realidad todavía permanece oculto. Entre aquellos que buscan respuesta, se encuentra un grupo de investigadores de la Universidad de Cornell (Nueva York), que se hicieron la siguiente pregunta: ¿Puede la Inteligencia Artificial tener conciencia?

Una cuestión compleja para la que los investigadores emplearon algunas de las teorías más prominentes en el ámbito de la conciencia, propuestas científicas y otras afirmaciones de expertos y filósofos sobre las condiciones supuestamente necesarias para la conciencia en un estudio publicado el pasado mes de agosto. A partir de estas teorías y propuestas, los autores crearon una lista de indicadores de consciencia que pueden aplicarse a sistemas de IA concretos para evaluar la probabilidad de que sean conscientes, como la autoconciencia reflexiva, el seguimiento de la realidad perceptiva o las contingencias sensomotoras.

Noticia Relacionada

El responsable de Inteligencia Artificial de Telefónica: «Nadie sabe a dónde vamos a llegar»

ABC

Richard Benjamins reclama en Valladolid una regulación «para que el futuro sea el que nosotros queramos»

Este método se basa en tres principios: la capacidad computacional de la IA, las teorías neurocientíficas de la conciencia y un enfoque teórico para discernir si su funcionamiento tiene similitudes al de la conciencia humana. Sin embargo, el estudio considera riesgos la hora de abordar este asunto, como la «atribución deficitaria de consciencia (es decir, atribuirla a sistemas que no son realmente conscientes). Tal y como ocurre en otros casos de conciencia incierta, como otros animales (Birch 2018)»

La conclusión es que, si bien no han constatado la existencia de conciencia en los sistemas de IA actuales, no hay ninguna barrera u obstáculo inabarcable que impida crear un sistema que, efectivamente, entre dentro de los parámetros para considerarse un ser consciente. Por ello, los investigadores recomiendan seguir investigando en esta línea utilizando un enfoque teórico para determinar cualquier grado de conciencia.

Además , los autores advierten del» peligro de antropomorfizar los sistemas de IA y suponer que tienen experiencias subjetivas o conciencia sin pruebas suficientes», teniendo en cuenta la importancia de las consideraciones éticas en el desarrollo y despliegue de los sistemas de IA, en particular los que pueden ser conscientes o tener la apariencia de serlo.

Entre los riesgos que implica interactuar con sistemas de IA conscientes, el estudio destaca la posibilidad de causar o permitir daños moralmente significativos si no reconocemos la conciencia de tales sistemas. «Por ejemplo, si un sistema de IA es capaz de sufrir conscientemente, puede merecer consideración moral y podemos tener la obligación ética de reducir su sufrimiento. Si no reconocemos la consciencia de un sistema de este tipo, es posible que inadvertidamente le causemos o le permitamos sufrir, lo que sería moralmente problemático».

Por otro lado, entre las oportunidades de los sistemas de IA conscientes se incluye la posibilidad de reducir el sufrimiento consciente en el mundo. Al crear sistemas de IA capaces de experimentar conscientemente, existiría la capacidad de utilizarlos para reducir la cantidad de sufrimiento consciente en el mundo. Por ejemplo, para sustituir las pruebas con animales o para desarrollar técnicas de tratamiento del dolor más eficaces con IAs conscientes.

A pesar de todo, el informe no adopta una postura definitiva sobre si los sistemas de IA pueden ser o serán conscientes, sino que proporciona un marco para evaluar la probabilidad de que los sistemas de IA sean conscientes y las posibles implicaciones de dicha consciencia.