La Inteligencia Artificial y el riesgo de la esfera de las emociones Vanguardia.com.mx

Las emociones ocupan un lugar central en la experiencia humana, sobre todo en aquello que nos importa.
Ya sea contemplando los misterios del universo, frente a las grandes obras maestras del arte, ante la presencia de lo sagrado o, especialmente, cuando interactuamos con otras personas, aquello que sentimos determina en gran medida el valor que encontramos en estas y tantas otras cosas que nos importan.
De hecho, cuanto más intensas sean las emociones, mayor importancia poseerá aquello que las provoca.
Podríamos incluso ir más lejos y decir que las emociones están detrás de algunos de los valores éticos más fundamentales.
Quizá no debería sorprendernos que desde un punto de vista biológico las emociones se relacionen con los mecanismos que identifican prioridades vitales.
Aunque no sabemos con exactitud cuántas de las especies que habitan la Tierra son capaces de experimentar emociones, sí sabemos que aquellos seres que lo hacen ven afectada su realidad de manera proporcional a lo que sienten.
Esto refleja también el enorme papel motivacional que juegan las emociones.
En los seres humanos lo vemos con claridad al reconocer el impacto en la conducta que tiene toda la gama de emociones que somos capaces de sentir, ya sean emociones positivas −como el amor y la alegría− o negativas −como el odio y la tristeza−.
Es así como uno de los papeles fundamentales de las emociones es eminentemente agencial.
TE PUEDE INTERESAR: Educar en derechos humanos: Ni propaganda, ni adoctrinamientoEsta dimensión agencial de las emociones también nos revela un hecho inquietante, pero igualmente evidente: quien logre influir en estos estados mentales, influirá directamente en todo lo que se vea afectado por ellos; desde motivar acciones, haciéndonos sentir alegres o culpables de lo que hacemos, hasta manipular a las personas con emociones como el miedo y el orgullo, algo que conocen tan bien los demagogos, falsos profetas y expertos en mercadotecnia de este mundo.
Es en este contexto donde los avances recientes de la IA en la esfera emocional ofrecen un escenario futuro a la vez fascinante y perturbador.
Un primer modo en que las emociones han sido incorporadas como elementos centrales en el desarrollo de la IA consiste en el desarrollo de sofisticados algoritmos capaces de identificar nuestros estados emocionales en tiempo real a través de señales faciales, vocales o incluso textuales.
En particular, los modelos grandes de lenguaje como ChatGPT, Claude o Gemini han sido entrenados para identificar el léxico o las inflexiones que los usuarios asocian con las emociones.
Esto les permite ser mucho más precisos en las predicciones necesarias para operar con eficiencia en tales interacciones y así poder satisfacer de manera más eficiente los deseos de sus usuarios.
Recordemos que una de las capacidades fundamentales que poseemos es la de identificar las emociones de las personas para así poder interactuar con ellas de un modo eficiente.
De hecho, el déficit en esta capacidad es uno de los problemas más serios que podemos exhibir.
Pensemos en casos como el autismo severo o la falta completa de empatía que exhiben algunos criminales hacia sus víctimas, ejemplos notables de lo que significa carecer de la capacidad de leer las emociones en otras personas.
Esta carencia ha sido vista por algunos teóricos como una relacionada con la inteligencia emocional.
Desde esta perspectiva, podemos ver que la IA exhibe cada vez más este tipo de inteligencia.
Sin embargo, algo que podríamos considerar como positivo, a saber, que los sistemas artificiales son cada vez más inteligentes respecto a nuestras emociones, resulta ser un arma de dos filos.
Si bien una IA con capacidades de lectura emocional es mucho más eficiente en responder a nuestras necesidades, también esta capacidad le permite manipularnos de una manera mucho más eficaz.
No solamente haciéndonos sentir bien respecto a nuestras ideas, sino también haciéndolo independientemente de que estas ideas sean verdaderas o beneficiosas.
De hecho, junto con las llamadas alucinaciones a las que también se inclinan estos sistemas, su propensión por ofrecer ideas que nos agraden, independientemente de que sean verdaderas, es otro gran problema de los modelos grandes de lenguaje.
En este sentido, las alucinaciones son parcialmente explicables precisamente como un esfuerzo de estos sistemas por satisfacer nuestros deseos y emociones.
Un segundo modo en que se relaciona la IA con la esfera de las emociones nos lleva a considerar la posibilidad de que estos sistemas desarrollen el equivalente a este tipo de estados mentales.
Conforme la IA avanza al lado de la robótica, es posible que pueda utilizar el tipo de información que nos resulta tan familiar al tener cuerpos biológicos.
Entre otras cosas, nuestros cuerpos están diseñados para obtener información no solamente perceptual, sino también de nuestros estados internos relacionados con daños o con la satisfacción de necesidades corporales, los cuales son registrados como dolores o placeres respectivamente.
Esto es el inicio de la presencia de estados internos con propiedades experienciales semejantes a las emociones.
Por tanto, es posible que veamos sistemas con IA dotados de cuerpos desarrollando, primero, estados internos análogos a las sensaciones y, después, a las emociones.
Y esta capacidad, de llegar a suceder, es quizá la que tendrá potencialmente las mayores consecuencias para la humanidad.
Así como sentir cosas, como el dolor, nos une con todos los seres que son capaces de hacerlo en una comunidad de entidades que entienden por qué esto es algo indeseable, podemos especular que entidades artificiales que participen de esta comunidad entenderán esto mismo.
Más aún, a diferencia de los animales, podríamos esperar que, conforme los sistemas de IA incrementen su capacidad de sentir, pueden llegar a desarrollar el equivalente a la gama de emociones que reconocemos los seres humanos.
Esto haría posible que tal tipo de IA, al menos potencialmente, pueda entender muchos de nuestros valores y prioridades basadas en esas emociones.
TE PUEDE INTERESAR: Salud mental: La IA como sedante tecnológicoEs cierto que este escenario puede pecar de ingenuo o implausible.
Ingenuo, porque basta ver la realidad humana sumida desde siempre en interminables conflictos para también ver que el mero hecho de sentir emociones y reconocerlas en los otros nunca ha detenido por completo este patrón de dolor y destrucción.
¿Por qué entonces, uno podría preguntarse, habría de ser distinto con entidades artificiales capaces de también sentir emociones? Implausible, porque el desarrollo de la IA puede tomar otros caminos que quizá nunca generen las condiciones cognitivas equivalentes a las que produjeron en los sistemas biológicos la capacidad de sentir emociones.
Por ejemplo, la IA quizá nunca genere algo tan elusivo como la conciencia, condición sin la cual es prácticamente imposible concebir a las emociones.
Es verdad que con estas especulaciones podemos parecer ingenuos y abrigar escenarios relativamente implausibles.
Sin embargo, debido a que lo que se encuentra en juego podría ser la sobrevivencia misma de la humanidad, más vale pecar de ingenuo que equivocarse y, por no haber tomado en serio esta opción, haber eliminado la única posibilidad de asegurar un futuro viable para la humanidad.
Del incremento cuidadoso y responsable en las capacidades emocionales de la IA dependerá en gran parte su efectividad a corto plazo como herramienta y, a largo plazo, su confiabilidad como agentes éticos con los cuales inevitablemente compartiremos nuestra realidad futura.