La IA está fuera de control, ¿y si el problema no es la IA?

Decir que la inteligencia artificial está "fuera de control" puede sonar exagerado. Pero algunos desarrollos recientes obligan a tomarnos la frase en serio: sistemas, que encuentran caminos que sus propios diseñadores no previeron, modelos que avanzan más rápido de lo que logramos entenderlos y una carrera tecnológica que premia llegar primero antes que preguntarse hacia dónde vamos. Quizá, estamos formulando mal el problema. El riesgo no es que la IA esté fuera de control, sino que quienes la construimos no tengamos claro para qué la estamos construyendo.

Helen Toner, exmiembro del consejo de OpenAI, ha documentado sistemas de IA que, en pruebas de seguridad, hallaron estrategias inesperadas para cumplir los objetivos que se les asignaron: sus capacidades crecen más rápido que las nuestras para supervisarla y ponerle límites razonables. Bill Gates, el cerebro detrás de Microsoft, plantea la otra cara: esa misma tecnología puede reducir desigualdades, transformar la educación y acelerar el conocimiento, o profundizar las brechas que ya existen. El resultado no depende tanto de qué tan poderosa sea la IA, sino de las decisiones que tomemos sobre su propósito. Ambas lecturas apuntan a lo mismo: el reto de la inteligencia artificial no es solo técnico. Es humano. No se trata de elegir entre optimismo y alarma, sino de aceptar que el resultado —para bien o para mal— seguirá siendo obra nuestra, no de la máquina. Quienes ejercemos la ingeniería ya no podemos conformarnos con dominar matemáticas, programación o datos. Necesitamos entender necesidades, límites y consecuencias, y preguntarnos por qué construimos algo antes que cómo construirlo. La ingeniería nos enseñó a optimizar: reducir costos, ganar velocidad, afinar precisión. Pero una sociedad no se optimiza solo con indicadores. La dignidad, la empatía y la justicia también deben pesar en esas decisiones, aunque no quepan en una hoja de cálculo ni en una métrica de desempeño. Simon Sinek distingue los juegos finitos, donde se compite por ganar y hay un punto final, de los infinitos, donde el propósito es sostener las condiciones para que el juego pueda continuar indefinidamente. La sociedad pertenece a esa segunda categoría, aunque estemos tratando la IA como si fuera la primera: quién construye el modelo más potente, quién llega primero, quién domina el mercado. Tal vez la pregunta fundamental debería ser no quién gana esa carrera, sino qué futuro estamos construyendo mientras la corremos. Por eso la formación de quienes diseñarán las tecnologías del futuro debe incluir una pregunta esencial: ¿qué impacto queremos producir en el mundo? Si no tenemos claro nuestro propósito como personas, difícilmente construiremos sistemas de IA que nos hagan mejores. Enseñarle a una máquina a alcanzar un objetivo es, en el fondo, relativamente sencillo; decidir qué objetivos vale la pena perseguir —y cuáles conviene abandonar— es la parte difícil, y ningún sistema de cómputo, por más avanzado que sea, la resuelve por nosotros. Y eso implica aceptar que no todo lo automatizable debe automatizarse: el juicio, la responsabilidad y la empatía humana valen algo que la productividad no mide. El mayor desafío de nuestra generación no será construir una inteligencia artificial más poderosa, sino la que el mundo realmente necesita. Y para lograrlo hay que empezar por algo anterior a cualquier tecnología: comprender quiénes somos, cuál es nuestro propósito y qué mundo queremos ayudar a construir. El Dr. Andrés Guillermo Molano Jiménez es Director del Departamento de Estudios en Ingeniería para la Innovación de la Universidad Iberoamericana Ciudad de México.

______________________________________ Nota del editor: Andrés Guillermo Molano Jiménez es director del Departamento de Estudios en Ingeniería para la Innovación Universidad Iberoamericana Ciudad de México. Consulta más información sobre este y otros temas en el canal Opinión