Pide Papa regular IA: "que no sea instrumento de dominación" Diario.mx

El Papa León XIV pidió este lunes una regulación sólida de la inteligencia artificial y que sus desarrolladores trabajen por el bien común en lugar de por el lucro, en un amplio manifiesto sobre cómo salvaguardar a la humanidad mientras la tecnología impacta en todo, desde el trabajo hasta la guerra.

"Magnifica Humanitas" (Humanidad Magnífica), la primera encíclica de León, había sido esperada con entusiasmo desde que el primer papa nacido en Estados Unidos anunció, días después de su elección, que consideraba que la IA era el mayor desafío que enfrenta hoy la humanidad.

En el texto, León denunció la "cultura del poder" que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia. Declaró que "no es permisible" confiar decisiones irreversibles y letales a sistemas de IA, lo que abre otro punto de fricción entre el papa estadounidense y el gobierno del presidente de Estados Unidos, Donald Trump, que ha trabajado de manera agresiva para desregular el desarrollo de la IA.

"Hay que desarmar la IA" para apartarla "de lógicas que la convierten en un instrumento de dominación, exclusión y muerte", dijo el papa en el Vaticano durante una presentación especial de la encíclica, uno de los documentos doctrinales de mayor rango que puede emitir un papa.

Expertos de la industria tecnológica, del ámbito académico y de la moral católica señalaron que el documento probablemente se convertirá en un referente en el debate sobre la IA, un punto de referencia tanto para responsables de políticas públicas como para investigadores y ciudadanos corrientes. Llega en un momento en que los avances casi diarios de la tecnología disparan el aumento de las preocupaciones por la sustitución de empleos humanos por la IA e incluso por el reemplazo de la inteligencia humana.

"Esto se presta a que las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer se planteen preguntas sobre su propio '¿qué significa ser humano?'", comentó Taylor Black, ejecutivo de IA en Microsoft y director del instituto de IA de la Catholic University of America.

El papa critica a las empresas de IA incluso mientras recibe a Anthropic

El acto en el Vaticano también incluyó declaraciones del cofundador de Anthropic, que actualmente está inmersa en una batalla legal con el gobierno de Trump por el acceso a su tecnología de IA. El Vaticano decidió involucrar a Anthropic como parte de un esfuerzo durante la última década por entablar un diálogo con Silicon Valley sobre el costo humano de la IA.

Y, sin embargo, en su texto, León arremetió repetidamente contra la concentración de poder y datos en manos de tan pocas personas en el sector privado como un peligro, especialmente para los niños y los más vulnerables, y pidió una regulación externa de su trabajo.

"No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea", escribió. "No serviría de nada una IA más moral, si esta moral es decidida por unos pocos".

León apeló varias veces a los desarrolladores de IA y a los líderes políticos responsables de regularlos para que simplemente reduzcan la velocidad y reflexionen sobre lo que están haciendo. Los instó a seguir pautas éticas y espirituales para tomar la decisión de trabajar no por su propio lucro o poder, sino por el mejoramiento de la humanidad.

Los competidores de IA OpenAI y Anthropic son la segunda y la tercera empresas privadas más valiosas de Estados Unidos, cada una valorada en cientos de miles de millones de dólares, más que el PIB de muchas naciones.

El cofundador de Anthropic, Christopher Olah, acogió con satisfacción las críticas y la preocupación de León. Dijo que esos controles externos sobre la IA y los investigadores que la desarrollan son fundamentales para que la tecnología "salga bien" para la humanidad, dado lo mucho que está en juego, que describió como "una posibilidad real de que la IA desplace el trabajo humano a una escala muy grande".

"Necesitamos que más del mundo -comunidades religiosas, sociedad civil, académicos, gobiernos- haga lo que Su Santidad ha hecho aquí: tomarse esto en serio, mirar de cerca y empujar los acontecimientos en una mejor dirección", dijo Olah. "Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar".

Expertos dicen que el texto se convertirá en un referente En un texto metódico, el papa, licenciado en matemáticas, trazó la historia de la doctrina social de la Iglesia católica y aplicó sus conceptos centrales -justicia, solidaridad, la dignidad del trabajo y el destino universal de los recursos- a la revolución digital.

"Estoy convencido de que esto demostrará ser un documento definitorio para nuestra era, un documento profundo y profético", dijo Paolo Carozza, profesor de derecho en la Facultad de Derecho de Notre Dame y presidente del consejo de supervisión de Meta.

"El papa León ofrece una voz clara, integral y coherente que nos insta a asumir la responsabilidad de construir un mundo en el que la tecnología sirva a los seres humanos en lugar de degradarlos", afirmó.

En sus capítulos más contundentes, León denunció cómo la IA había ayudado a acelerar la "normalización de la guerra" al insensibilizar a las personas ante su costo. No mencionó conflictos específicos, pero citó "imperialismos contrapuestos, entre potencias que quieren conservar su primacía y potencias que aspiran a conquistarla".

Exigió transparencia y rendición de cuentas por parte de los desarrolladores de IA para que siempre se conozca la cadena de mando en la toma de decisiones al ordenar ataques con armamento de IA. Declaró que la teoría de la "guerra justa" de la Iglesia católica, que proporciona criterios específicos sobre cuándo puede justificarse el uso de la fuerza, ahora estaba "desactualizada" dadas las innovaciones tecnológicas de la guerra.

Un texto en la tradición de justicia social de la Iglesia León firmó el texto el 15 de mayo, el 135º aniversario de la publicación de "Rerum Novarum" (De las cosas nuevas), el documento de enseñanza más importante del héroe y homónimo de León, el papa León XIII. Ese documento abordó los derechos de los trabajadores, los límites del capitalismo y las obligaciones que los Estados y los empleadores debían a los trabajadores mientras avanzaba la Revolución Industrial.

Se convirtió en la base del pensamiento social católico moderno, y el actual papa lo citó al inicio de su pontificado en relación con la revolución de la IA, que cree que plantea las mismas preguntas existenciales que planteó la Revolución Industrial hace más de un siglo. "Magnifica Humanitas" se convierte así en el capítulo más reciente de una historia de un siglo de papas que adaptan "Rerum Novarum" a las cuestiones sociales de su tiempo, a menudo deteniéndose en la dignidad del trabajo para el florecimiento humano.

La IA está evocando tanto temores existenciales como una visión utópica en medio de un debate cada vez más intenso sobre si se convertirá en un catalizador que enriquezca a la humanidad o en una toxina tecnológica que embote la inteligencia humana mientras elimina millones de empleos bien remunerados.

"El objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo, porque la persona humana es un fin y no un medio, y el orden económico debe permanecer subordinado a su dignidad y al bien común", escribió León.

León extendió su preocupación por defender la dignidad humana en el trabajo para emitir la primera disculpa papal de la historia por el propio papel de la Santa Sede en la legitimación de la esclavitud al otorgar a soberanos europeos autoridad explícita para someter y esclavizar a "infieles".

Una década de diálogo con Silicon Valley Funcionarios del Vaticano declinaron decir quiénes exactamente contribuyeron a la encíclica de León. Pero funcionarios del Vaticano y de la Iglesia han participado en un diálogo con empresas tecnológicas de Silicon Valley durante una década. Hacia el final de su pontificado, el papa Francisco comenzó a pronunciarse más sobre la IA y los riesgos que plantea para la humanidad.

La decisión de incluir a Anthropic en el lanzamiento en el Vaticano fue criticada por algunos que lo consideraron un sello papal de aprobación a la firma de IA, que ha demandado al gobierno de Trump después de que este ordenara a todas las agencias de Estados Unidos que dejaran de usar la tecnología de Anthropic por negarse a permitir al ejército estadounidense un uso sin restricciones.

Brian Boyd, enlace de fe en Estados Unidos de la organización sin fines de lucro Future of Life Institute, interpretó la inclusión del cofundador de Anthropic, Olah, como similar a una audiencia papal con un jefe de Estado, y no un respaldo.

"Creo que es más bien un reconocimiento de (que) esta es una empresa extremadamente poderosa que actualmente está ganando esta carrera para reemplazar a los trabajadores humanos", dijo Boyd.
Anthropic es una "corporación enorme que está asumiendo un riesgo y una responsabilidad enormes", continuó Boyd, pero dijo que la empresa ha "demostrado genuina buena voluntad e integridad e interés en el diálogo".