El Papa León XIII advierte sobre los riesgos de la IA en una encíclica de 42.300 palabras Diario.mx

El papa León XIV expuso el lunes una visión integral para los ejecutivos de empresas, los políticos y los ciudadanos que darán forma al futuro de la inteligencia artificial y serán moldeados por él, advirtiendo a los líderes que protejan a la humanidad de los efectos más disruptivos de la IA.

La declaración de León XIII se presentó en forma de encíclica papal , una carta abierta a «todas las personas de buena voluntad» de aproximadamente 42 300 palabras en su versión en inglés . En ella, exponía su deseo de proteger la dignidad y la autonomía humanas en una era en la que la tecnología amenaza con sustituir a los seres humanos en muchos roles profesionales y sociales. La presentó junto a Christopher Olah, cofundador de Anthropic, una importante empresa desarrolladora de IA, en un gesto simbólico de diálogo entre líderes de los ámbitos espiritual y tecnológico.

Si bien hizo hincapié en que "la tecnología no debe considerarse, en sí misma, como una fuerza antagónica a la humanidad", escribió que "la búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente puestos de trabajo".

Entre otras cosas, Leo pidió:

regulación gubernamental de las empresas privadas que impulsan el desarrollo de la IA

protección y readaptación laboral para los trabajadores cuyos empleos están en peligro

educación para ayudar a los estudiantes a pensar críticamente sobre la tecnología

medidas para proteger a los niños de la información violenta, hipersexualizada o falsa en línea que a menudo es generada por la IA

salvaguardias para garantizar que sean los seres humanos, y no la inteligencia artificial, quienes sigan siendo responsables de todas las decisiones relativas al uso de armas.

Ante todo, hizo hincapié en la importancia de preservar un rol social fundamental para todos los seres humanos. «Una sociedad que garantiza empleo solo a una pequeña fracción de la población, a pesar de contar con un alto nivel de desarrollo técnico, corre el riesgo de exponer a muchos a la inactividad forzosa», escribió.

“Esto crea una paradoja de progreso material y regresión antropológica que socava los cimientos de una paz social justa y estable”, añadió.

Leo, al presentar la encíclica ante un auditorio repleto en el Vaticano, afirmó que sus ideas se habían forjado a partir de conversaciones con científicos, ingenieros y líderes políticos. Destacó al Sr. Olah, a quien elogió por su colaboración con el Vaticano «para encontrar un camino para la humanidad en esta era de inteligencia artificial. Qué gran señal de esperanza es que, a pesar de nuestras diferencias, podamos escucharnos mutuamente», expresó Leo.

El Sr. Olah elogió la iniciativa de Leo, reconociendo que las empresas como la suya necesitan orientación moral para evitar dejarse influir por "un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto".

“Necesitamos voces morales que no puedan doblegarse ante los incentivos”, añadió el Sr. Olah.

“Hoy es solo el comienzo: el inicio de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver lo que nosotros, desde dentro, no podemos”, dijo el Sr. Olah. Ambos hablaron, junto con un panel de teólogos y funcionarios del Vaticano, ante una audiencia de cardenales, informáticos, periodistas y diplomáticos, entre ellos Brian Burch, embajador de Estados Unidos ante la Santa Sede.

Desde su segundo día como papa, hace poco más de un año, Leo dejó claras sus preocupaciones sobre la IA cuando dijo al Colegio Cardenalicio que, bajo su liderazgo, la Iglesia abordaría los riesgos que la tecnología en evolución plantea para "la dignidad humana, la justicia y el trabajo".

Desde entonces, ha hablado repetidamente sobre la IA, incluso durante un viaje a Turquía y Líbano , en un discurso ante líderes de universidades católicas e incluso al celebrar el día internacional de las matemáticas . La semana pasada, el Vaticano anunció que había creado una comisión de altos funcionarios católicos para discutir los desafíos que plantea la IA.

El papa Francisco, predecesor inmediato de León XIII, también había advertido sobre los peligros de la inteligencia artificial y había pedido un uso ético de la tecnología.

Aunque León XIII presentó públicamente su encíclica el lunes, la firmó formalmente el 15 de mayo, el 135 aniversario de la publicación de "Rerum Novarum" —o "De las cosas nuevas" en español—, una importante encíclica escrita en 1891 por su homónimo, León XIII.

La encíclica del Papa se publicó en un momento que propiciaba comparaciones con aquel documento anterior, que guiaba la enseñanza católica sobre cómo proteger a los trabajadores tras las disrupciones tecnológicas e industriales del siglo XIX.

Escrita en medio de la agitación de la Revolución Industrial, la encíclica «Rerum Novarum» buscaba salvaguardar los derechos y la dignidad de la clase trabajadora y se convirtió en uno de los textos fundamentales de la doctrina social católica moderna. Exhortaba a los gobiernos a «salvar a los trabajadores desfavorecidos de la crueldad de los hombres codiciosos, que utilizan a los seres humanos como meros instrumentos para enriquecerse», al tiempo que elogiaba los «descubrimientos de la ciencia».

En la nueva encíclica, titulada “Magnifica Humanitas” o “Magnífica Humanidad”, León adoptó un tono similar, advirtiendo sobre la nueva amenaza que la inteligencia artificial representa para los trabajadores.

El trabajo, escribió, es más que una forma de obtener ingresos; es “un requisito de la condición humana, un camino normal hacia la madurez, el desarrollo y la realización personal”. Hizo un llamamiento a “la protección de las oportunidades de empleo y el papel insustituible del individuo”.

La encíclica también pidió que se impusieran las "restricciones éticas más rigurosas" a las armas desarrolladas con inteligencia artificial, continuando así la oposición de larga data de León XIII —y del Vaticano— a la guerra.

«La creciente facilidad con la que se pueden desplegar los sistemas de armas autónomas hace que la guerra sea más "factible" y menos susceptible al control humano», escribió Leo. Esto, añadió, contradice «el principio de que la fuerza armada solo debe utilizarse como último recurso en casos de legítima defensa».

León XIII también aprovechó la encíclica para disculparse por el papel del Vaticano en la esclavitud. En una sección sobre la esclavitud moderna, León XIII pidió disculpas personalmente por la omisión del papado al no condenar las formas anteriores de esclavitud y por apoyar a gobernantes que la practicaban. Su predecesor, Juan Pablo II, se disculpó en 1985 por el papel de los cristianos en la perpetuación del comercio de esclavos, pero no abordó explícitamente el papel del Vaticano.

Si bien la encíclica incluye referencias significativas a las escrituras y a las enseñanzas religiosas, el documento se lee en muchos sentidos como un informe político de un grupo de expertos o de un legislador.

Leo escribió detalladamente, por ejemplo, sobre la importancia de proteger a los niños, que son particularmente susceptibles a los efectos distorsionadores de la tecnología.

“La literatura psicológica y psiquiátrica ha documentado con creciente insistencia cómo la exposición temprana y sin supervisión a los dispositivos digitales y las redes sociales puede afectar negativamente el sueño, la capacidad de atención, el control de las emociones y las relaciones, especialmente durante las etapas más vulnerables de la vida, a veces con consecuencias trágicas”, escribió.

Los expertos estaban divididos sobre qué efecto, si es que lo hay, tendrá el documento en la industria tecnológica, en la que los gigantes tecnológicos rivales compiten con Anthropic por el dominio.

Brian Patrick Green, director de ética tecnológica de la Universidad de Santa Clara en el norte de California, afirmó que algunos líderes tecnológicos "tendrán que tomárselo en serio en cierto sentido", en parte porque les proporciona "un imperativo moral" al tiempo que reconoce su autonomía.

Según afirmó, la iglesia "no pretende suplantar las responsabilidades de la política ni de las instituciones, sino que se ofrece como fundamento", e instó a otras instituciones a "reconocer y promover todo aquello que sirva a la dignidad de las personas, la vitalidad de las comunidades y el bien común".

Otros afirmaron que los principales destinatarios de una encíclica son el clero y los fieles.

«No creo que los magnates tecnológicos de Silicon Valley presten mucha atención», dijo la profesora Noreen Herzfeld, directora de un programa sobre tecnología y ética en la Escuela de Teología y Seminario de San Juan en Collegeville, Minnesota. «Pero creo que dentro de la Iglesia, servirá como referencia para sacerdotes y obispos, y en particular para quienes formamos seminaristas o jóvenes».

Según el profesor Herzfeld, los sacerdotes pueden utilizar el contenido del documento para orientar las conversaciones con los feligreses que comparten sus inquietudes sobre las presiones tecnológicas de la vida moderna.