Anthropic, Google, Meta y Microsoft consultan a sacerdotes para enseñarle ética a sus IA

Las empresas que construyen los modelos de inteligencia artificial más potentes del mundo recurrieron a sacerdotes, teólogos y filósofos de distintas religiones para definir qué comportamiento es moralmente correcto en sus chatbots, según reveló un despacho de la agencia Associated Press (AP) publicado este domingo.

Anthropic, la empresa detrás del chatbot Claude, confirmó en un comunicado de mayo que se reunió con “académicos, clérigos, filósofos y especialistas en ética de más de 15 grupos religiosos y culturales”, con la intención de ampliar esa consulta en el futuro. Representantes de Meta, Google y Amazon también se reunieron con el Vaticano, y Microsoft mantiene un acercamiento activo con distintas tradiciones de fe.

“Estas no son preguntas que un laboratorio pueda responder”, dijo el cofundador de Anthropic Chris Olah a comienzos de este año, durante la presentación en el Vaticano de la primera encíclica del papa León XIV sobre inteligencia artificial. “Son preguntas que tradiciones como la suya llevan milenios cargando”, agregó, dirigiéndose a los líderes religiosos presentes.

El objetivo de estas empresas no es alinear sus modelos con una sola fe, sino construir una especie de promedio de ideas morales de distintas tradiciones. El director ejecutivo de OpenAI, Sam Altman, lo resumió el año pasado: dijo que su chatbot debería reflejar “ese promedio ponderado, o lo que sea, de la visión moral de la humanidad”.

Cuáles son las criticas al plan de las empresas de IA

Esa idea choca con una objeción de fondo que plantean académicos especializados en el estudio de las religiones. Webb Keane, antropólogo de la Universidad de Michigan, sostiene que la religión no puede reducirse a un conjunto de principios extraíbles y comparables entre sí.

“Hay una manera muy convencional de pensar la religión como un libro de reglas”, explicó Keane. Eso, dijo, está muy ligado a la religión escrituraria, y esas religiones terminan siendo, al final del día, las religiones abrahámicas: el judaísmo, el cristianismo y el islam.

Esa definición deja afuera tradiciones que no se organizan del mismo modo. Según Keane, si una empresa asume que las religiones comparten un set de principios morales extraíbles, corre el riesgo de privilegiar ciertas tradiciones y distorsionar otras, en particular las que no se conciben a sí mismas como sistemas éticos.

Un intercambio que algunos académicos valoran

No todos los participantes de estas reuniones las critican. Meghan Sullivan, filósofa de la religión que dirige una iniciativa sobre ética e inteligencia artificial en la Universidad de Notre Dame, asistió este año a un encuentro de Anthropic con cristianos de distintas denominaciones.

Sullivan dijo que, a diferencia de otras empresas con las que había dialogado, le impresionó el nivel de involucramiento de Anthropic. “La cultura dentro de la empresa se parece a la de un buen campus universitario, con gente muy curiosa intelectualmente”, relató.

La reunión tuvo dos partes: primero la compañía explicó sus modelos “en términos sencillos” y luego los líderes religiosos respondieron con preguntas que iban desde si los humanos tienen alma hasta si un niño de ocho años debería poder usar un chatbot para aprender a leer.

Anthropic explicó en su comunicado de mayo que el trabajo no busca alinear sus modelos con la cosmovisión de una sola tradición. “Queremos que Claude recurra a una amplia gama de puntos de vista, religiosos, seculares y políticos, con la misma profundidad y rigor”, señaló la empresa, y agregó que busca “un pensamiento acumulado y cuidadoso sobre cómo se forma realmente un buen carácter”.

Cuál es el riesgo de mezclar tradiciones distintas

Paolo Carozza, integrante de la Junta de Supervisión independiente de Meta y especialista en pensamiento social católico y tecnología, advirtió que ese afán de acumulación puede terminar borrando lo que distingue a cada tradición.

“Cualquier tradición viva y sofisticada puede interactuar con otras de manera orgánica y absorber conocimiento nuevo con el tiempo. Pero lo hace de forma orgánica”, dijo Carozza. “Lo que la inteligencia artificial muchas veces hace es tomar todo eso, mezclarlo y, al final, no darle sentido a nada”, agregó.

Los modelos de lenguaje funcionan prediciendo la palabra siguiente a partir de patrones aprendidos de una enorme cantidad de textos escritos por humanos, entre ellos textos religiosos de distintas épocas y culturas.

Especialistas como la estudiosa de religiones Tomoko Masuzawa recuerdan que la idea de comparar religiones como sistemas equivalentes entre sí es, en realidad, una construcción académica occidental consolidada recién en el siglo XIX, lo que vuelve más complejo resumirlas en reglas universales para entrenar una máquina.