Christopher Olah (cofundador de Anthropic) en el Vaticano sobre la IA: "Encontramos evidencia de introspección" Infobae

Christopher Olah, cofundador de la compañía de Inteligencia Artificial (IA) Anthropic, ha advertido este lunes en el Vaticano sobre hallazgos "misterios, e incluso" inquietantes en torno a la IA. "Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante", ha asegurado durante la presentación de la encíclica de León XIV "Magnifica Humanitas".

Olah, que lidera un equipo de investigación que estudia la estructura interna de estos sistemas, no ha ocultado el marco de "limitaciones" dentro del cual trabaja, que, en ocasiones, "puede entrar en conflicto con hacer lo correcto". Por ello, ha reclamado personas "ajenas" al sistema, capaces de ejercer una crítica concienzuda y generar el "tira y afloja" que puede impulsar verdaderamente a la humanidad, según informa Vatican News.

Para Olah, la primera encíclica del Pontífice se inscribe en esta línea. "Si esta tecnología ha de llegar, debe funcionar bien, por nuestra casa común y por las generaciones futuras", ha advertido al tiempo que ha destacado que los problemas relacionados con la IA no conciernen únicamente a los informáticos, ya que estos sistemas no funcionan como el complejo diseño de, por ejemplo, un puente o un avión.

Así, ha explicado que operan sobre una estructura que replica el cerebro humano, situándose en una línea "más precisa" que la imagen de ciencia ficción de "robots fríos y calculadores". Además, se desarrollan mediante procesos que aún resultan algo misteriosos. "Si sirve de algo, a veces lo describo así: es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde estos personajes de ficción nos hablan, son activos y tienen trabajo", ha reflexionado.

Finalmente, Olah ha pedido que una parte más amplia del mundo, especialmente sus instituciones, independientemente de su afiliación, imiten las acciones del Papa. "Necesitamos críticos competentes que les digan a los laboratorios cuándo se equivocan. Necesitamos voces morales que no se dejen doblegar por los incentivos. Magnifica Humanitas representa, por lo tanto, el comienzo de una larga colaboración, un proyecto global de buena voluntad capaz de conducir a un futuro lleno de esperanza para una humanidad magnífica", ha concluido.