Un detector de IA desató un escándalo literario en Francia y derivó en una investigación que halló plagios en textos previos

El mundo literario francés se ha visto sacudido por un escándalo relacionado con la inteligencia artificial. El autor haitiano-canadiense Thélyson Orélien ha visto cómo su novela era retirada de la lista de finalistas del Premio Goncourt, el galardón literario más prestigioso de Francia, el pasado viernes, poco después de que una cuenta anónima en X afirmara que había sido escrita “casi en su totalidad por inteligencia artificial”.

C’était ça ou mourir (que se podría traducir como Era eso o morir) narra el peligroso viaje de un haitiano hacia Canadá pasando por Brasil, México y Estados Unidos. La novela encabezó la lista de bestsellers en Francia a principios de septiembre tras su publicación en agosto y ha vendido unas 35.000 copias. El lunes pasado ganó otro premio francés, el Premio Fnac de Novela, y ha recibido críticas muy favorables.

Orélien, de 38 años, emigró a Canadá en 2010 tras el devastador terremoto de Haití que arrasó su hogar. Él niega haber utilizado IA para escribir su obra.

Pangram, que se utilizó para plantear las acusaciones, ha sido calificado como el “estándar de referencia” de los detectores de IA. La Academia Goncourt, que supervisa el premio homónimo, retiró el libro de su lista de finalistas debido a los “resultados sistemáticos de los análisis realizados por investigadores y periodistas de prestigio” que sugerían que la obra era, “con toda probabilidad, en gran parte producto de la inteligencia artificial”.

La editorial francesa de Orélien afirmó que este comenzó a escribir la novela en 2017 y terminó un borrador en 2019, mucho antes de que la IA generativa estuviera disponible en el mercado. En un comunicado de la semana pasada, Orélien, que es de raza negra, afirmó que había sido víctima de “numerosos ataques racistas” y que “actualmente está recopilando un expediente junto con [sus] editoriales en Francia y Quebec para demostrar [sus] afirmaciones”.

Samuel Fitoussi, columnista del periódico conservador Le Figaro que se ha autodefinido como “bastante de derechas”, ha admitido formar parte del “proyecto colectivo” que hay detrás de la cuenta de X. Sin embargo, el autor de Woke Fiction niega cualquier motivación política y afirma que defiende “el pacto moral que une a un autor con sus lectores” y que “sensibiliza sobre la escritura generada por IA”.

A raíz de las acusaciones sobre la IA, el periódico quebequés La Presse publicó denuncias de plagio en artículos y columnas de opinión escritos por Orélien entre 2012 y 2013. A estas les siguió una investigación de Radio-Canada, que reveló que “al menos cinco” de las columnas y artículos de opinión de Orélien habían sido copiados parcialmente de textos de otros autores.

La Presse también descubrió, mediante Pangram, que el relato corto de Orélien Où va le monde, galardonado en 2012, contenía “al menos cuatro frases idénticas” a las del libro de Louis Pauwels de 1960, Le matin des magiciens (1960). La Presse se puso en contacto con Orélien, pero este no respondió.

El escándalo no solo pone de relieve la fiabilidad de este tipo de detectores, sino que también cuestiona nuestras expectativas respecto a los escritores. Algunos autores franceses sostienen que la IA forma ya parte de nuestras vidas y que la autoría está evolucionando.

Textos en idiomas distintos del inglés y detección mediante IA

Orélien ha declarado: “Las imágenes, las repeticiones, los ritmos son lenguaje vivo, son míos. Mis tradiciones son haitianas y caribeñas”.

¿Podría un francés no estándar y muy oral llevar a Pangram a cometer un error?

Para comprobar esta posibilidad, el experto francés en IA Benoît Raphaël presentó dos capítulos de dos, y posteriormente cuatro, novelas haitianas en Pangram. Ambas fueron identificadas correctamente como creadas por humanos.

A continuación, Raphaël introdujo una muestra de la poesía, la prosa breve y los escritos críticos de Orélien publicados antes de 2023, cuando la IA generativa aún no estaba lo suficientemente desarrollada como para producir ese tipo de texto. Estos también fueron identificados como creados por humanos.

Raphaël afirmó que, antes de que estallara este escándalo, había escrito a otro experto en IA para expresarle sus sospechas de que la novela de Orélien se había escrito con la ayuda de la inteligencia artificial. Había detectado los signos reveladores de la prosa generada por IA, incluida la dependencia excesiva de ciertas construcciones retóricas.

¿Hasta qué punto son fiables los detectores de IA?

Los estudios han demostrado que Pangram es muy preciso a la hora de detectar el uso de la IA, con una tasa de detección exitosa superior al 95% y prácticamente sin falsos positivos. Aun así, sí que se dan.

Se ha utilizado para plantear acusaciones sobre otras obras literarias recientes, incluidas las de Jamir Nazir, que fue absuelto oficialmente. Nazir, un escritor trinitense de ascendencia india, explicó al jurado que su proceso de escritura consistía en utilizar herramientas de conversión de voz a texto, seguidas de una edición exhaustiva, debido a sus problemas de salud crónicos.

¿Es aceptable que los autores utilicen la IA?

En la televisión francesa, la autora Virginie Despentes, entre cuyas novelas se encuentra Vernon Subutex 1, rechazó la semana pasada la idea de que los autores deban rendir cuentas por el uso de la IA. “Thélyson Orélien no tiene por qué justificarse […] No tiene nada que ver con nosotros. Escribe como le da la gana. Que le den a Pangram”.

A Despentes le gustaron las frases cortas de la obra, sus poderosas metáforas y su carácter episódico, que considera rasgos típicos de la escritura contemporánea. Raphaël Doan, cocreador de una historia alternativa de 2023 que escribió abiertamente con ChatGPT, compartió pantalla con Despentes. A pesar de la negación de Orélien, Doan afirmó que creía que el autor había utilizado inteligencia artificial, citando el estilo formulista propio de la IA de su novela, las imágenes trilladas y una trama carente de continuidad, que saltaba de una escena a otra (la IA tiene dificultades para mantener una narrativa en prosa convincente a lo largo de cientos de páginas).

Alexandre Gefen, editor de la Historia cultural de la IA, comparó a Orélien con un artista del Renacimiento que llenaba su taller con otros artistas que trabajaban a sus órdenes. La autoría, dijo, siempre ha evolucionado con las tecnologías de escritura.

El éxito comercial de la novela de Orélien demuestra que ha logrado crear una voz auténtica que resulta cautivadora para los lectores. Si utilizó la IA para ello, es imposible pensar que sucediera sin una intensa serie de indicaciones y reajustes.

Quizá, en esta era de la IA, la forma en que los escritores la utilicen se convierta en una habilidad que se pueda emplear bien o mal. La literatura de alta calidad incluirá el uso ingenioso de esta nueva tecnología de escritura, mientras que la mala literatura se caracterizará por un uso perezoso o poco original.

Sin embargo, muchos lectores atesoran un pacto implícito con el autor, en busca de un encuentro íntimo con una subjetividad humana diferente. La crítica literaria lleva mucho tiempo cuestionando esto, sobre todo desde la clásica revelación sobre las numerosas manos que contribuyeron a la escritura de las obras de algunos de nuestros autores románticos más venerados, como la esposa de William Wordsworth, Dorothy Wordsworth.

Del mismo modo que cabría pensar que esos autores también deberían reconocer la aportación de otras personas a su obra, es razonable pedir a los autores que utilizan la IA que lo revelen. Así, los lectores tendrán la opción de participar en este nuevo juego o de optar por no hacerlo.

*Profesor titular de Literatura Inglesa, Universidad de Sídney.

Este artículo fue publicado originalmente en The Conversation.

[Fotos: archivo Infobae]