Las asombrosas y alarmantes visiones de IA del CEO de Anthropic

Se le atribuye a Ronald Reagan la frase: «Si te pones a dar explicaciones, pierdes». Silicon Valley no comparte esta opinión. Desde que la polémica en torno a la inteligencia artificial se intensificó, los tecnólogos no han escatimado en comentarios.

Mark Zuckerberg, director ejecutivo de Meta, escribió 6500 palabras sobre cómo quienes utilicen mucha IA tendrán mayor éxito en el futuro mundo de la inteligencia artificial. Bill Gates dedicó casi 6000 palabras a argumentar que la IA será la perdición de la humanidad a menos que reorientemos la sociedad y el comportamiento humanos en torno a ella. Sam Altman, de OpenAI, cuya casa en San Francisco fue atacada , solo necesitó 1000 palabras para recalcar que «el mundo merece una gran cantidad de IA y debemos encontrar la manera de lograrlo».

Dario Amodei, cofundador y director ejecutivo de Anthropic, es uno de los divulgadores más prolíficos y elocuentes del sector tecnológico. Ha colaborado en decenas de artículos académicos y, más recientemente, ha escrito media docena de ensayos informales para el público general. Salvo algunas referencias a obras culturales como «El Señor de los Anillos», Carl Sagan y «2001: Una odisea del espacio», estos ensayos suelen ser mesurados, insulsos y con notas a pie de página: reflexiones propias de un ingeniero. El más reciente se publicó el sábado.

Escribir oraciones y organizarlas en párrafos es algo anticuado, sobre todo cuando se trata de una tecnología tan asombrosa que casi parece magia. Pero mientras Anthropic avanza con la que podría ser la mayor oferta pública de la historia este mismo otoño, el Dr. Amodei necesita tranquilizar a todos con firmeza y asegurarles que todo marcha según lo previsto. Si no lo explica, está perdiendo terreno.

Sus ensayos recopilados son una crónica de los métodos en constante evolución de Silicon Valley para vender su producto a un público que se siente a la vez atraído y horrorizado. No es tarea fácil convencer al mundo de que algo es un éxito rotundo, aunque enriquezca y fortalezca a Silicon Valley, dejando posiblemente a la gente común sin empleo o, quién sabe, muerta.

Las propias explicaciones del Dr. Amodei han cambiado con el clima político. En enero, escribió en un ensayo de 20.000 palabras, «La adolescencia de la tecnología», sobre su recelo hacia las regulaciones, afirmando que resultan contraproducentes y se vuelven obsoletas rápidamente. Peor aún:

“Pueden destruir valor económico o coaccionar a actores reacios que se muestran escépticos ante estos riesgos (¡y existe la posibilidad de que tengan razón!).”

Pero en junio, después de que la administración Trump pidiera a las empresas de IA que presentaran voluntariamente nuevos modelos para su aprobación, el Dr. Amodei dijo estar "agradecido". Los nuevos productos de IA eran como aviones, escribió en un nuevo ensayo:

“Su liberación debería ser bloqueada o revocada por considerarse una amenaza para la seguridad pública si no cumplen con altos estándares de seguridad.”

La semana pasada, la narrativa catastrofista sobre la IA volvió a cobrar protagonismo. Jacob Coxon , empleado de Anthropic, renunció con una alarmante advertencia pública de que Anthropic y OpenAI estaban "jugando con nuestras vidas".

El Dr. Amodei respondió con un ensayo de 3.800 palabras titulado "Debemos marcar el ritmo de la frontera". En él propuso medidas que garantizarían que empresas de IA como Anthropic redujeran su ritmo:

“Ajustar el ritmo no significa detener la capacitación de los modelos ni el progreso técnico, sino garantizar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen.”

Un portavoz de Anthropic escribió en un correo electrónico que "Anthropic/Dario siguen estando muy a favor de la regulación", pero que "en ausencia de regulación", la empresa estaba implementando de inmediato la autorregulación.

La idea fundamental del Dr. Amodei es que la IA es inexorable, pero también extremadamente difícil —o quizás imposible— de controlar. Incluso antes de que existiera Anthropic, cuando trabajaba en Google en 2016, fue coautor de un artículo titulado «Problemas concretos en la seguridad de la IA». En él se ilustran las muchas maneras en que las cosas pueden salir mal, utilizando como ejemplo un robot de limpieza.

“En una oficina puede haber mascotas que el robot, al no haber visto nunca antes, intenta lavar con jabón, lo que, como era de esperar, conlleva malos resultados.”

“En una oficina puede haber mascotas que el robot, al no haber visto nunca antes, intenta lavar con jabón, lo que, como era de esperar, conlleva malos resultados.”

“No podemos detener el autobús, pero podemos dirigirlo .”

En enero, en “La adolescencia de la tecnología”, ya advertía:

(El New York Times ha demandado a OpenAI y Microsoft , alegando infracción de derechos de autor sobre contenido informativo relacionado con sistemas de IA. Ambas compañías han negado dichas acusaciones).

El ensayo más revelador del Dr. Amodei, escrito en octubre de 2024, presenta argumentos contundentes a favor de Silicon Valley. «Olvídese de los riesgos de un colapso de la IA», escribió. «¿Cómo será la utopía?». Para quienes no poseen acciones en una empresa de IA, la respuesta puede resultar tan inquietante como cualquier escenario catastrófico.

El ensayo se titula «Máquinas de la Gracia Amorosa». En sus 20.000 palabras, no se menciona ni se explica la fuente de la frase, aunque hay un enlace en una nota a pie de página. El título proviene de un poema de 1967 de Richard Brautigan, el poeta laureado de los hippies, que termina así:

Me gusta pensar

(¡Tiene que ser así!)

de una ecología cibernética

donde estamos libres de nuestros trabajos

y se reincorporó a la naturaleza,

regresó a nuestro mamífero

hermanos y hermanas

y todos vigilados

por máquinas de gracia amorosa.

Los críticos literarios debaten si Brautigan hablaba en serio o con ironía, una característica de la ambigüedad que rodea al buen arte. Escribió el poema durante su estancia en el Instituto Tecnológico de California, donde también escribió un breve poema que comienza: «No me importa lo increíblemente inteligentes que sean estos tipos: me aburro». Brautigan se suicidó en 1984.

No cabe duda de que el Dr. Amodei es sincero. En «Máquinas de la Gracia Amorosa», anima a la gente a unirse a la causa porque los resultados, incluso a corto plazo, serán excelentes. La IA, escribió, en los próximos años será como tener «un país de genios en un centro de datos».

Con la IA, añadió el Dr. Amodei, nuestros cuerpos por primera vez se volverán completamente maleables. La ausencia de enfermedades es solo el comienzo. También existe la libertad biológica. Esto, dijo, es:

“La idea de que todos deberían tener la libertad de elegir en qué quieren convertirse y vivir sus vidas de la manera que más les atraiga.”

En esencia, la IA te permitirá transformarte en algo distinto; convertirte, por decirlo de alguna manera, en una persona atractiva.

Por ejemplo, la biología acelerada por IA permitirá controlar el peso, la apariencia física, la reproducción y otros procesos biológicos, escribió. Las personalidades también serán manejables. Enfermedades como el trastorno de estrés postraumático, la depresión, la esquizofrenia y la adicción podrán tratarse eficazmente por primera vez.

En los ensayos del Dr. Amodei faltan elementos clave. Por ejemplo, la política como medio para controlar la vida de las personas. Tampoco se menciona el mundo empresarial obsesionado con las ganancias. Se da a entender que las empresas de salud son benévolas y que curarán todas las enfermedades como un regalo para la humanidad.

En la práctica, la IA es una de las razones por las que los costos de la atención médica para los individuos se están disparando. Los hospitales y los médicos están utilizando esta tecnología "para aumentar los pagos mediante una mejor documentación de la atención", según informó recientemente The New York Times.

Más allá de la enfermedad, más allá de la biología, está la psicología.

“La mayoría de nosotros tenemos problemas psicológicos cotidianos que normalmente no se consideran enfermedades clínicas. Algunas personas se enojan con facilidad, otras tienen problemas para concentrarse o suelen estar somnolientas, algunas son temerosas o ansiosas, o reaccionan mal a los cambios.”

Al parecer, la IA podría purificar a algunos de nosotros.

“Todos podemos lograr que nuestro cerebro funcione un poco mejor y tener una experiencia cotidiana más satisfactoria.”

La obra más famosa de Richard Brautigan fue "La pesca de truchas en América", una reflexión sobre la vida que nada tiene que ver con la pesca. En ella aparece un personaje adicto al Kool-Aid. Este lo moldea, lo domina. "Creó su propia realidad de Kool-Aid", escribió Brautigan. Silicon Valley parece estar creando su propia realidad de inteligencia artificial.

El doctor Amodei, de 43 años, no indica en sus ensayos que tenga mucho interés en la historia. Así que me puse a buscar algunos precedentes de este momento supuestamente único.

El apogeo creativo de Brautigan a mediados de la década de 1960 coincidió con un auge tecnológico anterior que ha caído en gran medida en el olvido. El 2 de abril de 1965, la portada de la revista Time se titulaba «La sociedad informática». La portada mostraba una computadora humanoide dominando a una multitud. Se convertiría en nuestra nueva amo.

Leer este artículo ahora es como pasear por los ensayos del Dr. Amodei. «Impulsada por una gran ola de tecnología, de la cual la computadora es la máxima expresión, la sociedad humana se encamina sin duda hacia cambios profundos», afirmó Time. Un experto en informática declaró: «Cuando estas nuevas máquinas alcancen su máximo potencial, el impacto social será de proporciones inimaginables».

No sucedió. Si hay algún consuelo en todo esto, quizás sea este: el miedo y la exageración rara vez dan lugar a buenas predicciones. Como siempre, el futuro es incierto. «Machines of Loving Grace» reconoce que la gente tendrá que luchar por un buen resultado.

“Los años que tenemos por delante serán increíblemente difíciles, exigiéndonos más de lo que creemos poder dar.”

Pero al menos tendremos mucho calor.