Las cambiantes explicaciones sobre la IA del director ejecutivo de Anthropic

La cita: "Si tienes que explicarlo, estás perdiendo", se le atribuye a Ronald Reagan. En Silicon Valley no están de acuerdo. Desde que el debate en torno a la inteligencia artificial comenzó a intensificarse, los expertos en tecnología han lanzado montones de comentarios.

Mark Zuckerberg, director ejecutivo de Meta, escribió un texto de sobre cómo las personas que usan mucho la IA sobrevivirán mejor en el mundo que se avecina. Bill Gates dedicó casi 6000 palabras a argumentar que la IA será la ruina de la humanidad a menos que reorientemos a la sociedad y el comportamiento humano en torno a ella. Sam Altman, de OpenAI, --cuya casa en San Francisco fue atacada --, solo necesitó 1000 palabras para enfatizar que "el mundo merece una gran cantidad de IA y debemos descubrir cómo hacer que eso suceda".

Dario Amodei, cofundador y director ejecutivo de Anthropic, es uno de los divulgadores más prolíficos y refinados de la industria tecnológica. Ha colaborado en decenas de artículos académicos y, más recientemente, escribió media decena de ensayos informales dirigidos al público en general. Aparte de algunas referencias a obras culturales como El Señor de los Anillos, Carl Sagan y 2001: Una odisea del espacio, estos ensayos son, en general, mesurados, sobrios y acompañados de notas al pie: las reflexiones de un ingeniero. El más reciente se publicó el sábado.

Armar oraciones con palabras y párrafos con oraciones es algo anticuado, sobre todo cuando el tema que se explica es una tecnología tan asombrosa que bien podría ser magia. Pero a medida que Anthropic avanza con lo que podría ser la mayor oferta pública de acciones de la historia, prevista para este otoño, Amodei necesita asegurar con firmeza a todos que todo va por buen camino. Si no puede explicarlo, está perdiendo.

Su colección de ensayos es una crónica de los métodos en constante cambio que Silicon Valley utiliza para vender su propio producto a un público que se siente a la vez atraído y horrorizado. No es una tarea fácil convencer al mundo de que algo es un éxito seguro, aunque haga a Silicon Valley más rico y poderoso, mientras que quizá deje a la gente común sin empleo o --¿quién sabe?-- muerta.

Las propias explicaciones de Amodei han cambiado según el clima político. En enero, escribió en un ensayo de 20.000 palabras, titulado "La adolescencia de la tecnología", sobre su recelo hacia las regulaciones, al afirmar que resultan contraproducentes y se vuelven obsoletas con rapidez. Peor aún:

Pero en junio, después de que el gobierno de Donald Trump pidiera a las empresas de IA que presentaran de manera voluntaria nuevos modelos para su aprobación, Amodei dijo que estaba "agradecido". Los nuevos productos de IA eran como aviones, escribió en un nuevo ensayo:

La semana pasada, la narrativa del desastre de la IA volvió a tomar la delantera. Jacob Coxon, un empleado de Anthropic, renunció con una grave advertencia pública de que Anthropic y OpenAI estaban "jugando con nuestras vidas".

Amodei respondió con un ensayo de 3800 palabras titulado "Debemos moderar el ritmo hacia la frontera". En él propuso medidas que garantizarían que las empresas de inteligencia artificial, como Anthropic, redujeran su ritmo:

Un portavoz de Anthropic escribió en un correo electrónico que "Anthropic y Dario siguen estando muy a favor de la regulación", pero que, "ante la falta de regulación", la empresa estaba implementando de inmediato una autorregulación.

El punto fundamental de Amodei es que la IA es inexorable, pero que también es extremadamente difícil --o tal vez imposible-- de controlar. Incluso antes de que existiera Anthropic, cuando trabajaba en Google en 2016, fue coautor de un artículo titulado "Problemas concretos en materia de seguridad de la IA". En él se ilustran las muchas formas en que las cosas pueden salir mal, utilizando el ejemplo de un robot de limpieza:

El aumento de la complejidad de la IA desde entonces ha dejado muy atrás al robot de limpieza. En "La urgencia de la interpretabilidad", que fue publicado en abril de 2025, Amodei escribió:

Para enero, en "La adolescencia de la tecnología", ya advertía:

(The New York Times ha demandado a OpenIA y a Microsoft , alegando violación de derechos de autor de contenido noticioso relacionado con los sistemas de IA. Las dos empresas han negado esas acusaciones).

El ensayo más revelador de Amodei hasta la fecha, escrito en octubre de 2024, presenta el argumento definitivo a favor de Silicon Valley. Olvídate de los riesgos de que la IA explote, escribió. ¿Cómo se verá la utopía? Para quienes no tienen acciones en una empresa de IA, la respuesta puede ser tan inquietante como cualquier escenario catastrófico.

El ensayo se titula "Machines of Loving Grace" (Máquinas de amorosa gracia). El origen de la frase no se menciona ni se explica en ninguna parte de sus 20.000 palabras, aunque hay un enlace en una nota al pie. El título proviene de un poema de 1967 de Richard Brautigan, el poeta oficial de los hippies, que termina así:

Me gusta pensar

(¡tiene que serlo!)

en una ecología cibernética

en donde estamos libres de nuestro trabajo

y unidos de nuevo a la naturaleza,

devueltos a nuestra condición de mamíferos

hermanos y hermanas

y todos protegidos

por máquinas de amorosa gracia.

Los críticos literarios debaten si Brautigan hablaba en serio o en tono irónico, un rasgo característico de la ambigüedad que rodea al buen arte. Escribió el poema durante una estancia en el Instituto Tecnológico de California, donde también escribió un breve poema que comienza así: "No me importa qué tan malditamente inteligentes / sean estos tipos: estoy aburrido". Brautigan se suicidó en 1984.

No hay duda de que Amodei está siendo sincero. En "Machines of Loving Grace", quiere que la gente se sume a la causa porque los resultados, incluso a corto plazo, serán excelentes. La IA en el próximo par de años, escribió, será como tener "un país de genios en un centro de datos".

Con la inteligencia artificial --agregó Amodei--, nuestros cuerpos se volverán, por primera vez, totalmente maleables. Liberarnos de las enfermedades es solo el comienzo. También existe la libertad biológica. Esto, dijo, es:

En esencia, la IA te permitirá moldearte a ti mismo para convertirte en otra cosa; para volverte, a falta de una palabra mejor, atractivo.

Por ejemplo, la biología impulsada por la IA permitirá controlar el peso, la apariencia física, la reproducción y otros procesos biológicos, escribió. Las personalidades también serán moldeables. Enfermedades como el trastorno de estrés postraumático (TEPT), la depresión, la esquizofrenia y la adicción se tratarán de manera efectiva por primera vez.

Hay elementos que faltan en los ensayos de Amodei. La política como medio para controlar la vida de las personas, por ejemplo. Tampoco aparece un mundo corporativo obsesionado con las ganancias. Se da a entender que las empresas de salud son benignas. Curarán todas las dolencias como un regalo para la humanidad.

En el mundo real, la IA es una de las razones por las que los costos de atención médica para las personas se están disparando. Los hospitales y los médicos están utilizando la tecnología "para aumentar los pagos mediante una mejor documentación de la atención", informó recientemente The New York Times.

Más allá de la enfermedad, más allá de la biología, está la psicología.

Parece que la IA podría limpiarnos a algunos por completo.

La obra más famosa de Richard Brautigan fue La pesca de la trucha en América, una reflexión sobre la vida que no tiene nada que ver con la pesca. En ella hay un personaje adicto al Kool-Aid. Esto lo moldea, lo abruma. "Creó su propia realidad de Kool-Aid", escribió Brautigan. Silicon Valley parece estar creando su propia realidad de IA.

Amodei, de 43 años, no da a entender en sus ensayos que le interese mucho la historia. Así que me puse a buscar algunos precedentes de este momento supuestamente único.

El apogeo creativo de Brautigan a mediados de la década de 1960 se produjo durante un auge tecnológico anterior que ha quedado prácticamente en el olvido. El 2 de abril de 1965, el artículo de portada de la revista Time se titulaba "La sociedad de las computadoras". La portada mostraba una computadora humanoide dominando a una multitud. Sería nuestro nuevo amo.

Leer ese artículo ahora es como dar un paseo por los ensayos de Amodei. "Arrastrada por una gran ola de tecnología, de la cual la computadora es la máxima expresión, la sociedad humana se encamina sin duda hacia cambios de gran alcance", dijo Time. Se cita a un experto en computadoras: "Cuando estas nuevas máquinas alcancen su potencial, habrá un impacto social de proporciones increíbles".

Eso no sucedió. Si hay algún consuelo que sacar de esto, tal vez sea este: el miedo y el sensacionalismo rara vez dan lugar a buenas predicciones. Como siempre, el futuro es desconocido. "Machines of Loving Grace" reconoce que la gente tendrá que luchar para lograr un buen resultado.

Pero al menos seremos muy atractivos.

David Streitfeld escribe sobre tecnología, sobre quienes la fabrican y cómo afecta al mundo que les rodea. Vive en San Francisco. Más de David Streitfeld