El dilema de la IA

El dilema de la IA

Carlos Delgadillo Macías

El 9 de septiembre de este 2026, hace menos de dos semanas, el investigador Jacob Coxon renunció a su empleo en Anthropic, una empresa líder en el desarrollo de inteligencia artificial y creadora del modelo Claude. Lo que llamó la atención a nivel mundial fue la denuncia que hizo sobre esa empresa y también sobre OpenAI (la creadora de ChatGPT), a las que señaló de poner en riesgo la existencia misma de la humanidad, pues, según él, las herramientas de IA podrían destruir a la especie tan pronto como una década.

Anthropic fue fundada en 2021 por Dario y Daniela Amodei, exmiembros de OpenAI descontentos con la forma en la que se priorizaba el lucro sobre la seguridad. Las quejas de Coxon de alguna manera sugieren que finalmente la nueva empresa no es tan distinta.

Estas disputas corporativas constituyen el marco de análisis: la IA está siendo desarrollada por empresas privadas que compiten entre sí por lograr modelos cada vez más potentes. Esos modelos y herramientas de IA son propiedad privada y están subsumidas en la forma mercantil, es decir, tienen como objetivo el lucro o la revalorización, en términos marxistas. Muestran ese doble carácter de valor de uso y valor. Y entonces no sólo sirven para resolver problemas o facilitar el trabajo de los seres humanos, sino que también deben generar un rendimiento en el intercambio. Dicho en otras palabras, el desarrollo de la inteligencia artificial se está dando en el seno del capitalismo, como una mercancía más.

La lógica del capital o la lógica mercantil amenaza los valores de uso. La educación, por ejemplo, si se entiende no sólo como un servicio que transmite conocimientos sino también como una mercancía, pone en riesgo a la educación misma, que se convierte en una simulación hecha para generar rendimientos. Lo mismo puede decirse de los servicios de salud: cuando se les entiende más allá de su valor de uso y se les subsume en la lógica mercantil, entonces sus fines se alejan del bienestar de las personas y lo que se prioriza es la ganancia. Esto puede extenderse a la naturaleza en su conjunto, la fuente de los valores de uso. Si se la ve como una mercancía, su existencia misma se pone en riesgo por la sobreexplotación de los recursos, por el imperativo del lucro.

El dilema del prisionero

Lo que sucede entre las empresas tecnológicas enfocadas en el desarrollo de la IA puede plantearse en términos de lo que en Teoría de Juegos se conoce como el “Dilema del Prisionero”, que en su formulación clásica nos presenta un caso en el que dos ladrones son atrapados. La policía los encierra en celdas separadas y, como no tiene pruebas suficientes, les propone el mismo trato:

1. Si ambos guardan silencio se les dará sólo un año de prisión con un cargo menor.
2. Si uno confiesa y siempre que el otro guarde silencio, el delator saldrá libre y el cómplice recibirá diez años de cárcel.
3. Si ambos confiesan, los dos recibirán cinco años de pena.

¿Qué es lo que un ladrón debería hacer, como agente racional? Básicamente hay dos opciones, callar o confesar. Y todo depende de lo que el otro haga. Y aquí es donde se decide la cuestión: 1) si el otro calla, lo mejor es hablar, porque se obtendría la libertad, 2) si el otro habla, lo mejor es hablar también, porque se recibirán cinco años y no diez. En ambos escenarios, lo mejor es delatar, traicionar, eso es lo que se denomina Estrategia Dominante en este escenario.

El problema es que el otro ladrón llegará a la misma conclusión, si es racional, y entonces lo que sucederá es que ambos hablarán y obtendrán cinco años de prisión. Así, perderán la posibilidad de obtener sólo un año si ambos guardaban silencio.

La jaula del mercado

Aplicado a la inteligencia artificial, lo que tenemos es un dilema similar en el que las opciones son continuar o no continuar con el desarrollo de los modelos hasta las últimas consecuencias. Si los rivales fueran Anthropic y OpenAI, las opciones serían las siguientes:

1. Cooperar y frenar el entrenamiento de los modelos y no lanzarlos al mercado. En lugar de eso, se podría priorizar el desarrollo de las herramientas de alineación, es decir, que la inteligencia artificial entienda, adopte y respete los valores humanos antes de estar disponible para el público.
2. No cooperar y acelerar el desarrollo de los modelos, ignorando los riesgos a largo plazo para alcanzar más rápidamente que la competencia los modelos más potentes y dominar el mercado.

Como agentes racionales, las empresas tienen que descubrir cuál sería la Estrategia Dominante. Y para ello, como ya se vio, se tiene que suponer qué hará la contraparte: 1) si la otra empresa frena su desarrollo, lo mejor es no cooperar, pues así se dominará el mercado mundial, 2) y si no coopera, lo mejor es tampoco hacerlo pues si se opta por frenar el desarrollo entonces la competencia dominará el mercado y se habrá perdido la competencia mercantil.

Ninguna empresa quiere ser el “idiota” que, por reservas morales, pierda el juego corporativo y quede en la ruina. En lugar de invertir en la alineación de los modelos con nuestros valores, la lógica de la competencia dicta que esos recursos deben dirigirse al desarrollo acelerado. Y que los empleados o directivos cautelosos bien podrían ser despedidos en favor de personas más decididas y con menos escrúpulos.

Los que dejaron OpenAI con la idea de fundar Anthropic, que sería una empresa con un código de ética más fuerte, se dieron cuenta de que, si la gente de OpenAI está decidida a no cooperar y no frenar el desarrollo de los modelos, entonces Anthropic podría encaminarse al fracaso empresarial y comercial.

El papel de China

Más allá de eso, ambas empresas norteamericanas saben también que, del otro lado del océano, empresas chinas apoyadas por el Estado como Alibaba, Baidu y DeepSeek no se detendrán ni desacelerarán sus procesos no sólo por motivos mercantiles, sino también por motivos políticos: Pekín no está dispuesto a darle ventajas tecnológicas a Washington y no puede confiar en que su contraparte norteamericana frenará el avance de la IA, que puede tener, por ejemplo, múltiples aplicaciones militares, industriales y espaciales.

En la carrera por llegar a un modelo de lo que se denomina Inteligencia Artificial General (AGI, por sus siglas en inglés), es decir uno que tenga flexibilidad cognitiva de nivel humano, razonamiento abstracto, capacidad de aprendizaje, sentido común, intuición, improvisación e invención, el Estado chino se ha planteado convertirse en el principal centro de innovación a nivel global para el 2030. Las prohibiciones de Estados Unidos para que las empresas norteamericanas dejen de exportar chips a China son parte de los esfuerzos occidentales por obstaculizar esos planes.

Frente a eso, las empresas norteamericanas están impedidas de llegar a acuerdos de cooperación medianamente viables, pues eso les dejaría el camino despejado a sus competidores chinos, lo que no sólo tendría consecuencias económicas, sino también geopolíticas. No sólo el mercado está en juego, sino también la hegemonía a nivel mundial.