¿Será realmente la IA general el ‘último invento’? Vanguardia.com.mx

Por Carl Benedikt Frey, Project Syndicate.

OXFORD- A mediados de la década de 1960, el matemático y criptógrafo de Bletchley Park I.J. Good propuso un experimento mental que desde entonces se ha convertido en el evangelio secular de Silicon Valley. Si construyéramos una “máquina ultrainteligente”, argumentó, esta podría diseñar máquinas aún mejores, desencadenando una explosión de inteligencia que dejaría muy atrás a la cognición humana. La primera máquina de este tipo, por lo tanto, sería “el último invento que el hombre necesitaría crear”.

Hoy en día, esa profecía, que en su momento fue materia de ciencia ficción, se ha convertido en el objetivo central de las instituciones más poderosas del mundo. Demis Hassabis, de Google DeepMind, por ejemplo, habla de “resolver la inteligencia” para “resolver todo lo demás”. Suena atractivo. Pero incluso si asumimos, por el bien del argumento, que los sistemas futuros pueden aprender, experimentar y generar soluciones genuinamente novedosas mucho más allá de los modelos actuales, la tesis del último invento sigue basándose en múltiples supuestos cuestionables.

El primero es que la innovación se asemeja a una carrera sin obstáculos desde la idea hasta el impacto. No es así. Más bien, el proceso de descubrimiento se parece más a una cadena, cuya fuerza depende de su eslabón más débil.

Estos eslabones débiles definen gran parte del progreso humano. En 1986, el transbordador espacial Challenger se desintegró 73 segundos después del lanzamiento, no por un fallo en sus motores o en su software de última generación, sino porque una pequeña junta de goma falló al ser sometida a las bajas temperaturas atmosféricas (como expuso brillantemente el físico y premio Nobel Richard Feynman en las audiencias sobre el desastre). Desde entonces, la “junta tórica” se ha convertido en una metáfora de los cuellos de botella críticos que pueden hundir incluso a los sistemas más sofisticados.

El proceso de descubrimiento funciona de la misma manera. La inteligencia artificial general (IAG), entendida generalmente como un modelo capaz de realizar cualquier tarea cognitiva, puede acelerar drásticamente la investigación médica en fase inicial, pero si no puede gestionar los ensayos clínicos, fabricar a gran escala u obtener la aprobación regulatoria, el “avance” nunca se convierte en una invención que mejore la vida de las personas. Cuando se automatizan las primeras etapas del descubrimiento, el papel del ser humano no desaparece; simplemente se desplaza hacia los cuellos de botella restantes, donde lo que importa es el criterio, el conocimiento tácito y la experiencia práctica.

Esta complicación nos lleva a otra aún mayor: la IAG no solo tendría que superar a los seres humanos; tendría que superar a los humanos que utilizan la IAG. Para que la historia del “último invento” se sostenga, las personas tendrían que volverse innecesarias incluso como socios o supervisores de las IA.

Pero la inteligencia no es una cantidad: “más” no sustituye simplemente a “menos”. Incluso una IAG muy capaz podría ser de naturaleza diferente a la de un humano: excepcional en velocidad y en la detección de patrones, pero frágil cuando se enfrenta a casos poco habituales. Diferentes puntos fuertes implican diferentes puntos ciegos, y cuando estos no se solapan, la combinación del criterio humano y el de la máquina seguirá superando a cualquiera de los dos por separado.

El juego Go ofrece un recordatorio útil. Luego de que AlphaGo, de Google DeepMind, venciera a Lee Sedol por 4 a 1 en 2016, su superioridad frente a los jugadores humanos parecía indiscutible. Sin embargo, en 2023, los investigadores demostraron que, al llevar a los mejores motores de ajedrez a posiciones inusuales, fuera de su entrenamiento, un aficionado humano con conocimientos informáticos modestos podía derrotar con fiabilidad a los mejores programas. La aparente supremacía puede ocultar debilidades sistemáticas, y es precisamente ahí donde muchas veces la intervención humana aporta mayor valor.

Un tercer problema se refiere al propio conocimiento. La tesis del “último invento” asume que toda la información relevante puede codificarse, pero normalmente no es así. Pocos inventos cambiaron el mundo más que el Ford T, que transformó el automóvil en un producto de consumo masivo. Pero el logro de Henry Ford no radicó solo en un diseño nuevo. Más importante fue su enfoque para organizar la producción.

Por eso delegaciones de Italia, Alemania, la Unión Soviética y otros lugares viajaron para estudiar las fábricas de Ford de primera mano. El conocimiento esencial no se podía extraer de ningún plano. Estaba integrado en las rutinas, la secuenciación, las herramientas y la resolución de problemas cotidianos de los operarios en la planta. Del mismo modo, el sistema de producción ajustada de Toyota era difícil de replicar porque está integrado en las rutinas y la cultura humanas, no en un esquema.

Una mayor inteligencia no resuelve automáticamente el “problema del conocimiento” -el hecho de que lo que hace funcionar a los sistemas complejos es información dispersa, local y, a menudo, tácita-. Si el conocimiento fuera fácilmente transferible, las industrias no se concentrarían de forma tan intensa, como en Silicon Valley o la City de Londres.

Los entusiastas de la IA podrían responder diciendo: “De acuerdo, instalemos sensores, cámaras y micrófonos por todas partes, y codificaremos el conocimiento que falte”. Pero esta estrategia presupone que las personas monitoreadas se comunicarán abiertamente y compartirán el conocimiento que generan, y deja de lado la política y la ley. Registrar “todo, en todas partes” entraría en conflicto con el Reglamento General de Protección de Datos de la Unión Europea, que se ha convertido en un modelo para la regulación de la privacidad en todo el mundo.

Asimismo, la Ley de IA de la UE no da vía libre a los despliegues intensivos de vigilancia necesarios para recopilar los conocimientos humanos a gran escala. E incluso si lo hiciera, no se puede asumir que todos los conocimientos humanos, y mucho menos el criterio, se puedan digitalizar tan fácilmente.

En última instancia, es muy posible que la IAG automatice la inteligencia. Pero el proceso de invención depende de algo más. A menudo, lo difícil no es idear una solución, sino llevarla a la práctica. Se necesita conocimiento local, rutinas de confianza, cadenas de suministro y capacidad institucional para que algo funcione de manera fiable en el mundo real. Una mayor inteligencia no genera automáticamente esos elementos complementarios.

La IAG transformará el descubrimiento al abaratar la experiencia y agilizar la experimentación. Sin embargo, “el último invento de la humanidad” es una afirmación mucho más contundente. Para que sea cierta, necesitaríamos un mundo en el que los conocimientos prácticos fueran totalmente transferibles a través de canales digitales y en el que la responsabilidad pudiera automatizarse junto con la cognición. Ese no es el mundo en el que vivimos.

A medida que la inteligencia se abarate, cambiarán los activos que tienen mayor valor. La ventaja recaerá en quienes puedan generar resultados. Los seres humanos no se están volviendo prescindibles; se están convirtiendo en los cuellos de botella más decisivos del mundo. Copyright: Project Syndicate, 2026.

Carl Benedikt Frey, profesor asociado de IA y Trabajo en el Oxford Internet Institute y director del Programa sobre el Futuro del Trabajo en la Oxford Martin School, es autor, más recientemente, de How Progress Ends: Technology, Innovation, and the Fate of Nations (Princeton University Press, 2025).