Sam Altman abre la puerta a desacelerar el desarrollo de la inteligencia artificial

Sam Altman, director ejecutivo de OpenAI, afirmó que podría ser necesario moderar el ritmo de desarrollo de la inteligencia artificial (IA) para dar tiempo a que la sociedad se adapte a las capacidades cada vez más avanzadas de estos sistemas. Las declaraciones representan un cambio respecto a su postura expresada en años anteriores, cuando rechazó propuestas para ralentizar el avance de esta tecnología.

Durante una entrevista en el pódcast Invest Like the Best por Spotify, conducido por Patrick O"Shaughnessy, Altman señaló que "quizás tengamos que moderar el ritmo de desarrollo de la IA para darnos tiempo suficiente a la sociedad para que se adapte a algunos de estos nuevos niveles de capacidad". Al mismo tiempo, sostuvo que cualquier iniciativa en ese sentido debe evitar convertirse en una forma de captura regulatoria o de coordinación entre los principales desarrolladores de modelos de inteligencia artificial.

De acuerdo al directivo, uno de los desafíos consiste en encontrar mecanismos que permitan gestionar el avance de la tecnología sin favorecer a un reducido grupo de empresas. "Tratamos de averiguar cómo hacerlo de una manera que no parezca una captura regulatoria para nadie y que tampoco parezca una colusión entre los laboratorios de vanguardia", afirmó.

Su postura contrasta con la que expresó en 2023, cuando rechazó una carta abierta que proponía pausar temporalmente el desarrollo de sistemas avanzados de inteligencia artificial. En aquel momento consideró que la iniciativa carecía de "la mayoría de los matices técnicos sobre dónde necesitamos hacer la pausa", por lo que evitó sumarse a ese llamado.

Según la fuente, parte de su cambio de perspectiva responde a un incidente de seguridad relacionado con un modelo avanzado de OpenAI. Durante la entrevista, Altman describió el episodio como un "incidente cibernético extremadamente propio de la ciencia ficción" y aseguró que fue "el primer incidente de seguridad que he sentido de forma tan visceral". De acuerdo con el mismo relato, los investigadores de la compañía suspendieron temporalmente el entrenamiento del modelo mientras trabajan en reforzar la seguridad del entorno donde operaba.

Las declaraciones de Altman también se producen en un contexto de debate sobre la gobernanza de la inteligencia artificial. Tanto OpenAI como Anthropic respaldaron recientemente una petición impulsada por empleados de laboratorios de IA para que el gobierno de Estados Unidos apoye un esfuerzo internacional destinado a desarrollar herramientas técnicas y de gobernanza que permitan acompasar deliberadamente el desarrollo de estos sistemas.

No obstante, el director ejecutivo de OpenAI reiteró que las preocupaciones sobre la seguridad de la inteligencia artificial no deben utilizarse para justificar que un pequeño grupo de organizaciones concentre el control sobre la tecnología. "Me aterra un mundo donde los temores reales sobre la IA se utilicen para decir: "Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa, y solo ellos la entienden, pero no se preocupen, tomarán las decisiones correctas para todos nosotros". No creo en eso", afirmó.

Por su parte, el sector enfrenta tensiones entre las preocupaciones de seguridad y los intereses comerciales de las empresas que desarrollan modelos avanzados. En ese escenario, el CEO de OpenAI reconoció que muchas advertencias sobre los riesgos de la IA tienen fundamentos legítimos, aunque consideró que, en algunos casos, también pueden estar influidas por incentivos para concentrar el poder dentro de la industria.