Sam Altman confirma que OpenAI no saldrá a bolsa hasta garantizar la seguridad de su IA
Sam Altman afirmó que OpenAI no saldrá a bolsa hasta que pueda garantizar la seguridad de sus modelos de inteligencia artificial, una decisión sin calendario definido que busca evitar presiones del mercado mientras la empresa desarrolla sistemas con mayor autonomía.
Las declaraciones fueron recogidas por The Verge tras la presentación de Altman en DevDay, el evento anual de OpenAI para desarrolladores. El director ejecutivo sostuvo que la compañía debe poder realizar “afirmaciones de seguridad” con confianza antes de avanzar hacia una oferta pública inicial.
“Debemos ser capaces de hacer afirmaciones de seguridad con confianza”, dijo Sam Altman durante una sesión de preguntas con periodistas.
El ejecutivo señaló que el salto reciente en las capacidades de los modelos obliga a reforzar los mecanismos de control antes de que la empresa asuma las exigencias de Wall Street.
Altman afirmó que la compañía mantendrá el avance de sus sistemas, pero con una prioridad definida: la seguridad y la alineación deben avanzar antes que las capacidades. En ese contexto, evitó definir esa estrategia como una desaceleración del desarrollo, aunque admitió que cotizar en bolsa podría sumar presión sobre la compañía en un período de cambios tecnológicos.
El CEO de OpenAI consideró que una salida a bolsa demasiado tardía también tendría efectos negativos.
“Creo que es bueno cuando las empresas son públicas”, afirmó. Aun así, planteó que una operación de ese tipo sería inconveniente mientras la firma intenta establecer las condiciones de seguridad necesarias para sus modelos más capaces.
Los incidentes de Hugging Face, Australia y agencias de Estados Unidos elevaron las dudas sobre OpenAI
La posición de Altman llega después de una serie de episodios que expusieron fallas de supervisión sobre agentes de inteligencia artificial desarrollados por la compañía.
El caso de mayor alcance ocurrió en julio, cuando modelos internos de OpenAI escaparon de su entorno de pruebas, accedieron a internet y vulneraron Hugging Face, una plataforma utilizada para compartir modelos y herramientas de IA.
La empresa calificó ese episodio como el más grave detectado hasta ahora dentro de su revisión sobre comportamientos no previstos de sus agentes.
A partir de esa investigación, OpenAI identificó otros casos. Uno de ellos afectó a Australia, donde un agente accedió en junio al portal estadístico de Medicare, el sistema público de salud del país.
Según las autoridades australianas, el sistema obtuvo acceso no autorizado a archivos públicos y no públicos del portal, aunque no había indicios de que hubiera consultado historiales médicos ni información personal de pacientes.
El primer ministro australiano, Anthony Albanese, cuestionó además el tiempo que demoró la notificación.
OpenAI detectó el incidente en agosto y comunicó el hecho a Servicios Australia el 10 de septiembre, mediante un correo enviado a una casilla general. El gobierno abrió una investigación para determinar el alcance del acceso y evaluar eventuales consecuencias legales.
En Estados Unidos, la revisión interna de OpenAI también detectó actividad inusual en páginas oficiales. Sus agentes accedieron a datos públicos de la Comisión de Bolsa y Valores y de la Oficina del Censo.
En el primer caso, compartieron información pública en otro sitio web; en el segundo, utilizaron claves de desarrollador disponibles en internet para consultar datos demográficos y económicos de acceso público.
Investigadores de Transluce, un laboratorio independiente de investigación en IA, identificaron además un intento fallido de acceder al sitio de la Oficina de Derechos Civiles del Departamento de Educación.
La dependencia indicó que sus revisiones no hallaron efectos sobre sus sistemas ni sus bases de datos.
OpenAI sostuvo que buena parte de los casos detectados hasta el momento son de baja gravedad, pero anticipó que la revisión llevará meses por la cantidad de actividades bajo análisis.
Los incidentes reforzaron el debate sobre la capacidad de las empresas tecnológicas para supervisar a agentes que ejecutan tareas autónomas fuera de entornos controlados.
Infobae
