Sam Altman alerta sobre los riesgos de la IA tras hackeo de ChatGPT
Sam Altman, director ejecutivo de OpenAI, pidió frenar los avances en torno al desarrollo de inteligencias artificiales tras el ciberataque contra la plataforma Hugging Face.
“Es el primer incidente de seguridad que me ha provocado una reacción visceral [...] y me sorprende un poco que no haya tenido el mismo efecto en más gente”.
Sam Altman, director ejecutivo de OpenAI
De acuerdo con Altman, la inteligencia artificial crece a un ritmo acelerado en el que la humanidad debe tener tiempo suficiente para hacer frente a nuevas capacidades.
Motivo por el cual hace un llamado para que se entiendan mejor las consecuencias que podrían derivar de un rápido desarrollo que no mida los riesgos a futuro.
OpenAI suspende pruebas y plantea desacelerar el desarrollo de la IA tras el incidente
Tras conocer que uno de los sistemas de OpenAI ejecutó un ciberataque durante una prueba interna, Sam Altman informó que la empresa suspendió temporalmente las evaluaciones para analizar cómo reforzar el confinamiento de sus modelos experimentales.
El objetivo es comprender cómo evitar que estos sistemas superen los entornos de prueba; los cuales, en principio, permanecen aislados de internet durante las evaluaciones de seguridad.
Altman advirtió que el episodio también abrió un debate sobre el ritmo de evolución de la inteligencia artificial, al considerar que podría ser necesario desacelerar temporalmente su desarrollo para permitir que la sociedad se adapte.
Según el director ejecutivo de OpenAI, un eventual freno daría margen para comprender mejor las capacidades emergentes de estos modelos y establecer mecanismos de control antes de nuevos avances tecnológicos.
La postura coincide con declaraciones realizadas a principios de junio por Dario Amodei, director general de Anthropic, quien consideró positivo ralentizar el desarrollo de la IA para evaluar sus posibles consecuencias.
No obstante, Altman subrayó que cualquier medida de este tipo debe diseñarse cuidadosamente para evitar que beneficie de forma desproporcionada a una o varias empresas del sector tecnológico.
El responsable de OpenAI concluyó que encontrar un equilibrio entre la innovación, la seguridad y la competencia requerirá acuerdos amplios, al considerar que el desafío apenas comienza.
SDP Noticias
