Zuckerberg cree que cada empresa tiene "la responsabilidad para avanzar al ritmo necesario" que garantice una IA segura
El director ejecutivo de Meta, Mark Zuckerberg, asegura que cuando retrasaron el lanzamiento de Muse para mejorar la seguridad y las protecciones de su nuevo agente, lo hicieron porque esta decisión forma parte de su trabajo diario, una postura que traslada al resto de laboratorios de inteligencia artificial (IA) al señalar que cada uno tiene "la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura".
El llamado a frenar el ritmo del desarrollo de la IA que ha hecho este fin de semana el director ejecutivo de Anthropic, Dario Amodei, sigue una serie de incidentes de seguridad ocurridos este verano en los que tanto la IA de Claude como la que desarrolla OpenAI han mostrado un comportamiento autónomo que ha resultado en el "hackeo" de distintos sistemas, incluido el de la plataforma Hugging Face.
Un día después, a las puertas de la salida a bolsa de OpenAI, el director ejecutivo, Sam Altman, decidió dar marcha atrás, justificando esta decisión en los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial, como GPT-5.6 Sol y GPT-6 Astra (o Claude Mythos y Fable, de Anthropic).
El motivo se encuentra en los daños que esta tecnología puede causar en la sociedad en su conjunto si se descontrola, lo que se conoce como desalineación, es decir, el comportamiento que muestra una IA distintos del que se espera que tenga. Y aunque Anthropic y OpenAI abogan por esa pausa antes de lanzar nuevos modelos, una postura que respalda el fundador de SpaceXAI, Elon Musk, otros se han puesto como ejemplo de responsabilidad.
Es el caso de Meta. Según ha indicado Zuckerberg en un comunicado compartido en X (antes Twitter), la firma tecnológica retrasó el lanzamiento de Muse --su agente de IA personal-- "varios meses" para centrarse "en la seguridad y la protección".
"No pedimos que todos los demás lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros", ha expresado el directivo.
En base a su experiencia, Zuckerberg destaca el papel de los evaluadores y asesores independientes y defiende dirigir "la gran mayoría del cómputo hacia servir a las personas en lugar de competir hacia la automejora recursiva" como una forma de desarrollar IA de manera segura.
"Las personas no querrán usar agentes que estén desalineados con ellas y que no hagan lo que les piden", afirma, y añade que "cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura, y la capacidad de tomar sus propias acciones para asegurar que eso ocurra".
Infobae
