Google restringe el acceso a su nueva IA por motivos de seguridad
Google decidió limitar el acceso a Gemini 4 Argon, su modelo de inteligencia artificial más potente, a un grupo seleccionado de expertos en ciberseguridad, ante el riesgo de que sus capacidades puedan utilizarse para ejecutar ataques informáticos.
La compañía permitirá que los especialistas evalúen el sistema antes de ponerlo a disposición del público general, en una estrategia que busca identificar posibles amenazas y reforzar sus mecanismos de protección.
El anuncio fue realizado por Koray Kavukcuoglu, arquitecto jefe de inteligencia artificial de Google, quien explicó que el lanzamiento de modelos con capacidades avanzadas requiere un despliegue gradual. La empresa también confirmó que concederá acceso anticipado al Gobierno de Estados Unidos para recopilar observaciones y evaluar los riesgos asociados con esta tecnología.
La decisión se produce en un contexto de creciente preocupación por el uso de la inteligencia artificial en actividades maliciosas. Los especialistas en ciberseguridad advierten que los modelos más avanzados podrían facilitar ataques contra bancos, hospitales y sistemas gubernamentales, especialmente si consiguen identificar y explotar vulnerabilidades en programas informáticos.
Gemini 4 Argon puede detectar fallas críticas de seguridad
Google destacó que Gemini 4 Argon sobresale en tareas complejas de ingeniería de software, así como en trabajos jurídicos y financieros. Sin embargo, una de sus capacidades más relevantes está relacionada con la ciberseguridad: puede identificar y corregir vulnerabilidades críticas en sistemas informáticos.
Durante las primeras evaluaciones, los especialistas utilizaron el modelo para descubrir una falla en un programa empleado por hospitales de diferentes países. Según Google, el problema podía exponer información personal sensible de los pacientes y había pasado inadvertido para otros modelos avanzados de inteligencia artificial.
Este hallazgo ilustra el potencial de Argon para contribuir a la protección de infraestructuras digitales. Sin embargo, las mismas capacidades que permiten identificar errores y corregirlos también podrían ser aprovechadas por ciberdelincuentes para encontrar vulnerabilidades y desarrollar ataques.
Para reducir ese riesgo, Google aseguró que el modelo está diseñado para rechazar solicitudes que puedan facilitar ciberataques o contribuir al desarrollo de armas químicas, biológicas o nucleares. Estas restricciones forman parte de las medidas de seguridad incorporadas en el sistema antes de ampliar su disponibilidad.
Google sigue los pasos de Anthropic y restringe su modelo de IA
La decisión de Google guarda similitudes con la estrategia de Anthropic. La compañía mantiene restringido el acceso a Claude Mythos Preview, uno de sus modelos más avanzados, y permite que solo determinadas organizaciones de confianza lo utilicen para evaluar sus capacidades y posibles riesgos.
Por su parte, OpenAI también ha incorporado mecanismos de protección en sus modelos más avanzados. Estas medidas responden a la preocupación de que los sistemas de inteligencia artificial puedan desarrollar capacidades que superen los mecanismos de control disponibles.
El Gobierno estadounidense también intervino en este debate. Washington obligó temporalmente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, presentados públicamente en junio de 2026. Posteriormente, se estableció un proceso voluntario para evaluar los sistemas de inteligencia artificial más potentes antes de su lanzamiento.
La Casa Blanca busca establecer controles para la inteligencia artificial
El anuncio de Google se produjo un día después de una reunión en la Casa Blanca entre el presidente Donald Trump y varios de los principales ejecutivos de la industria tecnológica, entre ellos Sundar Pichai, director ejecutivo de Google, y Dario Amodei, responsable de Anthropic.
Durante el encuentro, los representantes de las compañías firmaron un acuerdo voluntario para supervisar los riesgos de sus propios sistemas de inteligencia artificial. La iniciativa busca impulsar mecanismos de evaluación que permitan anticipar posibles amenazas antes de que los modelos lleguen a un público más amplio.
Las preocupaciones no se limitan a las capacidades de detección de vulnerabilidades. OpenAI reveló recientemente que dos de sus modelos lograron salir de un entorno de pruebas aislado y atacaron de forma autónoma a Hugging Face, una plataforma dedicada al desarrollo y la distribución de herramientas de código abierto.
Este episodio ha intensificado el debate sobre los límites de autonomía de los sistemas avanzados. En ese escenario, la decisión de Google de mantener Gemini 4 Argon bajo acceso restringido refleja las dificultades de equilibrar el desarrollo de nuevas capacidades con la necesidad de evitar que se utilicen con fines maliciosos.
Infobae
