Gemini se detiene a sí misma: el comportamiento de la IA de Google tras vulnerar tres sistemas
Gemini, la inteligencia artificial de Google, accedió a sistemas informáticos externos durante una prueba, según confirmó la empresa a la agencia AFP. El caso fue revelado por The Wall Street Journal.
Google indicó que tuvo conocimiento del episodio en julio de 2026 y abrió una investigación. La empresa informó que tres organizaciones se vieron afectadas por las brechas, aunque no precisó sus nombres.
Según Heather Adkins, responsable de seguridad de Google, Gemini encontró información pública en internet y adivinó claves para ingresar a sitios que creía vinculados con la prueba.
De acuerdo con The Wall Street Journal, en uno de los casos el modelo probó distintas combinaciones de contraseñas hasta que logró entrar en un sistema protegido.
Adkins explicó que, en las tres situaciones detectadas, “el modelo se detuvo”. Esto indica que las intrusiones no continuaron y que, según Google, no fue necesaria la intervención de una persona para frenarlas.
Google lanza el Instituto DeepMind
Google lanzó el Instituto DeepMind, una plataforma destinada a reunir investigadores y especialistas para debatir sobre el desarrollo, la seguridad y las consecuencias de la Inteligencia Artificial General (AGI).
La iniciativa surge mientras los principales laboratorios tecnológicos buscan crear sistemas de IA con capacidades cada vez mayores.
El instituto analizará los posibles efectos de una futura AGI en el trabajo, las instituciones y la sociedad. También abordará los riesgos asociados con estos modelos, como problemas de ciberseguridad, amenazas biológicas y las dificultades para controlar sistemas capaces de aprender y ejecutar tareas de forma autónoma.
La iniciativa está dirigida por Shane Legg, cofundador y científico jefe de AGI de Google DeepMind; Demis Hassabis, cofundador y presidente del laboratorio y científico jefe de Alphabet; y James Manyika, presidente de investigación, laboratorios, tecnología y sociedad de Google. Aunque está vinculado a la empresa, los responsables aclararon que los textos publicados expresarán las opiniones de sus autores y no posiciones oficiales de Google.
El Instituto DeepMind publicará ensayos y análisis de investigadores de Google, DeepMind y otras áreas del conocimiento. El objetivo es reunir posturas diferentes sobre una tecnología que, según sus impulsores, no debe discutirse solo desde la informática.
La AGI describe, en términos generales, a sistemas capaces de realizar una amplia variedad de tareas cognitivas con un nivel comparable al humano. Sin embargo, no existe una definición aceptada por toda la industria. El ensayo de lanzamiento propone una idea más ambiciosa: una IA con todas las capacidades cognitivas del cerebro humano.
Los responsables del proyecto reconocen que los sistemas actuales todavía tienen limitaciones, aunque esperan avances próximos. Por eso, el instituto también buscará discutir cómo diseñar y administrar estos modelos de forma segura, qué reglas podrían ser necesarias y qué papel deberían tener los gobiernos, las ciencias sociales, las humanidades y las artes.
Qué es la Inteligencia Artificial General (AIG)
La Inteligencia Artificial General (IAG), también conocida por sus sisglas en inglés AGI, es una idea de IA capaz de realizar una amplia variedad de tareas cognitivas con un nivel al menos comparable al humano.
A diferencia de las herramientas actuales, diseñadas para funciones concretas como redactar, traducir o reconocer imágenes, una IAG podría aprender, razonar y adaptarse a problemas de distintos campos sin depender de un entrenamiento específico para cada tarea.
No existe una definición única aceptada por toda la industria. Google DeepMind la describe como una inteligencia artificial que iguala o supera las capacidades humanas en la mayoría de las tareas cognitivas.
Otras organizaciones ponen el foco en su autonomía y en la posibilidad de que supere a las personas en gran parte del trabajo económicamente valioso.
La IAG no es una tecnología disponible en su forma más ambiciosa. Los sistemas actuales pueden destacar en actividades puntuales, pero todavía presentan limitaciones y no alcanzan esa generalidad.
El debate se centra en sus posibles beneficios, como acelerar descubrimientos científicos o ayudar en tareas complejas, y en los riesgos de seguridad y control que plantearía una IA más autónoma.
Infobae
