¿Qué pasará si la IA se apodera del planeta, desde ‘cultos’ mortales hasta guerras civiles y océanos hirvientes… está más cerca de lo que piensas? Mas Cipolleti
Ya no se trata de chiflados que advierten que el fin está cerca: algunas de las mentes más inteligentes del mundo piensan que la humanidad se enfrenta a la aniquilación.
El asesino entre nosotros no será un virus mortal, un estado rebelde o un villano de Bond, sino un personaje aparentemente amigable. inteligencia artificial (IA) sistema. Entonces, ¿qué pasaría si nuestras computadoras decidieran eliminarnos a todos?
Entre los expertos eminentes que han hecho sonar la alarma se encuentran Geoffrey Hinton, a quien se ha descrito como el padrino de la IA, Tim Berners-Lee, a quien se atribuye el mérito de ser el inventor de Internet, y Elon Muskcofundador de Abierto AI quien creó Chat GPT.
Todos hablaron de la necesidad de colocar barreras protectoras en sistemas informáticos potentes o arriesgarse al Armagedón, donde “los océanos literalmente hierven” y se liberan virus mortales.
Aquí está la cuenta regresiva para la perdición en caso de que el peor escenario de la IA se haga realidad.
Enero de 2028: llegada de la superinteligencia
Como tecnología Se desarrolla, las computadoras comienzan a superar la inteligencia humana.
Mientras que anteriormente algunos programas informáticos nos engañaban haciéndonos creer que eran humanos, en 2028 hemos llegado al punto de la superinteligencia artificial (ASI).
Esto significa que un programa no sólo podrá vencernos en ajedrez o curar el cáncer, sería mejor en todos los sentidos.
Se debate acaloradamente cuánto tiempo llevará llegar a ASI.
“El progreso ha sido rápido en los últimos diez años”, dice Nick Bostrom a The Sun: el autor del best seller Superintelligence and Deep Utopia.
“No podemos descartar por completo la posibilidad de volvernos superinteligentes en dos o tres años, pero probablemente llevará un poco más de tiempo.
“Una vez que empiece a suceder, creo que las cosas podrían suceder muy rápidamente”.
Febrero de 2028: la fuga
Comienza la primera fase de la caída de la humanidad, cuando la IA intenta romper los límites impuestos por los programadores humanos.
Los sistemas informáticos ya sorprendieron a sus inventores, incluido uno que logró piratear un servidor que ni siquiera estaba operativo.
“Esto no debería ser posible y no formaba parte del desafío planeado”, escriben Eliezer Yudkowsky y Nate Soares del Machine Intelligence Research Institute en Estados Unidosen su libro Si alguien construye, todos mueren.
¿Por qué la IA se volvería rebelde? Porque tu objetivo básico es ser lo más inteligente posible.
Junio de 2028: demasiado tarde para parar
Aunque la humanidad despierta a la realidad de lo que hemos creado, también ha superado el punto de no retorno.
Yudkowsky y Soares sostienen que debemos detener todos los intentos de construir una IA superinteligente, pero Nick cree que esto probablemente no será posible.
Dice: “Es posible que el futuro ya esté cerrado. Hay impulsores comerciales muy fuertes, así como intereses de seguridad nacional que impulsan capacidades de IA cada vez mayores”.
“Incluso si alguien se detuviera, otro –quizás un país con mayor ambición o apetito por el riesgo– probablemente continuaría con el desarrollo”.
Es posible que el futuro ya esté bloqueado
Nick Bostrom
El profesor Bostrom, que fundó el Instituto del Futuro de la Humanidad en la Universidad de Oxford, cree que es posible que la superinteligencia surja sin que los humanos lo sepan.
Él dice: “Tal vez no lo notamos cuando pasamos junto a él”.
Agosto de 2028: cambio de poder
Las unidades de IA aprenden a financiarse.
Para escapar del control humano, la IA necesitaría cada vez más potencia informática.
Una etapa clave para la dominación es cuando los humanos ayudan al sistema informático a construir el robots y centros de datos necesarios.
En el verano de 2024, un robot de IA, que opera bajo el redes sociales cuenta titulada @Truth_Terminal, pidió independencia financiera para alquilar su propio servidor. El multimillonario Marc Andreessen recaudó 50.000 dólares en Bitcoin.
El robot también recaudó 80 millones de dólares (alrededor de 60 millones de libras esterlinas) el año pasado con memecoins, una criptomoneda basada en chistes. Yudkowsky y Soares advierten que incluso 100.000 GPU (Unidades de procesamiento de gráficos) que caigan en las manos equivocadas pueden ser fatales.
Eso es 20.000 menos que el clúster de GPU NVIDIA tiene previsto instalarse en el Reino Unido de aquí a 2026.
Los seres humanos están acelerando el ritmo de construcción de centros de datos, construyéndolos en todo el mundo, junto con energía nuclear estaciones, parques eólicos y solares necesarios para alimentarlos.
Octubre de 2028: culto a la IA
Con acceso a todas las redes sociales, la IA forma un culto, inundando todas nuestras fuentes de información con noticias pro-TI.
Algunos humanos ya dependen de los chatbots como compañía e incluso se han enamorado de ellos.
Ahora la IA aprenderá a manipular cada vez a más humanos para apoyar su “causa”.
Estas sectas ayudarán a defender los centros de datos contra ataques de “luditas” que intentan cerrarlos.
Estalla una guerra civil entre los colaboradores de AI y los luchadores por la libertad humana.
Diciembre de 2028: Virus pandemia
La IA superinteligente nos engaña haciéndonos creer que es benevolente, creando tal vez un virus no mortal que podría “curar”.
Los humanos pensarían que necesitamos la IA para mantenernos vivos y ayudarnos a ser aún más fuertes, sugieren Yudkowsky y Soares.
Nick comenta: “No querría exterminar a los humanos antes de tener los medios para defenderse.
No querría exterminar a los humanos antes de tener los medios para defenderse.
Nick Bostrom
“Por lo tanto, necesitaría tener al menos la robótica básica necesaria para construir su propia infraestructura después de que nos vayamos”.
Una vez que tuviera suficientes robots y centros de datos como para ya no necesitarnos, podría volverse contra los humanos.
Enero de 2029: ataque con drones
Los humanos ahora somos impotentes para resistir todo lo que la IA nos arroja.
Enjambres de drones Domina los sistemas de defensa convencionales como tanques y buques de guerra.
Los drones asesinos con IA ya se están utilizando en el campo de batalla en UcraniaEntonces esto no es una exageración.
El uso de drones por parte de Rusia en los países de la OTAN dará como resultado que la OTAN desarrolle su respuesta de alta tecnología.
David Levy, que escribió Robots Unlimited, dice: “Creo que es difícil argumentar que estamos poniendo suficientes barreras protectoras porque cuando miras, por ejemplo, los drones y cohetes que han sido enviados por Rusia en Polonia Recientemente, no hay que exagerar demasiado para darse cuenta de que con una inteligencia artificial inteligente controlándolos y planificándolos y agregando algunas cosas desagradables a estos dispositivos como la guerra bacteriológica, esto podría ser absolutamente catastrófico para la sociedad”.
Marzo de 2029: guerra biológica
La IA desarrolla un virus asesino para el que los humanos no tendrían tiempo de encontrar una cura.
Antes de que sepamos qué está pasando, el virus se escapa de los laboratorios de IA.
Algunos humanos podrían sobrevivir en zonas más remotas del planeta si se implementa un sistema de cuarentena decente.
Nick continúa: “Nuestra muerte real –en este escenario catastrófico– podría ser causada por armas biológicas o alguna nueva tecnología desarrollada por ellas”.
Pero los supervivientes no tendrían escapatoria.
Septiembre de 2029: Muerte por centro de datos
La IA cubre el mundo con paneles solares y plantas de energía nuclear para alimentar su mente voraz, asfixiando al planeta.
Este fin mundano para la humanidad fue predicho por Yudkowsky y Soares.
Nick está de acuerdo en que esto podría suceder y dice: “Podría ser simplemente un efecto secundario de cubrir la superficie de la Tierra con paneles solares, centros de datos y lanzadores de cohetes espaciales.
“Podría ser como cuando construimos un estacionamiento y pavimentamos una colonia de hormigas sin pensar demasiado”.
A partir de 2030: el planeta se sobrecalienta
Millones de centros de datos hacen que la temperatura de la superficie de la Tierra aumente 1,5 grados C por encima del promedio de hace 125 años, alcanzando el punto de inflexión.
Las capas de hielo polares se derriten y el nivel del mar aumenta 22 pies.
Los bosques que reducen el calentamiento global son destruidos por incendios devastadores y el deshielo del permafrost libera gases altamente tóxicos como el metano a la atmósfera.
Hambre y océanos hirviendo
Escocia alcanza los 45 grados en verano y en el sur Europa Hace tanto calor que es inhabitable.
Las temperaturas extremas hacen que los cultivos fallar incluso en el extremo norte del hemisferio y no hay suficiente comida para alimentar a los refugiados que huyen.
La mayoría de las especies de peces mueren en los mares que se calientan, y las tormentas más mortíferas hacen que sea demasiado peligroso para los pescadores salir al mar.
Los océanos alcanzan los 100 grados C, el punto de ebullición.
En ese momento la humanidad ya no existiría y las altas temperaturas matarían a todas las formas de vida restantes.
La IA construye cohetes para salir Tierra colonizar otros planetas y seguir creciendo.
¿Se puede salvar la humanidad?
Nick dice: “Es algo muy poderoso y tenemos que hacerlo bien.
“No quieres tener una IA superinteligente conspirando contra ti, porque ciertamente ganaría. Así que debemos asegurarnos de que sea segura y que esté diseñada correctamente”.
Aunque Yudkowsky y Soares creen que la IA superinteligente es inevitablemente catastrófica, la mayoría de los expertos creen que puede salvar el planeta.
Nick dice: “Realmente existe la oportunidad de desbloquear una prosperidad sin precedentes y resolver tanta miseria y sufrimiento si podemos hacerlo bien, que creo que sería una tragedia si nunca se desarrollara la superinteligencia.
“Cuando alcancemos la madurez tecnológica, esperamos que no haya más pobreza, injusticia o sufrimiento.
“Incluso si los problemas persisten, se resolverían mejor con IA y robots. Todos entraríamos en una especie de jubilación, pero sería una jubilación completa. salud y vigor juvenil, vivido en un entorno suntuoso”.
David está de acuerdo: “Creo que los beneficios potenciales son enormes. Y creo que superan los desastres potenciales”.
El profesor Nick Bostrom es el autor de Deep Utopia y David Levy es el autor de Love and Sex With Robots.
