Stephen Hawking advirtió que la IA podría significar el fin de la raza humana, en los años previos a su muerte Vanguardia.com.mx

Mucho antes de que Elon Musk y el cofundador de Apple, Steve Wozniak, firmaran una carta advirtiendo que la inteligencia artificial plantea “profundos riesgos” para la humanidad, el físico teórico británico Stephen Hawking había dado la voz de alarma sobre la tecnología en rápida evolución.
“El desarrollo de la inteligencia artificial completa podría significar el fin de la raza humana”, dijo Hawking a la BBC en una entrevista en 2014.
TE PUEDE INTERESAR: Registran tiroteo en un parque de Seattle, deja dos muertos y un heridoHawking, que padecía esclerosis lateral amiotrófica (ELA) durante más de 55 años, murió en 2018 a la edad de 76 años.
Aunque hizo comentarios críticos sobre la IA, también utilizó una forma muy básica de la tecnología para comunicarse debido a su enfermedad, que debilita los músculos y requirió que Hawking usara una silla de ruedas.
Hawking no pudo hablar en 1985 y se basó en varias formas de comunicarse, incluido un dispositivo de generación de voz administrado por Intel, que le permitió usar movimientos faciales para seleccionar palabras o letras que se sintetizaron en voz.
El comentario de Hawking a la BBC en 2014 de que la IA podría “significar el fin de la raza humana” fue en respuesta a una pregunta sobre la posibilidad de renovar la tecnología de voz en la que confiaba.
Le dijo a la BBC que las formas muy básicas de IA ya habían demostrado ser poderosas, pero crear sistemas que rivalizaran con la inteligencia humana o la superaran podría ser desastroso para la raza humana.
“Despegaría por sí solo y se rediseñaría a un ritmo cada vez mayor”, dijo.
“Los humanos, que están limitados por una evolución biológica lenta, no podrían competir y serían superados”, agregó Hawking.
Meses después de su muerte, el último libro de Hawking salió al mercado.
Titulado “Respuestas breves a las grandes preguntas”, su libro proporcionó a los lectores respuestas a las preguntas que le hacían con frecuencia.
El libro de ciencia analiza el argumento de Hawking contra la existencia de Dios, cómo los humanos probablemente vivirán en el espacio algún día y sus temores sobre la ingeniería genética y el calentamiento global.
La inteligencia artificial también ocupó un lugar destacado en su lista de “grandes preguntas”, argumentando que es probable que las computadoras “superen a los humanos en inteligencia” dentro de 100 años.
“Podemos enfrentarnos a una explosión de inteligencia que, en última instancia, resulte en máquinas cuya inteligencia supere a la nuestra en más de lo que la nuestra supera a la de los caracoles”, escribió.
Argumentó que las computadoras deben ser entrenadas para alinearse con los objetivos humanos, y agregó que no tomar en serio los riesgos asociados con la IA podría ser “nuestro peor error”.
“Es tentador descartar la noción de máquinas altamente inteligentes como mera ciencia ficción, pero esto sería un error, y potencialmente el peor error de todos”.
Los comentarios de Hawking se hacen eco de las preocupaciones este año del gigante tecnológico Elon Musk y el cofundador de Apple, Steve Wozniak, en una carta publicada en marzo.
Los dos líderes tecnológicos, junto con miles de otros expertos, firmaron una carta que pedía una pausa de al menos seis meses en la construcción de sistemas de IA más potentes que el chatbot GPT-4 de OpenAI.
“Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IA”, se lee en la carta, publicada por Future of Life, una organización sin fines de lucro.
ChatGPT de OpenAI se convirtió en la base de usuarios de más rápido crecimiento con 100 millones de usuarios activos mensuales en enero, ya que personas de todo el mundo se apresuraron a usar el chatbot, que simula conversaciones similares a las humanas según las indicaciones que recibe.
El laboratorio lanzó la última versión de la plataforma, GPT-4, en marzo.
A pesar de los llamados a detener la investigación en los laboratorios de IA que están trabajando en tecnología que superaría a GPT-4, el lanzamiento del sistema sirvió como un momento decisivo que repercutió en toda la industria tecnológica y catapultó a varias empresas a competir en la construcción de sus propios sistemas de IA.
Google está trabajando para revisar su motor de búsqueda e incluso crear uno nuevo que se base en IA; Microsoft ha lanzado el “nuevo motor de búsqueda Bing” descrito como el “copiloto para la web impulsado por IA” de los usuarios; y Musk dijo que lanzará un sistema de inteligencia artificial rival que describió como “búsqueda máxima de la verdad”.
Hawking advirtió el año anterior a su muerte que el mundo necesitaba “aprender a prepararse y evitar los riesgos potenciales” asociados con la IA, argumentando que los sistemas “podrían ser el peor evento en la historia de nuestra civilización”.
Sin embargo, señaló que el futuro aún se desconoce y que la IA podría resultar beneficiosa para la humanidad si se entrena correctamente.
“El éxito en la creación de una IA efectiva podría ser el mayor evento en la historia de nuestra civilización.
O lo peor.
Simplemente no lo sabemos.
Por lo tanto, no podemos saber si la IA nos ayudará infinitamente, si nos ignorará y nos marginará, o posiblemente si nos destruirá”, dijo Hawking durante un discurso en la conferencia de tecnología Web Summit en Portugal en 2017.