El Reloj del Juicio Final se acerca a la medianoche. La IA es una gran razón Mas Cipolleti
No faltan explicaciones de por qué el Boletín de los Científicos Atómicos cambió su metafórico “Reloj del fin del mundo“aumentó en unos asombrosos 4 segundos el martes, hasta 85 segundos para la medianoche. Por ejemplo, los líderes mundiales están hablando abiertamente sobre pruebas y usando armas nucleares, y Estados Unidos está asumiendo la amenaza del cambio climático causado por los combustibles fósiles aún menos en serio que el año pasado.
Pero detrás de todas las amenazas existenciales que nos creamos hay una falta de cooperación, mucho peor por la aceleración de la IA. deepfakes y la erosión de la confianza en los sistemas de información.
“La IA es una tecnología disruptiva significativa y que se acelera”, dijo Daniel Holz, presidente del Consejo de Ciencia y Seguridad del Boletín Poniendo el Reloj del Juicio Final y profesor de física en la Universidad de Chicago, durante la conferencia. anuncio. “La IA también está potenciando la desinformación y la desinformación, lo que hace aún más difícil abordar todas las demás amenazas que consideramos. Pero en lugar de trabajar para lograr estándares internacionales que regulen la seguridad de la IA, nos estamos precipitando hacia una carrera armamentista de IA con lo que podrían ser consecuencias nefastas”.
La IA y las redes sociales están contribuyendo a lo que periodistas y Premio Nobel de la Paz La receptora Maria Ressa lo llamó “armagedón de la información”. Sin información confiable, carecemos de la “realidad compartida” necesaria para enfrentar amenazas existenciales como el cambio climático y las armas nucleares. La IA generativa permite la creación de desinformación de gran volumen y prácticamente gratuita junto con un fraude cada vez más convincente.
“La integridad de la información es la madre de todos los modelos, porque la democracia no se puede gestionar en un sistema operativo corrupto”, afirmó Ressa.
No es la única advertencia sobre los riesgos de la IA la semana pasada. El Papa León XIV, en un mensaje Antes del Día Mundial de las Comunicaciones, generó preocupación por el hecho de que las personas renunciaran a su capacidad de pensar y comunicarse con los sistemas de inteligencia artificial.
“Al simular voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, los sistemas conocidos como inteligencia artificial no sólo interfieren con los ecosistemas de información, sino que también invaden el nivel más profundo de la comunicación, el de las relaciones humanas”, escribió el Papa.
No se pierda nada de nuestro contenido técnico imparcial y análisis de laboratorio. Añadir CNET como fuente preferida de Google.
Preocupaciones similares rondaban por la mente de algunos de los creadores de la IA. Dario Amodei, cofundador y director ejecutivo del desarrollador de inteligencia artificial Anthropic, publicó un publicación de blog larga sobre los riesgos y oportunidades de los sistemas de IA cada vez más potentes. Destacó los riesgos para la autonomía, el mal uso y la perturbación económica de la IA, si la tecnología deja a un gran número de personas sin trabajo.
“La humanidad está a punto de recibir un poder casi inimaginable y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos tienen la madurez para ejercerlo”, escribió Amodei.
A pesar del pesimismo del nombre del Reloj del Juicio Final, los expertos que hablaron en el anuncio del Boletín dijeron que el objetivo es resaltar las oportunidades para evitar el peor de los casos. “Este es un ejercicio fundamentalmente optimista”, dijo Holz. “El objetivo de esto es que hay formas de retroceder en el tiempo”.
Mira esto: Retroceso tecnológico de 2025: dominio de la IA, aumento del “descuido” y victorias judiciales | La tecnología hoy
Como el reloj representa amenazas creadas por el hombre, la gente puede corregirlas, dijo Alexandra Bell, presidenta y directora ejecutiva del Bulletin. Bell alentó a la gente a buscar información precisa sobre temas como el cambio climático, las armas nucleares y la inteligencia artificial y a presionar a los políticos y otras personas en el poder para arreglar las cosas.
“Cada vez que hemos podido retroceder en el tiempo es porque hemos tenido científicos y expertos trabajando para encontrar soluciones y un público exigiendo acciones”, dijo Bell.
