Harry y Meghan, Steve Bannon y otros firman una petición pidiendo la prohibición de la ‘superinteligencia’ de la IA

Forbes México.
Harry y Meghan, Steve Bannon y otros firman una petición pidiendo la prohibición de la ‘superinteligencia’ de la IA

Cientos de figuras públicas, incluidos multimillonarios, ex funcionarios de la Casa Blanca, destacados investigadores de inteligencia artificial, premios Nobel, miembros de la familia real británica y figuras de los medios de comunicación de derecha, firmaron una petición pidiendo la prohibición del desarrollo de la “superinteligencia”, una forma avanzada de IA que se espera que supere la capacidad cognitiva humana.

Datos clave

La petición, organizada por la organización sin fines de lucro Future of Life Institute, cuyo sitio web menciona a Elon Musk como asesor externo, exige la “prohibición del desarrollo de la superinteligencia”.

La petición afirma que esta moratoria debería mantenerse hasta que exista un “amplio consenso científico de que se realizará de forma segura y controlada” y una “fuerte aceptación pública”.

El multimillonario Richard Branson, el cofundador de Apple, Steve Wozniak, y los duques de Sussex, Harry y Meghan, se encontraban entre las 850 figuras públicas que habían firmado la petición hasta la mañana de este miércoles.

Los medios de comunicación de derecha Glenn Beck y Steve Bannon también figuraban como firmantes verificados, junto con el líder evangélico Johnnie Moore, quien anteriormente fue asesor del presidente Donald Trump.

Varios destacados investigadores y científicos de IA también firmaron la petición, entre ellos Yoshua Bengio y el Premio Nobel Geoffrey Hinton —conocidos como los “Padrinos de la IA”—, y Stuart Russell, de la Universidad de California en Berkeley, coautor de uno de los libros de texto más relevantes sobre IA.

La exasesora de Seguridad Nacional de EU, Susan Rice, y el exjefe del Estado Mayor Conjunto, Michael Mullen, se encontraban entre los destacados exfuncionarios del gobierno que firmaron la petición.

Te recomendamos: Elon Musk cree que la ‘superinteligencia’ artificial llegará en cinco o seis años

¿Qué dijeron los firmantes?

En una declaración que acompañaba a su firma, Yoshua Bengio escribió: “Los sistemas de IA de vanguardia podrían superar a la mayoría de las personas en la mayoría de las tareas cognitivas en tan solo unos años… Para avanzar con seguridad hacia la superinteligencia, debemos determinar científicamente cómo diseñar sistemas de IA que sean fundamentalmente incapaces de dañar a las personas, ya sea por desalineación o uso malicioso. También debemos asegurarnos de que el público tenga una participación mucho más fuerte en las decisiones que moldearán nuestro futuro colectivo”.

Stuart Russell señaló que la petición no pedía “una prohibición o incluso una moratoria en el sentido habitual”, sino más bien una “propuesta para exigir medidas de seguridad adecuadas para una tecnología que, según sus desarrolladores, tiene una probabilidad significativa de causar la extinción humana”.

Tangente

En marzo de 2023, el Future of Life Institute publicó otra petición pidiendo una pausa en los “Experimentos Gigantes de IA”, firmada por Elon Musk y varios otros que también firmaron la petición del miércoles.

Musk, quien ahora dirige sus propias iniciativas de IA bajo su empresa xAI, no firmó la última petición y no está claro si se unirá. En su sitio web, la organización sin fines de lucro incluye a Musk como asesor externo y afirma que el multimillonario ha “destacado los riesgos potenciales de la IA avanzada”.

El programa de investigación del instituto sobre IA comenzó en 2015, respaldado por una donación de 10 millones de dólares de Musk.

¿Qué sabemos sobre las encuestas públicas sobre la seguridad de la IA?

En septiembre, Gallup publicó una encuesta que mostraba que el 80% de los adultos estadounidenses cree que el gobierno debería mantener las normas de seguridad de la IA y la protección de datos, incluso si ello ralentiza el desarrollo de la IA. Solo el 9% de los adultos estadounidenses encuestados se mostró a favor de acelerar el desarrollo de las capacidades de la IA, incluso si esto implicara normas de seguridad de la IA y la protección de datos más laxas.

El apoyo a las normas de seguridad de la IA es transversal a ambos partidos: el 88% de los demócratas, el 79% de los republicanos y los independientes están a favor. La propia encuesta del Future of Life Institute reveló que el 64% de los adultos estadounidenses cree que “la IA sobrehumana no debería desarrollarse hasta que se demuestre que es segura y controlable, o que nunca debería desarrollarse”.

Este artículo fue publicado originalmente en Forbes US

Síguenos en Google Noticias para mantenerte siempre informado

Harry y Meghan, Steve Bannon y otros firman una petición pidiendo la prohibición de la ‘superinteligencia’ de la IA
Siladitya Ray