Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Houston: el tiempo para hoy domingo 14 de diciembre. 05:41

Encuentra el pronóstico meteorológico de hoy para Houston, Texas, cómo estará el tiempo y las condiciones climáticas este domingo 14 de diciembre.

La Opinión de Los Ángeles

Ya puedes jugar a Lies of P en cooperativo gracias a un nuevo mod que ha requerido más de un año de trabajo.05:26

El grupo de modders Ember Wave ha lanzado una versión alfa de un mod que nos permite luchar contra los jefes de Lies of P en cooperativo para dos jugadores.Si te ha gustado Lies of P pero te has quedado con las ganas de poder disfrutar de la aventura en cooperativo en compañía de un amigo, te alegrará saber que un grupo de modders llamado Ember

Vandal

Pronostican rachas de viento de hasta 60 km/hr este domingo. 05:40

El nuevo frente frío (núm. 21) se aproximará a la frontera norte y noreste de la República Mexicana, en interacción con la corriente en chorro subtropical ocasionará rachas de viento de 40 a 60 km/h en dicha región; así como lluvias y chubascos en Coahuila, Nuevo León y Tamaulipas. Viento de 20 a 30 km/h con rachas de 4

Entrelineas

PasswordManager de Lado.mx: La forma de gestionar tus contraseñas con total seguridad.

En este mundo en digital donde cada día se crean nuevas cuentas, servicios y accesos, la gestión segura de contraseñas se ha vuelto esencial para proteger datos personales y empresariales.

Lado.mx

Kit punto de venta completo para negocio: guía para elegir el sistema ideal.

Profesionalizar la operación de un negocio va más allá de ofrecer buenos productos o servicios. En un mercado donde cada vez más personas prefieren pagar con métodos digitales, contar con la infraestructura adecuada es clave. En este sentido, un kit punto de venta completo para negocio ofrece hardware, software y accesorios que ayudan a optimi

Lado.mx

Innovación y desempeño: panorama actual de las llantas en el mercado mexicano.

La elección de las llantas es una de las decisiones más importantes para cualquier conductor, aunque con frecuencia se le resta atención.

Lado.mx

Cuatro años sin Verónica Forqué: el legado de su apellido y un homenaje en su barrio de Madrid.04:40

Verónica Forqué fue una de las actrices más queridas del cine, el teatro y la televisión española. A lo largo de su extensa carrera cosechó cuatro premios Goya y participó en innumerables películas, series y obras teatrales

Infobae

Mohamed Salah Incluido en el Banquillo de Liverpool para el Partido Contra el Brighton. 07:57

(Fuente: BBC Sport - Publicado el Sábado, 13 de Diciembre de 2025, 13:46:35 GMT)Mohamed Salah ha sido incluido en la lista de suplentes de Liverpoo...El cargo Mohamed Salah Incluido en el Banquillo de Liverpool para el Partido Contra el Brighton apareció primero en Trastitulares.com.

Trastitulares

crystal palace - manchester city

Dos autogoles aseguran liderato del Arsenal. 18:14

Bernardo Ferreira / AFPEl tiempo añadido en Premier League es propenso a los giros de guión, y un centro rematado por Gabriel Jesus fue desviado hacia su propia portería por el defensa colombiano Yerson Mosquera (90+4"), por lo que Arsenal logró derrotar 2-1 a Wolverhampton Wanderers, y así, mantener el liderato del futbol inglés.Esto ay

Excelsior

Crystal Palace vs Manchester City EN VIVO Premier League Jornada 16. 04:16

Crystal Palace vs Manchester City EN VIVO Premier League Jornada 16 Sigue EN VIVO todas las acciones de este emocionante partido m.zavalaDom, 14/12/2025 - 04:00     El Selhurst Park se vestirá de gala este domingo para alber

Record

Premier League Soccer: transmite Crystal Palace vs Man City en vivo desde cualquier lugar. 06:47

Cuándo ver el Crystal Palace vs Manchester City Domingo 13 de diciembre a las 9 a.m. ET (6 a.m. PT). donde mirar Crystal Palace v Man City se transmitirá en los EE. UU. por Peacock Premium. 73% de descuento en el plan de 2 años (+4 meses gratis). Ahora solo $3.49/mes Ver más detalles Ver […]

Mas Cipolleti

ajax - feyenoord

Rodrigo Huescas debutó en Champions League: ¿Cuántos mexicanos han jugado el torneo europeo?. 18 de Septiembre, 2025 11:48

Rodrigo Huescas debutó en Champions League: ¿Cuántos mexicanos han jugado el torneo europeo? Con el debut del lateral, se alarga la lista de futbolistas nacionales que han estado en el certamen DavidTAJue, 18/09/2025 - 10:34

Record

¡Otro más! Futbolista mexicano está en el radar del Bayer Leverkusen. 06 de Octubre, 2025 20:27

¡Otro más! Futbolista mexicano está en el radar del Bayer Leverkusen Los jugadores de la Selección Sub 20 siguen llamando la atención en Europa rtrujillo25Lun, 06/10/2025 - 19:28

Record

¡Cambios en el Ajax! Heitinga fue despedido y se perfila el regreso de reconocido DT. 06 de Noviembre, 2025 11:29

¡Cambios en el Ajax! Heitinga fue despedido y se perfila el regreso de reconocido DT El conjunto neerlandés tomó una importante decisión tras el mal momento que atraviesa m.zavalaJue, 06/11/2025 - 10:22

Record

sparta vs heerenveen

Santiago Giménez se convirtió en el héroe del Feyenoord de la Eredivisie. 15 de Abril, 2023 03:10

En Rotterdam, liefde (amor en neerlandés) se traduce Santi – Ago Giménez. No hay otra manera de describir el sentimiento de los aficionados del Feyenoord hacia el delantero mexicano, que con su olfato goleador robó todo los reflectores de la Eredivisie y Europa. 10 goles en la Eredivisie (Liga), cinco en laEuropa League y tres en la KNVB Beker

Milenio

¡Viva México! Santi Giménez, gol y asistencia en triunfo del Feyenoord. 16 de Septiembre, 2023 12:25

Arturo LópezSanti Giménez dio el grito de ¡Viva México!, al sumar su quinto partido como titular y contribuir con una asistencia y un gol en la victoria del Feyenoord de 6-1 sobre el SC Heerenveen, duelo de la jornada cinco de la Eredivisie. El atacante azteca se puso como líder de goleo de manera momentánea.- TE PUEDE INTERESAR: Su papá pag

Excelsior