Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Alistan inversiones importantes para el Aeropuerto Internacional Plan de Guadalupe . 03:40

Para el Aeropuerto Internacional Plan de Guadalupe en Ramos Arizpe vienen inversiones importantes y mixtas que el Gobierno del Estado, bajo la visión del gobernador Manolo Jiménez, ha impulsado señaló el subsecretario de Planeación y Gestión de Inversión de la Secretaría de Infraestructura, Desarrollo Urbano y Movilidad (Sidum), Tizoc Quis

Vanguardia.com.mx

Amazfit GTR 3 Pro más barato que nunca: Carrefour no puede seguirle el ritmo . 03:50

El Amazfit GTR 3 Pro, uno de los smartwatches más completos del mercado, ahora cuesta la mitad. Con pantalla AMOLED, seguimiento de salud y batería duradera, esta oferta lo deja muy por debajo del precio habitual e

Mundo Deportivo

Comprar un auto seminuevo en línea: ventajas y precauciones a tomar en cuenta.

Hoy en día, la compra de vehículos por internet se convierte en una alternativa cada vez más popular, especialmente cuando se trata de autos seminuevos.  Gracias a las plataformas digitales especializadas, es posible encontrar buenas oportunidades sin salir de casa; sin embargo, como en toda transacción en línea, también es importante conoce

Lado.mx

Wall Street’s ETF wave is here — but the real money is in AI-powered cloud mining.

With the monthly net inflow of Bitcoin spot ETF exceeding 9.8 billion US dollars, it marks the full embrace of crypto assets by traditional capital. However, in the market fluctuations dominated by institutions, the real wealth opportunities often belong to those investors who actively build a profit system.

Lado.mx

Sweet Bonanza: El juego que transforma dulces en grandes premios.

¿Te imaginas una máquina tragamonedas donde frutas y caramelos no solo te dan hambre, sino también grandes recompensas? Así es Sweet Bonanza, uno de los slots más adictivos y coloridos del momento, creado por el reconocido proveedor Pragmatic Play. Fácil de jugar, con funciones atractivas y visualmente deliciosa, esta tragamonedas ha conqui

Lado.mx

Avanza digitalización de servicios del Poder Judicial del Estado.01:40

Xalapa, Ver., 8 de mayo de 2025.- El Poder Judicial del Estado de Veracruz llevó a cabo el lanzamiento de la plataforma del Sistema Digital de Gestión de Recursos del Fondo Auxiliar, dando así un paso firme hacia la modernización de sus servicios, con la implementación de esta herramienta tecnológica que transforma la manera en […]

Dpoderapoder

Horóscopo de hoy de Nana Calistar 09 de mayo de 2025. 02:44

Nana Calistar nos da sus predicciones para los 12 signos del Zodiaco en su horóscopo diario.

La Opinión de Los Ángeles

Podríamos ver Death Stranding 3, aunque no sería desarrollado por Hideo Kojima. 11:44

El desarrollador habló sobre el futuro de la franquicia.Estamos todos en espera de la segunda parte de Death Stranding, pero tenemos que Hideo Kojima ya habló sobre la posibilidad de una tercer entrega. En una reciente charla con Eurogamer, Kojima reveló que aunque tiene una idea para Death Stranding 3, no la haría el mismo y está abierto …

IGN Latinoamérica

Sheinbaum felicita al nuevo Papa León XIV y reafirma compromiso con la paz global. 12:42

Este jueves 8 de mayo, el cardenal estadounidense Robert Prevost fue elegido como nuevo Papa por el Colegio Cardenalicio, adoptando el nombre de León XIV. Ante este hecho histórico, la presidenta de México, Claudia Sheinbaum, envió un mensaje oficial desde su cuenta de X:“Felicitamos a su santidad León XIV, electo por el Colegio Cardenalicio

El Siglo de Torreón

Christian Nodal

Ángela Aguilar, en el ojo del huracán. 00:10

Siguen las noticias que sacuden al mundo del espectáculo. Ángela Aguilar, en el centro de la polémica, enfrenta críticas por supuestamente comprar comentarios favorables en redes sociales para mejorar su imagen. Además, un video viral muestra a un hombre regañándola por no sentarse durante un concierto de Christian Nodal, lo que desató una

24 Horas

Ángela Aguilar le dedicará una canción más a su esposo, Christian Nodal. 02:00

Ángela Aguilar dejó pistas en redes sociales de que Christian Nodal sigue siendo su inspiración. ¿Estará por dedicarle otra canción después de "El Equivocado"?

SDP Noticias

¿Dedicada a Belinda? Christian Nodal estrena su nuevo tema “X perro” y las redes estallan por el video oficial. 02:10

El cantante provocó gran polémica debido a un peculiar personaje que aparece en el videoclip de su nuevo sencillo

Infobae

Oscar Jiménez

Así reaccionó Oscar Jiménez tras la llegada de su esposa, Mariana Echeverría, a Guanajuato. 29 de Agosto, 2024 08:00

A pesar de haber sido eliminada del reality show, la conductora señaló que no ve esta salida como un fracaso, sino como una oportunidad de redefinir su camino

Infobae

Tras rumores de veto en Televisa, Mariana Echeverría presume sus vacaciones con Óscar Jiménez. 03 de Septiembre, 2024 15:40

La ex habitante de La casa de los famosos México decidió refugiarse en su familia y olvidarse de todas sus polémicas

Infobae

Mariana Echeverría embarazada junto a su esposo Óscar Jiménez. 29 de Enero, 2025 13:44

Mariana Echeverría ha superado los escándalos mediáticos y a podido centrarse en su vida familiar. Felizmente ha anunciado que el proceso de fecundación in vitro ha tenido éxito y ya está embarazada. Mariana decidió someterse a este proceso luego de haber sufrido una perdida gestacional a principios de 2024. El bebé que espera es coloquialm

Tribuna Noticias

Brad Pitt

Pensaban que era un piloto de F1… pero escondía uno de los trajes más elegantes de la noche. 05 de Mayo, 2025 19:24

Gustavo AlonsoEl actor Damson Idris, conocido por su papel en la serie Snowfall, acaparó miradas en la Met Gala 2025 al llegar vestido con un traje de carreras blanco y un casco cubierto de pedrería, una aparición que confundió y sorprendió a los asistentes y usuarios de redes sociales.“Wtf”, escribió un usuario en X (antes Twitter), mien

Excelsior

La película de ciencia ficción que rompió récords en streaming: la responsable de opacar al último thriller de Brad Pitt y George Clooney. 06 de Mayo, 2025 18:05

En 2001 vio la luz La gran estafa, proyecto que juntó a dos íconos del cine: George Clooney y Brad Pitt. Esta comedia de crimen dio origen a una trilogía, además de otro par colaboraciones entre los actores, la más reciente titulada Wolfs. Pero ni siquiera ambos rostros pudieron c

Xataka México

La supuesta enemistad de Brad Pitt y Leonardo DiCaprio que terminó con una orden de restricción. 07 de Mayo, 2025 17:20

Antes de protagonizar “Había una vez en Hollywood”, las estrellas de cine dejaron entrever sus tensiones personales

Infobae

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.