Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

La vivienda en León, una de las que más se encarece en México. 13:43

El auge inmobiliario industrial incrementó la demanda de inmuebles habitacionales, pero la oferta no respondió al mismo ritmo.

Obras Web

Se confirma el fallecimiento de la bebé de Lupita TikTok ¿qué sucedió?.13:35

Después de permanecer algunos días hospitalizada Karely Yamileth hija de Lupita TikTok falleció a causa de un paro cardiaco

Periódico Correo

¿Checo Pérez a Mercedes? Esto se sabe del supuesto interés de las Flechas Plateadas. 13:59

¿Checo Pérez a Mercedes? Esto se sabe del supuesto interés de las Flechas Plateadas El mexicano no tiene equipo, pero su regreso a la parrilla parece inminente aspindolaMar, 13/05/2025 - 13:06

Record

Licencias OEM de Windows y Office 365: Qué son, cómo funcionan.

Cuando adquirimos una computadora nueva, especialmente de marcas reconocidas como Dell, HP, Lenovo o ASUS, es común que venga con una copia preinstalada de Windows, e incluso de Microsoft Office.

Lado.mx

Frases para mamá: Expresa tu amor con palabras inolvidables.

Las madres ocupan un lugar único en nuestras vidas. Son fuente de amor, fortaleza, inspiración y compañía incondicional. Ya sea para el Día de la Madre, su cumpleaños, o simplemente porque sí, aquí te compartimos una colección especial de frases para mamá que puedes dedicarle en cualquier momento.

Lado.mx

Comprar un auto seminuevo en línea: ventajas y precauciones a tomar en cuenta.

Hoy en día, la compra de vehículos por internet se convierte en una alternativa cada vez más popular, especialmente cuando se trata de autos seminuevos.  Gracias a las plataformas digitales especializadas, es posible encontrar buenas oportunidades sin salir de casa; sin embargo, como en toda transacción en línea, también es importante conoce

Lado.mx

As€s¡nan a Luis Armando Córdova, exdiputado del PRI, en Zapopan.11:44

Agencias Zapopan, Jalisco – Luis Armando Córdova Díaz, exdiputado federal y local, así como militante del Partido Revolucionario Institucional (PRI), fue asesinado a balazos esta mañana dentro de una cafetería ubicada en la plaza comercial Paseo Valle Real, en Zapopan, Jalisco. El ataque ocurrió cuando Córdova, de 56 años, se encontraba e

El buen tono

Cristiano Ronaldo Jr debuta con la selección de Portugal sub 15. 12:44

El hijo de Cristiano Ronaldo fue convocado por primera vez en la selección de Portugal para la séptima edición del torneo Vlatko Markovic Claro Sports PORTUGAL. Cristiano Ronaldo Júnior vio sus primeros minutos con la selección de Portugal este martes 13 de mayo, una fecha que podría quedarse en su memoria debido a que fue […]

ORO Radio Noticias

La vivienda en León, una de las que más se encarece en México. 13:43

El auge inmobiliario industrial incrementó la demanda de inmuebles habitacionales, pero la oferta no respondió al mismo ritmo.

Obras Web

Fortalece Huixquilucan mecanismos de transparencia y rendición de cuentas. 18:13

Redacción/Cuestión de POLÉMICA En la Décima Primera Sesión Ordinaria de Cabildo, encabezada por la presidenta municipal, Romina Contreras, los integrantes del cuerpo edilicio aprobaron el nombramiento del ciudadano Juan Carlos Villicaña Durán, como integrante del Comité de Participación Ciudadana del Sistema Municipal Anticorrupción Adem

Cuestión de política

Badbunny Ticketmaster

Así puedes comprar tus boletos para ver a Bad Bunny en el Estadio GNP de CdMx; te explicamos. 12:25

El fenómeno global del reguetón, Bad Bunny, confirmó su esperado regreso a la Ciudad de México con seis conciertos en el Estadio GNP Seguros los días 10, 11, 12, 15, 16 y 19 de diciembre de 2025, como parte de su nueva gira ‘Debí Tirar Más Fotos World Tour’. Este regreso marca su primera presentación en la capital desde 2022, cuando ofr

Milenio

Cómo comprar boletos para Bad Bunny en las largas filas de Ticketmaster: tips y consejos. 13:20

El cantante puertorriqueño volverá a México con su ‘DeBÍ TiRAR MáS FOToS World Tour’

Infobae

¡El conejo malo! Inicia la venta general de boletos para conciertos de Bad Bunny en el Estadio GNP; aquí te decimos TODO lo que debes saber. 14:25

El artista puertorriqueño Bad Bunny anunció a principios de mayo que arrancará en noviembre la gira mundial "Debí tirar más fotos world tour", homónima de su último álbum, en la que ofrecerá 23 conciertos en países de Latinoamérica, Asia, Europa y Oceanía."Polfín", celebró el cantante en una publicación en su cuen

Milenio

Álex de Miñaur

Alexander Zverev baja a Alcaraz del segundo lugar de la ATP. 21 de Abril, 2025 10:30

Enrique LópezEn su pelea por la segunda plaza de la clasificación ATP, comandada una semana más por el italiano Jannik Sinner, el alemán Alexander Zverev, ganador el domingo del torneo de Múnich, supera al español Carlos Alcaraz, finalista en Barcelona.TAMBIÉN PUEDES LEER: Alexander Zverev gana el torneo de MúnichCon su victoria en Múnich

Excelsior

Casper Ruud vuelve al Top 10 de la ATP tras ganar el Masters de Madrid. 05 de Mayo, 2025 09:54

Enrique LópezEl noruego Casper Ruud, que llegó a ocupar el número 2 de la ATP, escaló ocho plazas y se situó séptimo en la clasificación de este lunes tras ganar el domingo en Madrid el primer torneo de la categoría Masters 1000 de su carrera.Finalista, el británico Jack Draper, la sorpresa de la temporada 2025, ganó un puesto y se situó

Excelsior

Ángel Correa

Cuánto pagaría Tigres por Ángel Correa. 08 de Mayo, 2025 19:50

El futbolista argentino habría rechazado ofertas de River Plate para poder llegar a la Liga Mx

Infobae

Tigres confirma a Ángel Correa como candidato para refuerzo bomba. 17:50

Tigres confirma a Ángel Correa como candidato para refuerzo bomba Mauricio Culebro reveló que las negociaciones con el campeón del mundo argentino siguen en pie fvillalobosLun, 12/05/2025 - 17:38

Record

Los Tigres de la UANL confirman el interés por Ángel Correa. 07:05

Mauricio Culebro, presidente deportivo de Tigres, reconoció que están buscando reforzarse con Ángel Correra, futbolista del Atlético Madrid

La Opinión

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.