Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16
Califica esta nota

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:    


Dragon Ball: Inteligencia Artificial trae a Milk como una chica de la vida real. 13:36

Nuestra waifu favorita se vuelve una chica en la vida real.

Código Espagueti

Shakira regresó a Barcelona para el Gran Premio de España y las redes explotaron.13:23

El Gran Premio de España fue el motivo por el cual Shakira regresó a Barcelona tras su separación de Gerard Piqué

El Sol de San Juan del Río

VIDEO: Captan BALACERA en inmediaciones del antro NEBULA en PUEBLA. 13:31

El Nebula Social Club vuelve al escenario de los escándalos y actos violentos. Ahora no solo como consecuencia de las quejas de los pobladores del Residencial Santa Fe, quienes de manera reiterada han externado su malestar por el ruido y el no acatamiento del horario de funcionamiento. Durante las primeras horas de este sábado 3 […]

Punto Por Punto

¿Cuáles son las ventajas de jugar online?.

La llegada de Internet y el desarrollo de los dispositivos móviles permitió la aparición del juego en línea, que permite a los jugadores conectar su teléfono o computadora a la red y disfrutar de un sinfín de entretenimientos digitales. Ahora bien, hay muchos beneficios relacionados con este pasatiempo digital y, a continuación, los descubri

Lado.mx

Comparte Luis Miguel vieja carta escrita por Frank Sinatra.

Luis Miguel vuelve muy próximamente a los escenarios del continente americano. En una campaña que ha carecido de grandes inversiones publicitarias para la venta de boletos, el Sol de México parece estar hoy más vigente que nunca, al agotar todas sus entradas para todos sus conciertos en las distintas etapas de preventa de boletos.

Lado.mx

¿Por qué la Academia de Apuestas es la mejor guía?.

Academia de Apuestas es esa guía especializada que se encarga de ofrecer a los jugadores, sobre todo a los noveles, todo lo que necesitan saber sobre las plataformas de apuestas deportivas en línea. Dicha plataforma se encarga de dar a los usuarios información certera acerca de cómo implementar diferentes estrategias con el objetivo de incremen

Lado.mx

OPEP+ mantendrá recorte a producción diaria de petróleo crudo hasta 2024.11:35

Forbes México. OPEP+ mantendrá recorte a producción diaria de petróleo crudo hasta 2024La OPEP+ mantendrá vigente hasta finales de 2024 el recorte de 2 millones de barriles diarios de petróleo crudo acordado desde 2022.OPEP+ mantendrá recorte a producción diaria de petróleo crudo hasta 2024Forbes Staff

Forbes

Atlantis asegura que su máscara vale “unos 50 mil millones de dólares”. 11:15

La estimación del ‘Ídolo de todos los niños’ es 58 veces el precio de todos los clubes de la Liga MX.

Editorial Aristegui Noticias

Neymar se despide de Messi: “No salió como pensábamos pero intentamos de todo”. 12:06

El astro brasileño le dedicó una publicación de Instagram a su “hermano” y Leo no tardó en responder con unas lindas palabras y un “Te quiero mucho”.

Editorial Aristegui Noticias

Horóscopo de hoy de Nana Calistar 04 de junio de 2023. 00:23

Nana Calistar nos da sus predicciones para los 12 signos del Zodiaco en su horóscopo diario. Chequea lo que deparan los astros para ti este 04 de junio de 2023

La Opinión

Resultados Gana Gato: ganadores del sorteo 2548 de hoy 3 de junio. Ayer, 22:10

Aquí los resultados del sorteo Gana Gato dados a conocer por la Lotería Nacional y descubra si ha sido uno de los ganadores

Infobae

Asesinan a productor piñero “Kelo” Abendaño en Juan Rodríguez Clara. 00:06

Asesinan a productor piñero “Kelo” Abendaño en Juan Rodríguez Clara

La Clave Online

Società Sportiva Calcio Napoli

La divertida reacción del Kun Agüero a "Ella Baila Sola" de Peso Pluma: "¿Qué es esto?". 02 de Junio, 2023 17:30

Peso Pluma ha gozado de un gran éxito en los últimos meses gracias a sus temas, los cuales le han dado la vuelta al mundo y muchos futbolistas han mostrado su gusto por el o han reaccionado a sus canciones, como es el caso de Sergio Agüero.Recientemente, el cantante mexicano estrenó su colaboración con Bizarrap, tema que ha tenido millones de

Milenio

Gio Simeone convirtió un golazo para el Napoli y le dedicó un conmovedor homenaje a Maradona, con Claudia Villafañe en la platea. 14:20

El delantero argentino marcó el 2-0 del equipo campeón de Italia en el cierre de la Serie A ante Sampdoria y preparó un festejo emotivo

Infobae

Giovanni Simeone: el tremendo zapatazo y la particular celebración en el triunfo de Napoli ante Sampdoria en el cierre de la Serie A. 14:40

El Cholito celebró su golazo con una camiseta del equipo del sur italiano utilizada por el máximo ídolo del club

Yahoo! Deportes

Serie A

Inter calienta motores con triunfo para final de Champions ante Manchester City. Ayer, 16:44

Bernardo Ferreira / AFPEl Inter de Milán se preparó para la final de la Champions League del próximo 10 de junio venciendo por 1-0 en casa del Torino, en la 38ª y última jornada de Serie A.NO TE PIERDAS: Aficionada del Manchester City revela intimidades y los motiva al 'triplete'Marcelo Brozovic abrió el marcador aprovechando un e

Excelsior

Zlatan dejará de ser jugador del Milán, confirmó el club italiano. Ayer, 22:44

Bernardo Ferreira / AFPEl sueco Zlatan Ibrahimovic abandonará el Milán al final de la temporada, tras el último partido de los Rossoneri contra el Hellas Verona en Serie A, anunció el club lombardo el sábado.NO TE PIERDAS: Aficionada del Manchester City revela intimidades y los motiva al 'triplete'Mañana (domingo) por la tarde tr

Excelsior

Responde el pitcheo. 01:40

A diferencia del primer juego de la serie ante Generales de Durango del pasado viernes, donde se recibieron muchas carreras, los Rieleros de Aguascalientes tuvieron un mejor desempeño desde la lomita, lo cual fue clave para conseguir igualar la serie y pitar en casa para empatar las cosas en victorias. Tras una entrada sin carreras, […]

Heraldo de Aguascalientes

Unione Calcio Sampdoria

Nápoles suma tres puntos después de derrotar 2-0 a Sampdoria. 13:10

Gracias a esta victoria, Nápoles cerró su trayectoria en la Serie A con 90 puntos en la clasificación

Infobae

Gio Simeone convirtió un golazo para el Napoli y le dedicó un conmovedor homenaje a Maradona, con Claudia Villafañe en la platea. 14:20

El delantero argentino marcó el 2-0 del equipo campeón de Italia en el cierre de la Serie A ante Sampdoria y preparó un festejo emotivo

Infobae

Giovanni Simeone: el tremendo zapatazo y la particular celebración en el triunfo de Napoli ante Sampdoria en el cierre de la Serie A. 14:40

El Cholito celebró su golazo con una camiseta del equipo del sur italiano utilizada por el máximo ídolo del club

Yahoo! Deportes

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.

DigitalOcean Referral Badge