Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Nueva Ley de Aguas pone fin al acaparamiento y la discriminación, afirma senadora Mojica Morga. 11:16

Beatriz Mojica Morga defiende la iniciativa, señalando que respalda los derechos hídricos de los pueblos indígenas y afromexicanos CIUDAD DE MÉXICO. — En el marco de la discusión de la nueva Ley General de Aguas en el Senado, la senadora Beatriz Mojica Morga defendió la legislación como un punto de inflexión que busca terminar con […

La Torre News

Zócalo se llena de festejo y caos tras 7 años de transformación.11:16

—Una corriente de colores y voces se apoderó del Zócalo de la Ciudad de México en las primeras horas de la mañana, como una ola que arranca en la orilla y se dispara hacia el centro histórico.Cientos de simpatizantes del movimiento político que ha encabezado el gobierno reciente se han ido de sus hogares en estados como Tamaulipas, Chiapas

El Diario de Sonora

El cofundador de Apple lleva 30 años con una cómica tradición al pagar con sus propios billetes personalizados de dos dólares . 11:16

¿Cómo os quedaríais si os encontráis un billete legal pero con estampados o señales que dejan claro que ha sido modificado? Probablemente, cualquiera se quedaría muy sorprendido, y eso es precisamente lo que siempre ha buscado el cofundador de Apple, Steve Wozniak. A lo largo de

Vida Extra

Innovación y desempeño: panorama actual de las llantas en el mercado mexicano.

La elección de las llantas es una de las decisiones más importantes para cualquier conductor, aunque con frecuencia se le resta atención.

Lado.mx

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Ventajas de la fibra óptica con Totalplay: conexión estable, rápida y confiable.

En un mundo cada vez más digital, contar con una conexión a Internet rápida y estable es indispensable.

Lado.mx

La Orquesta Sinfónica Juvenil de la UAEMex encendió el espíritu navideño con su concierto ‘Luz de Invierno’.09:44

La Orquesta Sinfónica Juvenil de la Universidad Autónoma del Estado de México (OSJUAEM) iluminó el Ágora de Cénide, en Ciudad Universitaria, con el concierto especial “Luz de Invierno”, una velada que celebró la música como punto de encuentro, pluralidad y esperanza. Bajo la dirección de Hilda Saquicoray Ávila, la agrupación (integra

Así Sucede

Claudia-Trump…El Futbol los une. 10:26

TRANSICIÓN “El precio de desentenderse de la política es ser gobernado por los peores hombres.” Platón Oswaldo Villaseñor   Va casi un año de que Donald Trump asumió la presidencia de Estados Unidos. Claudia lo lleva pasadito el año. En este tiempo no han tenido nunca una sola reunión cumbre entre ambos socios comerciales, pero [&#

Índice Político

Nueva Ley de Aguas pone fin al acaparamiento y la discriminación, afirma senadora Mojica Morga. 11:16

Beatriz Mojica Morga defiende la iniciativa, señalando que respalda los derechos hídricos de los pueblos indígenas y afromexicanos CIUDAD DE MÉXICO. — En el marco de la discusión de la nueva Ley General de Aguas en el Senado, la senadora Beatriz Mojica Morga defendió la legislación como un punto de inflexión que busca terminar con […

La Torre News

Arquitectura con propósito: UDEM forma líderes que diseñan espacios más habitables y sostenibles. 12:44

Forbes México. Arquitectura con propósito: UDEM forma líderes que diseñan espacios más habitables y sosteniblesLa carrera de Arquitectura de la Universidad de Monterrey impulsa la formación de profesionistas capaces de ejecutar proyectos arquitectónicos y urbanos con impacto social, integrando criterios de sustentabilidad, viabilidad financi

Forbes

Arabia Saudí busca repetir su mejor actuación en un mundial 32 años después: el dato que ilusiona y el regreso de su “Príncipe Encantador” . 13:44

Los Halcones Verdes alcanzaron los octavos de final una única vez en Estados Unidos en 1994. Aquí te contamos cómo lograron la clasificación para la Copa del Mundo 2026

Infobae

Siete años de Morena en el poder: avances y desafíos de Claudia Sheinbaum a un año en la presidencia. 05:00

Sheinbaum Pardo ha hecho historia al convertirse en la primer mujer en encabezar la presidencia de la República

Infobae

españa vs uruguay

¡Magia en St. James" Park! Bruno Guimaraes anota un gol olímpico histórico para el Newcastle. 10:50

¡Magia en St. James" Park! Bruno Guimaraes anota un gol olímpico histórico para el Newcastle El centrocampista brasileño rompió la resistencia del Burnley con una joya directa desde el saque de esquina DavidTASáb, 06/12/2025 - 10:33

Record

FIFA confirma el calendario: estos son los partidos del Mundial 2026 que se jugarán en México. 11:30

FIFA confirma el calendario: estos son los partidos del Mundial 2026 que se jugarán en México Ciudad de México, Guadalajara y Monterrey serán las sedes para la justa DavidTASáb, 06/12/2025 - 11:19 Tras la presentación oficial de

Record

Cristiano Ronaldo no jugará en México durante la Fase de Grupos del Mundial 2026. 12:39

Cristiano Ronaldo no jugará en México durante la Fase de Grupos del Mundial 2026 El calendario oficial confirmó que ninguno de los partidos de Portugal se realizará en el país DavidTASáb, 06/12/2025 - 12:07 La ilusión mexicana p

Record

boletos mundial

¿No te gustó el acomodo del nuevo escenario ‘La Casita’ de Bad Bunny en CDMX? Ya puedes pedir reembolso total. 09:05

¿No te gustó el acomodo del nuevo escenario ‘La Casita’ de Bad Bunny en CDMX? Ya puedes pedir reembolso total Ocesa responde ante críticas por el montaje del show y asegura que tu dinero no lo perderás jreyesSáb, 06/12/2025 - 08:33

Record

Monterrey se queda sin partidos de Países Bajos en el Mundial 2026. 12:07

Monterrey se queda sin partidos de Países Bajos en el Mundial 2026 La ciudad del norte del país no será casa de la selección europea para la justa del próximo año DavidTASáb, 06/12/2025 - 11:53 Lo que inicialmente parecía un he

Record

Cómo comprar los últimos boletos para el Mundial 2026: fechas y proceso. 13:10

Jesús Velasco El sorteo de la Copa Mundial FIFA 2026 reorganizó por completo el panorama para millones de aficionados que buscan asegurar uno de los pocos boletos restantes el evento que se celebrará en México, Estados Unidos y Canadá.Con los grupos definidos y los partidos oficialmente asignados a ciudades, estadios, fechas y horarios, los

Excelsior

inter miami - whitecaps

Checa dónde ver a Messi vs Thomas Müller en la final de la MLS entre Inter Miami y Vancouver. 12:32

¡Lionel Messi vs Thomas Müller! Con que esas dos leyendas jueguen esta tarde, habrá valido toda la pena del mundo ver la final de la MLS...The post Checa dónde ver a Messi vs Thomas Müller en la final de la MLS entre Inter Miami y Vancouver appeared first on Sopitas.com.

Sopitas.com

EN VIVO | Inter Miami vs. Vancouver Whitecaps en la Final MLS Cup. 12:50

El Inter Miami busca su primer título de MLS guiados por Lionel Messi ante el equipo de Thomas Muller

La Opinión

Messi, a la puerta de su primer título de MLS. 12:55

El Inter Miami recibe al Vancouver Whitecaps para definir al campeón de liga de 2025.

ESPNdeportes.com