Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Bolsas faux fur are back (y entre más fluffy, mejor). 10:41

Las bolsas faux fur regresan con fuerza: peludas, statement y Y2K. Así se llevan las bolsas fluffy que dominaron las pasarelas FW25.La entrada Bolsas faux fur are back (y entre más fluffy, mejor) se publicó primero en InStyle México.

InStyle

Separan a agentes del INM tras video por presuntos cobros a paisanos en cruce fronterizo de Tamaulipas: Sheinbaum confirma investigación por actos de corrupción.10:40

La presidenta y el INM confirmaron la separación de agentes migratorios tras difundirse un video donde presuntamente piden dinero a paisanos; el caso ya es investigado y fue denunciado ante la FGR.

El Imparcial

En Europa: menos decomisos, más cocaína en circulación. 10:20

La disminución en las cantidades de cocaína incautadas en Europa occidental ha comenzado a ser presentada, en algunos discursos oficiales, como un indicio de avances en la lucha contra el narcotráfico. Sin embargo, un análisis advierte que esta lectura puede resultar engañosa. Lejos de señalar una contracción del mercado, el descenso de las

Unomasuno

Partidos de futbol en Argentina hoy 2023.

Consulta la agenda de encuentros programados para hoy. Los equipos mas destacados se enfrentaran en emocionantes duelos que prometen mantener a los aficionados al borde de sus asientos.

Lado.mx

Guía completa para identificar cuál es la mejor marca de lavadoras.

Elegir una lavadora adecuada representa una inversión importante para cualquier hogar. Con tantas opciones disponibles, determinar cuál es la mejor marca de lavadoras puede resultar complicado si no conoces los criterios fundamentales que distinguen a un modelo de calidad de uno básico.

Lado.mx

Generador de códigos QR en Lado.mx: Rápido, anónimo y gratis.

En la actualidad, los códigos QR se converten en una herramienta indispensable para compartir información de forma rápida y sencilla.

Lado.mx

Otro ‘camionazo’ en Sonora: vuelca autobús Albatros tras chocar con camioneta; hay 41 heridos y 1 muerto.09:43

Un saldo preliminar de una persona fallecida y 41 lesionadas, entre ellas nueve menores de edad, dejó un trágico accidente ocurrido la noche del domingo sobre la carretera Navojoa–Huatabampo, en el sur de Sonora. De acuerdo con reportes de emergencia, el percance se registró alrededor de las 20:50 horas, a la altura del kilómetro 13, […

Proyecto Puente

Profeco revela los secretos para gastar menos esta Navidad. 09:43

Ante el incremento de consumo propio de esta Navidad, la información y la comparación son claves para cuidar el bolsillo

El Informador

Christopher Nolan zarpa hacia la épica: Universal estrena el primer tráiler de "La Odisea". 11:05

El director de ‘Oppenheimer’ redefine el mito de Homero en una producción masiva filmada íntegramente en IMAX, con Matt Damon, Anne Hathaway y Tom Holland liderando el reparto.El cineasta Christopher Nolan volvió a sacudir la industria cinematográfica con el lanzamiento del primer tráiler oficial de ‘La Odisea’ (The Odyssey), su ambici

IGN Latinoamérica

Abandonan vehículo tras volcadura en el periférico Raúl López Sánchez de Torreón . 19:41

Una aparatosa volcadura sucedió la mañana del domingo sobre el periférico Raúl López Sánchez, a la altura de la carretera Santa Fe, en las inmediaciones del ejido San Luis, donde el conductor de la unidad involucrada se dio a la fuga antes del arribo de las autoridades.El reporte del accidente fue atendido alrededor de las 06:00 horas, movili

El Siglo de Torreón

benfica - famalicão

Di María "se estrena" ante el Barça con las "Águilas" . 20 de Enero, 2025 06:50

Ángel di María "se estrenará" ante el FC Barcelona con el Benfica. El delantero argentino, que no pudo jugar el último duelo de los "Águilas" de la liga portuguesa por lesión ante el Famalicao, se ha ejercitado este lunes con total normalidad con sus compañeros y estará a disposición de Bruno Lage, técn

Mundo Deportivo

El técnico del Benfica ve favorito al Barça para la Champions y explica una anécdota . 20 de Enero, 2025 09:50

Bruno Lage, técnico del Benfica, dejó en el aire la participación de Ángel di María de cara al encuentro de este martes ante el FC Barcelona. El "Fideo", ausente en el último duelo ante el Famalicao por lesión, no está descartado para medirse a los azulgrana. "Aún nos queda un día más

Mundo Deportivo

4-0. El Benfica sin Di María golea al Famalicão antes de medirse frente al Barcelona. 16 de Abril, 2025 10:20

Benfica supera al Famalicão con un triplete de Leandro Barreiro y se coloca segundo en la Liga de Portugal, empatando en puntos con el Sporting antes del duelo contra el Barcelona

Infobae

vince zampella

Fallece en un accidente Vince Zampella, cocreador de Call of Duty y actual responsable de Battlefield. 14:40

Vince Zampella (55) ha fallecido en un accidente de coche en Los Ángeles. Fue el cocreador de Call of Duty, fundador de Respawn Entertainment y actual responsable de la saga Battlefield en DICE.El desarrollador de videojuegos Vince Zampella ha fallecido en un accidente de coche en Los Ángeles, California, a los 55 años. Es conocido por su trabaj

Vandal

Muere Vince Zampella, uno de los padres de ‘Call of Duty’, en accidente automovilístico. 14:45

El desarrollador de videojuegos Vince Zampella, creador de Call of Duty y actual jefe de Respawn Entertainment, murió tras un accidente en la Angeles Crest Highway, en California.

El Financiero

Vince Zampella, creador de Call of Duty y responsable de Battlefield 6, fallece en un trágico accidente de coche. 14:47

La industria del videojuego se despide para siempre de una de las figuras más relevantes de su historia. Vince Zampella (55), quien hasta ahora era director de la saga Battlefield, falleció en un accidente de tráfico el pasado domingo 21 de diciembre. El incidente tuvo lugar en una

3d Juegos

fulham - nottingham forest

Atalanta, con un hombre más, sufrió para vencer al Genoa de Johan Vásquez. 12:09

Atalanta, con un hombre más, sufrió para vencer al Genoa de Johan Vásquez Ele quipo de Genoa se quedó con un hombre menos desde los tres minutos del partido, mismo que terminaron perdiendo en el tiempo agregado molveraLun, 22/12/2025 - 11:39

Record

Fulham vs Nottingham Forest EN VIVO Premier League Jornada 17. 13:19

Fulham vs Nottingham Forest EN VIVO Premier League Jornada 17 Los Cottagers reciben a los Reds en Londres en un duelo clave para alejarse del descenso y cerrar la jornada inglesa araguilarLun, 22/12/2025 - 12:00 La Jornada 17 de la Pr

Record

Raúl Jiménez y el Fulham reciben al Nottingham Forest. 13:50

El equipo del mexicano tiene duelo clave para escalar posiciones en Premier League.

ESPNdeportes.com