Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Ángel Sepúlveda, en la mira de Chivas para reforzar su delantera. 21:23

Chivas ha iniciado la búsqueda de opciones para fortalecer su ataque de cara al Torneo Clausura 2026

El Informador

Starbucks pagará cerca de $35 millones a sus empleados por violar leyes laborales en NYC.21:43

La mayoría de los empleados afectados que ocuparon puestos por hora recibirán 50 dólares por cada semana trabajada desde julio de 2021 hasta julio de 2024, según el Departamento.

Telemundo 47

#Morelia Con +2 Millones De Luces Llegó La Navidad Al Centro Histórico Este Lunes. 21:59

STAFF/Felipe Trujillo – @_FelipeTrujillo Con más de 2 millones de lucecitas, llegó la navidad esta noche a la capital michoacana, ante la mirada de cientos de personas. Este espectáculo dio inicio cerca de las 7 de la noche, sobre la avenida Francisco I Madero, donde cientos de personas esperaban ya ansioso que arrancara el encendido ̷

Changoonga

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Ventajas de la fibra óptica con Totalplay: conexión estable, rápida y confiable.

En un mundo cada vez más digital, contar con una conexión a Internet rápida y estable es indispensable.

Lado.mx

La revolución del marketing callejero en México.

En un país donde las calles hablan más fuerte que los comerciales de televisión, la publicidad tradicional empieza a quedarse sin voz.

Lado.mx

Muere Fernando Meza, creativo de Huevocartoon y voz de Tlacua.20:46

Gustavo AlonsoEl estudio de animación Huevocartoon informó el fallecimiento de Fernando Javier Meza Muñoz, una de las voces creativas más reconocidas del equipo.La noticia fue anunciada mediante una publicación en las redes sociales oficiales de la compañía, donde expresan su pesar por la muerte del actor y repasan su trayectoria dentro del

Excelsior

Muere Fernando Meza, fundador de ‘HuevoCartoon’ y voz de varios personajes del estudio de animación mexicano. 20:50

El estudio lamenta el deceso de uno de sus miembros fundadores, de quien resaltaron su creatividad y talento para la comedia

Infobae

Cruz Azul lanza precios para Semifinal de Ida ante Tigres. 20:07

Cruz Azul lanza precios para Semifinal de Ida ante Tigres El conjunto cementero logró su agónico pase a la antesala de la Gran Final hace unas horas eariasLun, 01/12/2025 - 19:49 La afición cementera volvió a demostrar su fidelidad

Record

Este es el precio de la gasolina en Ciudad de México para el 1 de diciembre.05:20

El costo de los combustibles en el país puede variar debido a una diversidad de factores como son los precios de referencia, impuestos y la logística para el traslado

Infobae

Jóvenes mexicanos redefinen su permanencia laboral en busca de propósito personal. 04:45

Cada vez más jóvenes renuncian antes de dos años en busca de propósito laboral, revela estudio de Indeed; una tendencia que desafía la permanencia tradicional

NotiPress

pensiones mujeres bienestar

Registro a Pensiones de Personas Adultas Mayores y Mujeres Bienestar, del 1 al 13 de diciembre. 14:29

1 de diciembre de 2025 Este lunes 1 de diciembre arrancaron nuevos registros a la Pensión para el Bienestar de las Personas Adultas Mayores y a la Pensión Mujeres Bienestar. Los trámites de registro se llevan a cabo desde hoy y hasta el 13 de diciembre en los Módulos del Bienestar instalados en todo el […]

Programas para el Bienestar

Calendario de registro para la Pensión Bienestar de Adultos Mayores y Mujeres Bienestar diciembre 2025: días por letra de apellido . 15:37

Ya estamos en el último mes del año, y como es costumbre los programas sociales para el Bienestar comienzan una nueva ronda de registros para que las personas interesadas reciban apoyo monetario. Aquí en Xataka Basics México te contamos cómo queda el calendario de diciembre 2025 p

Xataka México

Inicia registro para pensiones de Adulto Mayor y Mujeres Bienestar en Sonora: estas son las fechas y requisitos. 17:00

Hermosillo, Sonora, 1 de diciembre de 2025.— Del 1 al 13 de diciembre se llevará a cabo en Sonora el registro para la Pensión para el Bienestar de las Personas Adultas Mayores y la Pensión Mujeres Bienestar, en cumplimiento del compromiso de la presidenta de México, Claudia Sheinbaum Pardo, informó el delegado de Bienestar en […]The po

Proyecto Puente

fatima bosch miss universe

Fátima Bosch: «Ningún ataque hará que me arrodille», ¿Fin a los rumores de renuncia a Miss Universe?. 28 de Noviembre, 2025 22:53

En medio de un huracán de controversias que rodea a la organización Miss Universe y a su propia coronación, laLa entrada Fátima Bosch: «Ningún ataque hará que me arrodille», ¿Fin a los rumores de renuncia a Miss Universe? se publicó primero en .

LaBotana.com

Fátima Bosch rompe el silencio tras ganar Miss Universo 2025: ‘Todo lo que dicen de mí es falso’ . 14:06

Fátima Bosch rompe el silencio tras ganar Miss Universo 2025: ‘Todo lo que dicen de mí es falso’ La mexicana llegó a Nueva York para comenzar su reinado tras la polémica de su triunfo gcatarinoLun, 01/12/2025 - 13:34 Fátima

Record

Fátima Bosch rompe el silencio tras su polémica coronación como Miss Universe 2025. 15:05

Nueva Jersey, E.U. — Fátima Bosch, recientemente coronada como Miss Universe 2025, rompió el silencio luego de varios días de especulaciones y controversia sobre su triunfo en el certamen internacional. La mexicana originaria de Tabasco arribó a Nueva Jersey para comenzar sus actividades oficiales, y aprovechó su primera aparición pública

Canal 44

primera división

Una escena eliminada de Star Wars ayudó a cambiar por completo el origen de la Alianza Rebelde, y lo que viste en Andor . 08:08

Hay momentos de la saga Star Wars que, sin ser muy conocidos, resultan claves para esta mitología y logran hacerse un hueco en el corazón de los fans más fieles. Por ejemplo, el inicio de la Guerra Civil Galáctica entre el Imperio y los rebeldes es increíblemente complejo, y a dí

3d Juegos

El eco del imperio vuelve a Foxborough. 22:26

Ariel VelázquezLas noches grandes siempre han tenido una cadencia particular en Foxborough. Un murmullo que se vuelve sentencia cuando el partido avanza y el rival entiende que está jugando contra algo más que 11 jugadores. Bajo las potentes luces de Monday Night Football, los Patriots vencieron 33-15 a los Giants y cerraron la Semana 13 como

Excelsior

El Arsenal de Mikel Arteta está demostrando la resiliencia de los campeones | primera división. 22:49

ttiene un hueco en la cima son cinco puntos. El Arsenal ha jugado dos de sus tres partidos fuera de casa más difíciles de la temporada. Han tenido una semana extremadamente difícil con su reputación mejorada, a pesar de no contar con uno de sus centrales titulares en los tres partidos y dos de ellos. […]

Mas Cipolleti