Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Chofer de Uber reconoce a su agresor: detenido tras asalto con arma de fuego en Qro. 09:45

La Fiscalía de Querétaro obtuvo la vinculación a proceso de un hombre por el delito de Robo con Violencia, cometido en agravio de un conductor de servicio de transporte por aplicación. De acuerdo con la investigación, el pasado 26 de noviembre de 2025, el ofendido se encontraba laborando como conductor de plataforma, cuando recibió una [̷

Expreso Querétaro

Mundial 2026: cuáles son los candidatos a llevarse la Copa del Mundo.09:20

Además de las estrellas, el entrenamiento y los resultados conseguidos por los distintos equipos, las condiciones climáticas son un factor a tener en cuenta

La Opinión de Los Ángeles

Madame de Sévigné y sus cartas de París: una exposición exclusiva en el museo Carnavalet. 09:20

El museo Carnavalet rinde homenaje a Madame de Sévigné con una exposición llena de sorpresas, abierta desde el 15 de abril hasta el 23 de agosto de 2026.

Sortiraparis

Kit punto de venta completo para negocio: guía para elegir el sistema ideal.

Profesionalizar la operación de un negocio va más allá de ofrecer buenos productos o servicios. En un mercado donde cada vez más personas prefieren pagar con métodos digitales, contar con la infraestructura adecuada es clave. En este sentido, un kit punto de venta completo para negocio ofrece hardware, software y accesorios que ayudan a optimi

Lado.mx

Innovación y desempeño: panorama actual de las llantas en el mercado mexicano.

La elección de las llantas es una de las decisiones más importantes para cualquier conductor, aunque con frecuencia se le resta atención.

Lado.mx

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Aprueban diputados sanciones para quien produzca y comercialice vapeadores.08:45

Redacción / Grupo Cantón   Estos cambios imponen de uno a ocho años de prisión y multas de hasta dos mil veces el valor diario de la UMA (226 mil 280 pesos) a quienes distribuyan o fabriquen este tipo de productos. Ciudad de México.- La Cámara de Diputados aprobó reformas a la Ley General de […]The post Aprueban diputados sancione

Quintana Roo Hoy

Latin American Games Showcase: con más de 70 anuncios, Latinoamérica dijo presente en The Game Awards 2025. 08:40

El evento reunió más de 70 títulos latinoamericanos en una edición especial dentro de The Game Awards 2025, con anuncios, estrenos y lanzamientos sorpresa

Infobae

Hija de María Corina Machado recibió el Premio Nobel de la Paz, pero los organizadores aseguran que la galardonada “estará con nosotros en Oslo” en las próximas horas. 08:12

Tras un período de incertidumbre, el Instituto Nobel Noruego confirmó que Machado está a salvo y se encuentra camino a la ciudad europea

La Opinión de Los Ángeles

Agustín Palavecino prefiere al Cruz Azul por encima del América. 19:10

Carlos BarrónAunque la primera oferta fue del América hace más de 15 días, Agustín Palavecino ya tendría la decisión tomada y sería la segunda que hubo y que fue del Cruz Azul.Ambos equipos ofrecieron los mismo, 4 millones de dólares que al Necaxa no le caen nada mal, pero han dejado en el albedrio del propio jugador la decisión de con qu

Excelsior

Académicos del Tec ganan 4 premios globales de innovación educativa . 14:45

Académicos del Tec ganan 4 premios globales de innovación educativa luis.estrada1986Lun, 12/08/2025 - 23:36 Read time: 8 mins En total, 13 proyectos del Tec fueron finalistas en la edición 2025 en el QS Reimagine Education Awards 2026, de los cuales 4 obtuvieron preseas Cuatro proyectos desarrolla

Conecta.tec.mx

¿Cuándo y dónde tocará System of a Down en México en 2026 y qué debes saber para conseguir boletos antes de que se agoten?. 14:05

La banda de metal alternativo regresa a México por primera vez desde 2019 con un concierto masivo en el Estadio GNP Seguros; aquí te explicamos por qué el anuncio se volvió viral, cuándo inicia la preventa y qué detalles confirmó OCESA.

El Imparcial

jackson wang

Estos son los precios de los abonos para Tecate Pal Norte 2026; ¡a romper el cochinito!. 08 de Noviembre, 2025 09:30

Paola Jiménez Tecate Pal Norte 2026 ya comenzó a calentar motores al anunciar que la venta de abonos para los tres días del festival está oficialmente en marcha. Con una primera fase disponible desde el lunes 11 de noviembre, los fans pueden asegurar su entrada a uno de los eventos musicales más esperados del año.El festival regresa con fuerz

Excelsior

Conciertos de Kpop en México para 2026; confirmados y rumores. 25 de Noviembre, 2025 18:00

Fabiola BarreraDesde hace varios años, México se ha consolidado como una parada obligada en las giras mundiales de los grandes grupos de Kpop, por eso es que desde meses antes, ya puedes ir planeando a cuál concierto del 2026 vas a acudir. Gracias a una comunidad de fans apasionada, capaz de llenar recintos y generar un ambiente vibrante y llen

Excelsior

Jackson Wang dará concierto en CDMX: fecha y cuándo comprar boletos para ver al idol. 09:55

Paola Jiménez Jackson Wang tiene en puerta una serie de conciertos que forman parte de su gira ‘Magic Man II’ y hay buenas noticias para todos sus fans, ya que esta mañana se di a conocer que en 2026 llegará a México.El integrante de GOT7 desde hace unos años comenzó su carrera como solista y con su primera gira como solista visitó Méxi

Excelsior

Mundial de Clubes

Programación de la fecha 2 por el Mundial de Clubes de vóley 2025, con Alianza Lima: partidos, horarios y canal de TV. 06:50

Las ‘blanquiazules’ no pudieron con la contundencia de Osasco y perdieron en su debut, pero tendrán su segunda presentación frente Zhetysu VC hoy, miércoles 10 de diciembre

Infobae

Partidos de hoy, miércoles 10 de diciembre de 2025: programación, canales TV y resultados en vivo . 07:20

Real Madrid y Manchester City protagonizarán un gran duelo en el Bernabéu. Mientras que Alianza Lima disputará su segundo cotejo en el Mundial de Clubes de vóley

Infobae

Cruz Azul vs Flamengo, sigue En Vivo el MxM. 10:37

Arturo LópezMéxico y Brasil protagonizarán este miércoles un nuevo capítulo de su histórica rivalidad futbolística, cuando Cruz Azul y Flamengo se enfrenten en los cuartos de final de la Copa Intercontinental.Flamengo afronta el encuentro en Qatar como campeón de la Copa Libertadores y del Brasileirão, mientras que Cruz Azul, vigente monar

Excelsior

andy dick

Leyendas de la NFL que jamás pudieron ganar un Super Bowl. 20 de Noviembre, 2025 13:00

Leyendas de la NFL que jamás pudieron ganar un Super Bowl Jugadores que marcaron un antes y un después en la historia de la NFL no tienen un anillo de Super Bowl fvillalobosJue, 20/11/2025 - 12:45 La NFL produce héroes y leyendas ca

Record

Qué ver en Navidad: guía de películas en Prime Video, Netflix, HBO Max y Disney+. 02 de Diciembre, 2025 15:30

Montserrat AguirreDiciembre marca el inicio de una etapa en la que las plataformas de streaming concentran parte de su oferta en producciones navideñas. El público suele recurrir a estos contenidos para acompañar reuniones familiares, descansar de la rutina o simplemente mantener una tradición que se repite año con año.Prime Video, Netflix, H

Excelsior

El comediante Andy Dick es encontrado inconsciente en Hollywood en una aparente sobredosis. 10:50

Dick fue auxiliado por transeúntes que pidieron ayuda urgente mientras intentaban reanimarlo en medio de la tensión generada por su historial de incidentes recientes

Infobae