Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Faitelson explota por desaparición del Mazatlán, pero luego celebra al Atlante: usuarios lo tachan de doble moral. 10:20

La reacción del analista generó burlas, insultos y cuestionamientos sobre su credibilidad

Infobae

De poner orden en la casa a subsanar recortes federales, explica Hacienda a diputados 4 años de finanzas estatales.10:22

El secretario de Hacienda, José de Jesús Granillo Vázquez rindió ante diputados locales un informe de lo que se ha hecho durante 4 años de administración estatal destacando que en inicio se trabajó en poner orden a las finanzas y actualmente, se trabaja en mantener el desarrollo de objetivos estatales y subsanar los recortes federales. [R

Entrelineas

Vinculan a proceso a cuatro personas por narcomenudeo en Othón P. Blanco. 10:22

CHETUMAL, MX.– La Fiscalía General del Estado obtuvo la vinculación a proceso de cuatro personas presuntamente relacionadas con delitos contra la salud en la modalidad de narcomenudeo, luego de presentar ante jueces de control los datos de prueba correspondientes. En un primer caso, Fernando “N” fue vinculado a proceso por posesión con fin

Noticaribe

Kit punto de venta completo para negocio: guía para elegir el sistema ideal.

Profesionalizar la operación de un negocio va más allá de ofrecer buenos productos o servicios. En un mercado donde cada vez más personas prefieren pagar con métodos digitales, contar con la infraestructura adecuada es clave. En este sentido, un kit punto de venta completo para negocio ofrece hardware, software y accesorios que ayudan a optimi

Lado.mx

Innovación y desempeño: panorama actual de las llantas en el mercado mexicano.

La elección de las llantas es una de las decisiones más importantes para cualquier conductor, aunque con frecuencia se le resta atención.

Lado.mx

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Aprueban diputados sanciones para quien produzca y comercialice vapeadores.08:45

Redacción / Grupo Cantón   Estos cambios imponen de uno a ocho años de prisión y multas de hasta dos mil veces el valor diario de la UMA (226 mil 280 pesos) a quienes distribuyan o fabriquen este tipo de productos. Ciudad de México.- La Cámara de Diputados aprobó reformas a la Ley General de […]The post Aprueban diputados sancione

Quintana Roo Hoy

Latin American Games Showcase: con más de 70 anuncios, Latinoamérica dijo presente en The Game Awards 2025. 08:40

El evento reunió más de 70 títulos latinoamericanos en una edición especial dentro de The Game Awards 2025, con anuncios, estrenos y lanzamientos sorpresa

Infobae

Chofer de Uber reconoce a su agresor: detenido tras asalto con arma de fuego en Qro. 09:45

La Fiscalía de Querétaro obtuvo la vinculación a proceso de un hombre por el delito de Robo con Violencia, cometido en agravio de un conductor de servicio de transporte por aplicación. De acuerdo con la investigación, el pasado 26 de noviembre de 2025, el ofendido se encontraba laborando como conductor de plataforma, cuando recibió una [̷

Expreso Querétaro

Agustín Palavecino prefiere al Cruz Azul por encima del América. 19:10

Carlos BarrónAunque la primera oferta fue del América hace más de 15 días, Agustín Palavecino ya tendría la decisión tomada y sería la segunda que hubo y que fue del Cruz Azul.Ambos equipos ofrecieron los mismo, 4 millones de dólares que al Necaxa no le caen nada mal, pero han dejado en el albedrio del propio jugador la decisión de con qu

Excelsior

Académicos del Tec ganan 4 premios globales de innovación educativa . 14:45

Académicos del Tec ganan 4 premios globales de innovación educativa luis.estrada1986Lun, 12/08/2025 - 23:36 Read time: 8 mins En total, 13 proyectos del Tec fueron finalistas en la edición 2025 en el QS Reimagine Education Awards 2026, de los cuales 4 obtuvieron preseas Cuatro proyectos desarrolla

Conecta.tec.mx

¿Cuándo y dónde tocará System of a Down en México en 2026 y qué debes saber para conseguir boletos antes de que se agoten?. 14:05

La banda de metal alternativo regresa a México por primera vez desde 2019 con un concierto masivo en el Estadio GNP Seguros; aquí te explicamos por qué el anuncio se volvió viral, cuándo inicia la preventa y qué detalles confirmó OCESA.

El Imparcial

de arrascaeta

¿Quién es el Flamengo? Rival de Cruz Azul en el Derbi de las Américas . 08 de Diciembre, 2025 12:46

¿Quién es el Flamengo? Rival de Cruz Azul en el Derbi de las Américas El ‘Fla’ es flamante campeón de Copa Libertadores y Brasileirao rperezLun, 08/12/2025 - 12:25 Flamengo combina tradición e historia con actualidad y ambic

Record

En el Flamengo ven a Cruz Azul como un gran rival. 10:50

Arturo LópezAl interior del Flamengo ya analizan a Cruz Azul, a quien consideran un gran rival que les merece su respeto y que cuenta con buenos jugadores, previo al duelo que sostendrán este miércoles en el llamado “Derbi de las Américas 2025” de la Copa Intercontinental de la FIFA."Creo que tenemos que ir paso a paso y encarar cada p

Excelsior

Derbi de las Américas: ¿Cuánto cuestan las plantillas de Flamengo y Cruz Azul?. 10:55

Derbi de las Américas: ¿Cuánto cuestan las plantillas de Flamengo y Cruz Azul? Cruz Azul se enfrentará al Flamengo en el Derbi de las Américas, este es el balance de las plantillas en cuanto valor de ambos equipos molveraMar, 09/12/2025 - 10:10

Record

piovi

Semifinales Liga MX: Diablos, favoritos; el campeón luce fuerte. 03 de Diciembre, 2025 02:45

Ricardo ThomasEl campeón Toluca vuelve a encontrarse en el camino de la liguilla a Monterrey, uno de los equipos que dejó en el camino el curso pasado para acabar con su largo ayuno sin coronas en la Liga MX.Los Diablos Rojos parten como favoritos para volver a la final del torneo Apertura luego de llevar una seguidilla de 13 partidos sin derrota

Excelsior

Técnico del Flamengo se descoce en elogios a Lorenzo Faravelli. 23:00

Carlos BarrónA punto de jugar contra el Cruz Azul en el Derby de las Américas como parte de la Copa Intercontinental 2025, el técnico del Flamengo Filipe Luis mencionó que le gusta ver el trabajo colectivo, pero si es que hay algún jugador que el agrada del equipo mexicano, es Lorenzo Faravelli.La principal fortaleza de Cruz Azul está en el

Excelsior

Cruz Azul vs Flamengo: Esta es la alineación de La Máquina para el duelo de Copa Intercontinental. 11:16

Cruz Azul vs Flamengo: Esta es la alineación de La Máquina para el duelo de Copa Intercontinental El técnico argentino optó por el regreso a la titularidad de Charly Rodríguez, uno de los motores del mediocampo celeste DavidTAMié, 10/12/2025 - 10:35

Record

ajax vs

Ajax – Groningen: el club de Ámsterdam critica el espectáculo de fuegos artificiales “escandaloso” tras la cancelación del partido de la Eredivisie contra el Groningen.. 30 de Noviembre, 2025 17:16

El Ajax criticó el espectáculo de fuegos artificiales “completamente escandaloso” que provocó la cancelación del partido de la liga holandesa contra el Groningen. El árbitro Bas Nijhuis expulsó a los jugadores del campo del Johan Cruyff Arena a los cinco minutos del inicio después de que se encendieran fuegos artificiales y benga

Mas Cipolleti

“Absolutamente escandaloso”: el inquietante show de pirotecnia que provocó la suspensión de un partido a los cinco minutos. 30 de Noviembre, 2025 17:20

Ocurrió en el Johan Cruyff Arena, donde el Ajax recibió al Groningen, pero los fanáticos no permitieron el desarrollo del encuentro

Infobae

Futbol francés arremete contra agresores del Niza: "Completamente inaceptables". 02 de Diciembre, 2025 11:19

Futbol francés arremete contra agresores del Niza: "Completamente inaceptables" El mundo deportivo francés quedó conmocionado por los actos rperezMar, 02/12/2025 - 10:37 El mundo deportivo francés quedó conmocionado y c

Record