Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

“Un show de perdedores”; García Portillo a denuncia de morenistas.11:30

El jefe de Gabinete del Gobierno Municipal, Arturo García Portillo opinó respecto a la denuncia que interpondrá Morena en contra del alcalde Marco Bonilla por presuntos actos anticipados de campaña. El funcionario capitalino defendió al mandatario de la ciudad, dejó claro que no se ha violado ningún reglamento con actos anticipados de campa

Entrelineas

El exdirector de Construcción de Acciona niega en el Supremo el pago de comisiones en adjudicaciones durante la etapa de Ábalos como ministro. 11:30

Pelegrini y su exsubordinado rechazan ante el juez haber abonado el 2% a Servinabar y atribuyen esos pagos a servicios de prevención de riesgos laborales

Infobae

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Ventajas de la fibra óptica con Totalplay: conexión estable, rápida y confiable.

En un mundo cada vez más digital, contar con una conexión a Internet rápida y estable es indispensable.

Lado.mx

La revolución del marketing callejero en México.

En un país donde las calles hablan más fuerte que los comerciales de televisión, la publicidad tradicional empieza a quedarse sin voz.

Lado.mx

Gobierno abastecerá 22 tipos de fármacos para males crónicos en Farmacias del Bienestar.10:10

AGENCIA Nacional.- El gobierno federal puso en marcha la estrategia Farmacias del Bienestar, con la que comenzará la entrega gratuita de 22 tipos de medicamentos para la atención de enfermedades crónico-degenerativas, inicialmente en el Estado de México y vinculada al programa Salud Casa por Casa. Durante su conferencia matutina, la presidenta

El buen tono

Así son los módulos de las Farmacias Bienestar. 11:11

La presidenta Claudia Sheinbaum Pardo anunció este martes el arranque de 500 Farmacias del Bienestar en el Estado de México, en donde se entregarán medicamentos gratuitos a personas adultas mayores y con discapacidad con sólo brindar la receta, como parte del programa Salud Casa por Casa.En su conferencia matutina, la mandataria federal explic

El Siglo de Torreón

Arranca la primera etapa. Encabeza Sheinbaum inicio de las Farmacias del Bienestar. 09:40

Arranca la primera etapa. Encabeza Sheinbaum inicio de las Farmacias del BienestarAnónimo (no verificado)Mié, 03/12/2025 - 09:37

NVI Noticias

Costco se pone al ‘tú por tú’ con Trump: Demanda reembolso de millones de dólares por aranceles. 14:26

La legalidad de los aranceles de Donald Trump es analizada por la Corte Suprema de EU. Si los jueces fallan contra el republicano, decenas de empresas pedirán reembolsos.

El Financiero

Saldo de 33 lesionados en choque múltiple, en Nuevo León . 14:27

Monterrey, Nuevo León.- El choque de dos camiones de transporte de personal y cinco vehículos particulares dejó un saldo de 33 personas lesionadas, en Nuevo León.

Vanguardia.com.mx

De Death Stranding a Disney: El cameo sorpresa de Hideo Kojima en el doblaje japonés de ‘Zootopia 2’. 14:26

El legendario diseñador de videojuegos Hideo Kojima debuta como actor de voz en una película animada prestando su voz al topo ‘Paul Moldebrandt’ en el doblaje japonés de ‘Zootopia 2’.La nueva entrega de Disney, ‘Zootopia 2’, generó revuelo no solo por su éxito en taquilla, sino por un cameo sorpresivo en su versión japonesa que ca

IGN Latinoamérica

arsenal - brentford

Rumores de fútbol: Mendoza, Maguire, Zirkzee, Semenyo, Hinshelwood, Fullkrug, Giménez, Paz, David, Garner, Maignan. 25 de Noviembre, 2025 15:30

El Arsenal sigue al centrocampista del Elche Rodrigo Mendoza, el Manchester City está en la carrera por fichar a Antoine Semenyo del Bournemouth, el Sunderland y el Brentford están interesados en el delantero del Milan Santiago Giménez. Arsenal están siguiendo Elche El centrocampista español Rodrigo Mendoza, de 20 años, tiene una cláusula de

Mas Cipolleti

Partidos de hoy 3 de diciembre. 00:20

Partidos de hoy 3 de diciembre Liguilla, Copa de Italia, Premier Leagu y más: toda la actividad deportiva del día fvillalobosMié, 03/12/2025 - 00:01 El día miércoles 3 de diciembre de 2025 se presenta como un festín imperdible pa

Record

Arsenal vs Brentford EN VIVO Premier League Jornada 14. 13:26

Arsenal vs Brentford EN VIVO Premier League Jornada 14 Sigue EN VIVO todas las acciones de este emocionante partido m.zavalaMié, 03/12/2025 - 13:00     El Emirates Stadium se vestirá de gala este miércoles para acoger un v

Record

brighton - aston villa

Las transmisiones gratuitas de WSL: ver Tottenham Hotspur vs Brighton, Leicester vs Everton y West Ham vs Aston Villa | Noticias de fútbol. 05 de Octubre, 2025 05:50

Tottenham Hotspur vs Brighton – Comienza las 11.55 a.m. Utilice el navegador Chrome para un reproductor de video más fácil de acceso Transmisión gratuita | Spurs vs Brighton Leicester vs Everton – Comienza las 11.55 a.m. Utilice el navegador Chrome para un reproductor de video más fácil de acceso Transmisión gratuita | L

Mas Cipolleti

¡Imparable! Erling Halland anota contra Villarreal e iguala récord de Cristiano Ronaldo. 21 de Octubre, 2025 16:31

¡Imparable! Erling Halland anota contra Villarreal e iguala récord de Cristiano Ronaldo "El Androide" ha concretado una extraordinaria racha con Manchester City m.diazMar, 21/10/2025 - 15:57

Record

Manchester City tropieza y se aleja del liderato. 26 de Octubre, 2025 11:44

Enrique LópezEl Manchester City sufrió un duro golpe este domingo al caer 1-0 ante el Aston Villa en Villa Park, resultado que puso fin a su largo invicto y lo aleja de la cima de la Premier League 2025-26. El equipo de Pep Guardiola no perdía desde el 31 de agosto, cuando había sido superado por el Brighton, pero su buena racha se detuvo en la

Excelsior

reducción jornada laboral 40 horas

Reducción de la jornada laboral: Así será la ruta para llegar a la semana de 40 horas. 11:51

*También fue establecido cómo se trabajara con la jornada extraordinaria, la cual, será de 9 a 12 horas extras de manera voluntaria. MVS CIUDAD DE MÉXICO. Durante la Mañanera del Pueblo de este 03 de diciembre, Marath Bolaños, titular de la Secretaría del Trabajo y Previsión Social (STPS), presentó los avances y lineamientos sobre la red

ORO Radio Noticias

Jornada de 40 horas y aumento de salario mínimo: todo lo que se espera del trabajo en México en 2026 . 11:53

El gobierno federal anunció un aumento del 13% al salario mínimo general en 2026. Esto significa que a partir del próximo año, los trabajadores ganarán 315.04 pesos, es decir, 9,582.47 pesos al mes. En la zona libre de la frontera norte, el aumento será del 5%, lo que significa q

Xataka México

Reducción de jornada laboral será gradual; en 2030 se alcanzarán las 40 horas. 12:21

Diana Rojas La Secretaría del Trabajo y Previsión Social (STPS) presentó un proyecto para reducir la semana laboral de 48 a 40 horas, calificando la medida como “una transformación histórica del mundo del trabajo”. La iniciativa fue presentada en la conferencia mañanera en presencia de empresarios. El plan contempla que la reforma se plas

La Querella Digital