Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

¿Impactará el aumento del salario mínimo en 2026 a la Pensión del Bienestar de Adultos Mayores? Esto se sabe. 13:26

Con el aumento del salario mínimo 2026, muchos se preguntan si los programas sociales también se ajustarán

El Imparcial

‘Anaconda’, mira el primer adelanto de la nueva versión protagonizada por Jack Black y Paul Rudd.13:26

Anaconda de 1997 despertó la ofidiofobia (temor extremo a las serpientes) del público en los años 90. Ahora la franquicia vuelve, luego de 28 años dormida, con una reinterpretación que mezcla la comedia y el terror. Sony estrenó esta semana el primer tráiler de la nueva versión de Anaconda, donde Paul Rudd y a Jack Bl

Más Latina

Tarjetas Para El Teleférico Se Venderán En Oxxo Y Farmacias Guadalajara: SEDUM. 13:27

STAFF/@michangoonga Las tarjetas con las que se pagará el pasaje en los teleféricos de Morelia y Uruapan se podrá adquirir en tiendas Oxxo y farmacias Guadalajara, informó la secretaria de Desarrollo Urbano y Movilidad, Gladyz Butanda Macías. La funcionaria estatal informó además que el costo de la tarjeta será de 12 pesos y podrá ser R

Changoonga

Kit punto de venta completo para negocio: guía para elegir el sistema ideal.

Profesionalizar la operación de un negocio va más allá de ofrecer buenos productos o servicios. En un mercado donde cada vez más personas prefieren pagar con métodos digitales, contar con la infraestructura adecuada es clave. En este sentido, un kit punto de venta completo para negocio ofrece hardware, software y accesorios que ayudan a optimi

Lado.mx

Innovación y desempeño: panorama actual de las llantas en el mercado mexicano.

La elección de las llantas es una de las decisiones más importantes para cualquier conductor, aunque con frecuencia se le resta atención.

Lado.mx

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Trump, abierto a ataques contra México similares a los lanzados a lanchas de Venezuela: ¡Claro que sí!.11:44

Donald Trump fue cuestionado sobre si lanzaría una operación militar contra México y Colombia similar a la que ordenó contra lanchas de presuntos narcotraficantes venezolanos.

El Financiero

Bomberos de Tijuana atendieron tres incendios relevantes en viviendas durante las últimas 24 horas. 11:33

Los tres servicios fueron atendidos sin incidentes mayores y quedaron bajo seguimiento de las autoridades correspondientes.

Uniradio Informa

PlayStation 2025 Wrap-Up: ya puedes ver el resumen de tu año en PS5 y PS4, y te llevas un avatar de regalo . 11:57

Llegó la hora de afrontar una fascinante realidad: ¿cuánto tiempo has pasado jugando a PlayStation? El tradicional Wrap-Up de 2025 ya está disponible a través de su web oficial, y eso significa que todos los jugadores de PS5 y PS4 pueden consultar su resumen anual, ver los título

Vida Extra

Empresarios de México prevén inversión extranjera de 45.000 millones de dólares en 2026. 22:43

México.- México superará los 88.500 millones de dólares de inversión extranjera directa (IED) entre 2025 y 2026, pese a la tensiones comerciales que ha generado el presidente de Estados Unidos, Donald Trump, pronosticó este lunes el Consejo Empresarial Mexicano de Comercio Exterior, Inversión y Tecnología (Comce). Durante la presentación d

Canal 44

¿‘Turco’ Mohamed al Tri y Rafa Márquez a Monterrey?. 16:44

Bernardo FerreiraCon los más recientes logros de Antonio ‘Turco’ Mohamed en Toluca, la Selección Mexicana comienza a replantearse el proyecto tras el Mundial 2026, donde Rafa Márquez tomaría las riendas de Monterrey; no habrá cambios previo a la Copa del Mundo, pero después…Con nula experiencia en un equipo de Primera División, Rafa M

Excelsior

Genoa, con Johan Vásquez de titular, venció al Udinese y se aleja de puestos de descenso. 16:27

Genoa, con Johan Vásquez de titular, venció al Udinese y se aleja de puestos de descenso Con la victoria de este lunes, el Genoa se aleja de los puestos de descenso en el Calcio italiano molveraLun, 08/12/2025 - 15:47 El Genoa de Joh

Record

tottenham vs. slavia praga

Champions League: Partidos, días, horarios y dónde ver la Jornada 3. 20 de Octubre, 2025 08:20

Enrique LópezLa UEFA Champions League regresa esta semana con la Jornada 3 de la Fase de Liga, una fecha que promete ser clave para muchos equipos que buscan encaminar su clasificación hacia los octavos de final. Con una clasificación cada vez más apretada, la mitad de la fase europea llega con partidos que podrían tranquilamente verse en rond

Excelsior

Champions League: Así quedó la Fase de Liga tras la Jornada 4. 05 de Noviembre, 2025 19:50

Enrique LópezLa emoción de la Champions League 2025-2026 sigue en aumento y, tras disputarse la cuarta jornada de la Fase de Liga, ya se perfilan los equipos que tomarán la delantera rumbo a los octavos de final. Hasta el momento, tres clubes mantienen el paso perfecto: Bayern Múnich, Arsenal e Inter de Milán, cada uno con 12 puntos y rendimie

Excelsior

Champions League: Así se jugará la quinta jornada de la competición europea. 24 de Noviembre, 2025 17:37

Champions League: Así se jugará la quinta jornada de la competición europea Esta semana la Champions League regresa con duelos decisivos para el destino de los equipos que quieren seguir avanzando molveraLun, 24/11/2025 - 16:51 La U

Record

union sg vs marsella

Champions League: Así terminó la tabla tras la Jornada 1. 18 de Septiembre, 2025 16:00

Bernardo FerreiraTerminó la Jornada 1 de la Champions League y ocho equipos estarían calificando directo a los Octavos de Final, donde destaca la presencia del equipo belga, Union Saint-Gilloise; Chelsea es el ‘gigante’ que estaría completamente eliminado, así marcha la tabla.NO TE PIERDAS... Champions League: Únicos equipos con títulos

Excelsior

Champions League: Partidos, días, horarios y dónde ver la Jornada 3. 20 de Octubre, 2025 08:20

Enrique LópezLa UEFA Champions League regresa esta semana con la Jornada 3 de la Fase de Liga, una fecha que promete ser clave para muchos equipos que buscan encaminar su clasificación hacia los octavos de final. Con una clasificación cada vez más apretada, la mitad de la fase europea llega con partidos que podrían tranquilamente verse en rond

Excelsior

Champions League: Estos son los juegos de la Jornada 4 de la Fase de Liga. 02 de Noviembre, 2025 15:40

Champions League: Estos son los juegos de la Jornada 4 de la Fase de Liga El torneo más importante de Europa continúa su marcha rumbo al cierre de la primera etapa amartinezDom, 02/11/2025 - 15:19

Record

mario gotze

Beckenbauer, Matthaus, Mario Götze: 70 años de historias con las tres tiras. 22 de Marzo, 2024 09:40

Forbes México. Beckenbauer, Matthaus, Mario Götze: 70 años de historias con las tres tirasTras 70 años de hitos e historias con la selección alemana, Adidas heredará su liderazgo a Nike en 2027. Beckenbauer, Matthaus, Mario Götze: 70 años de historias con las tres tirasForbes Staff

Forbes

Todos los equipos de Kings League irán a México gracias a Zlatan Ibrahimovic. Así funcionará el Redemption Game. 02 de Abril, 2024 05:45

El After Kings de anoche dio mucho de lo que hablar. A pesar de que no hubo ningún anuncio de un exfutbolista de renombre, Arabia Saudí y Japón se unen al elenco de países que formarán la Kings World Cup que se celebrará en tierras mexicanas del 26 de mayo al 8 de junio. Poco a p

3d Juegos

Mario Gotze reveló el cambio que significó en su vida el gol a Argentina en la final del Mundial 2014: “No es fácil volver a la realidad”. 17 de Septiembre, 2025 09:50

El delantero que marcó el tanto decisivo para la selección de Alemania recordó la hazaña en el Maracaná

Infobae