Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

Ballet Folklórico del Ayuntamiento proyecta el talento local a nivel nacional e internacional: SeCultura Morelia.15:44

•Este año se realizó la primera promoción internacional de la agrupación, al participar en el 51 Festival Folclórico Colombiano, en Ibagué. Morelia, Michoacán; a 21 de diciembre de 2025.- La cultura, como eje de identidad, orgullo y proyección internacional, fue una constante durante el 2025 para el Gobierno de Morelia, encabezado por el

CB Televisión

Accidente en Colinas del Carmen, León, deja un muerto y un lesionado. 15:34

La madrugada del domingo se registró un accidente en León cuando un motociclista chocó contra una palmera, hecho que dejó un hombre fallecido y un lesionado

Periódico Correo

Partidos de futbol en Argentina hoy 2023.

Consulta la agenda de encuentros programados para hoy. Los equipos mas destacados se enfrentaran en emocionantes duelos que prometen mantener a los aficionados al borde de sus asientos.

Lado.mx

Guía completa para identificar cuál es la mejor marca de lavadoras.

Elegir una lavadora adecuada representa una inversión importante para cualquier hogar. Con tantas opciones disponibles, determinar cuál es la mejor marca de lavadoras puede resultar complicado si no conoces los criterios fundamentales que distinguen a un modelo de calidad de uno básico.

Lado.mx

Generador de códigos QR en Lado.mx: Rápido, anónimo y gratis.

En la actualidad, los códigos QR se converten en una herramienta indispensable para compartir información de forma rápida y sencilla.

Lado.mx

Hombre es hallado muerto y baleado afuera de su casa en la región de Ario de Rosales.13:44

El individuo consumía bebidas embriagantes al exterior de su hogar                  Ario de Rosales, Mich.- Un hombre que consumía bebidas embriagantes al exterior de su domicilio fue encontrado muerto y con heridas de bala, hecho registrado en la comunidad de La Chuparrosa, perteneciente al municipio de Ario de […]La entrada Hombr

Respuesta.com.mx

Predicciones, probabilidades y tiempo de Patriots vs Ravens: ‘Sunday Night Football’ elegido según un modelo probado. 14:28

Los rivales de la AFC se enfrentarán en el ‘Sunday Night Football’ cuando Patriotas de Nueva Inglaterra visita Cuervos de Baltimore. Los Pats (11-3) vieron terminar su racha de 10 victorias consecutivas en la Semana 15 cuando cayeron ante Buffalo 35-31. Los Ravens (7-7) derrotaron a Cincinnati 24-0 el domingo, poniendo fin a una racha

Mas Cipolleti

Recuperan bajo la nieve de Toarp, Suecia, piezas arqueológicas clave para reconstruir las conexiones entre el mundo vikingo y la Europa medieval. 14:28

Las recientes investigaciones sobre los vikingos en el yacimiento sueco de Toarp muestran la transición de las sociedades paganas hacia nuevas formas de organización.

Muy Interesante

Gabriela Villanueva, imitadora de Michael Jackson, ganó la segunda temporada de Yo Soy: así reaccionaron las redes ante el triunfo. 09:20

La artista que da vida al ‘Rey del Pop’ se convirtió en una de las favoritas desde los castings y ahora logró llevarse el premio mayor

Infobae

steelers hoy

T.J. Watt fue hospitalizado por un problema en el pulmón. 11 de Diciembre, 2025 15:06

Ricardo ThomasEl estelar defensivo T.J. Watt fue hospitalizado para una evaluación adicional de su pulmón, tras experimentar un malestar durante un tratamiento en las instalaciones del equipo el miércoles.El linebacker de 31 años, uno de los pilares defensivos de la NFL, no participará en la práctica de hoy, y su participación en el Monday N

Excelsior

La estrella de la NFL Josh Allen y su esposa Hailee Steinfeld anunciaron que esperan un bebé. 12 de Diciembre, 2025 17:40

Ariel VelázquezEn medio de una semana crucial para mantener la hegemonía en el Este de la Conferencia Americana, en Buffalo hubo un respiro que cortó con la tensión del juego contra Patriots. Al menos por una tarde no hubo sesión de videos ni repeticiones en campo.El quarterbac de los Bills, Josh Allen dio a conocer que será padre por primera

Excelsior

T.J. Watt, de Pittsburgh Steelers, se somete a cirugía por colapso pulmonar parcial. 12 de Diciembre, 2025 18:26

T.J. Watt, de Pittsburgh Steelers, se somete a cirugía por colapso pulmonar parcial El caza mariscales salió del quirófano con éxito, aunque se desconoce el tiempo de su recuperación eariasVie, 12/12/2025 - 18:01 Buenas noticias e

Record

knicks - heat

Partidos de hoy viernes 19 de diciembre del 2025. 19 de Diciembre, 2025 00:06

Partidos de hoy viernes 19 de diciembre del 2025 Futbol europeo, NBA y beisbol mexicano en la actividad de este viernes rtrujillo25Jue, 18/12/2025 - 23:29 Arranca la actividad deportiva del fin de semana. El futbol europeo entra en acc

Record

Knicks aim to rebound against shorthanded Heat . 20:26

There will be no NBA Cup banner hanging at Madison Square Garden in honor of the New York Knicks" tournament title.,But there has been an NBA Cup hang

Deadspin

Tras resbalón, Knicks busca corregir camino ante Heat. 16:37

New York cortó una racha de siete victorias en su anterior partido y busca ante Miami, con 1-6 en últimos siete cotejos, volver a la victoria para reafirmarse como el segundo mejor del Este.

ESPNdeportes.com

nets - raptors

Partidos de hoy viernes 7 de noviembre de 2025. 07 de Noviembre, 2025 00:59

Partidos de hoy viernes 7 de noviembre de 2025 El Mundial Sub-17 y la Liga MX se roban el espectáculo amartinezVie, 07/11/2025 - 00:42

Record

Porous defense plagues Nets ahead of Raptors matchup . 10 de Noviembre, 2025 18:28

While the Brooklyn Nets are in a massive rebuilding project and many losses are anticipated, coach Jordi Fernandez would like to see some better defen

Deadspin

Partidos de hoy martes 11 de noviembre de 2025. 11 de Noviembre, 2025 01:28

Partidos de hoy martes 11 de noviembre de 2025 La NBA como principal protagonista de la actividad del martes m.diazMar, 11/11/2025 - 00:51

Record