Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

El Sistema Nacional de Elecciones funciona, dice Guadalupe Taddei. 05:18

>> Sostiene una reunión de evaluación con las y los titulares de las Juntas Locales Ejecutivas del INE Ciudad de México, 15 de diciembre (entresemana.mx). La Consejera Presidenta del Instituto Nacional Electoral (INE), Guadalupe Taddei Zavala sostuvo un encuentro con las delegadas y delegados de las Juntas Locales Ejecutivas de todo el

Entresemana.mx

El tiempo de hoy en Houston para este viernes 26 de diciembre.05:42

Conoce el pronóstico del tiempo en Houston, Texas, para hoy viernes 26 de diciembre para evitar sufrir los cambios en el clima

La Opinión de Los Ángeles

El Papa León XIV: Dios se hace cercano a la humanidad con la pequeñez de un niño. 05:18

Las delegaciones de los donantes del pesebre del Aula Pablo VI y del árbol y el pesebre de la plaza de San Pedro son recibidos por el Santo Padre en el Vaticano. El Pontífice ha invitado a rezar “por los que sufren a causa de la guerra y la violencia” y de forma particular ha …

Entresemana.mx

Partidos de futbol en Argentina hoy 2023.

Consulta la agenda de encuentros programados para hoy. Los equipos mas destacados se enfrentaran en emocionantes duelos que prometen mantener a los aficionados al borde de sus asientos.

Lado.mx

Guía completa para identificar cuál es la mejor marca de lavadoras.

Elegir una lavadora adecuada representa una inversión importante para cualquier hogar. Con tantas opciones disponibles, determinar cuál es la mejor marca de lavadoras puede resultar complicado si no conoces los criterios fundamentales que distinguen a un modelo de calidad de uno básico.

Lado.mx

Generador de códigos QR en Lado.mx: Rápido, anónimo y gratis.

En la actualidad, los códigos QR se converten en una herramienta indispensable para compartir información de forma rápida y sencilla.

Lado.mx

Plataformas unificadas y datos fiables marcan la transformación digital de KPMG. 04:44

KPMG en España acelera su transformación digital con Microsoft Fabric y reduce en 60% el tiempo para convertir datos en decisiones estratégicas

NotiPress

Morena presume bienestar, pero los números dicen otra cosa: no se vive mejor en México asegura Rubén Moreira. 04:37

>> En “Con Peras, Manzanas y Naranjas”, el diputado federal del PRI evidenció las falsedades del discurso oficial sobre crecimiento económico, salario y poder adquisitivo >> Los economistas Mario Di Costanzo y Francisco Lezama evidenciaron estancamiento, endeudamiento histórico y encarecimiento de la vida cotidiana >>

Entresemana.mx

Muere Óscar Montiel, futbolista mexicano de 28 años que jugó en Lobos BUAP. 11:50

Óscar Montiel, quien fuera futbolista de los Lobos BUAP, falleció a los 28 años sin indicios de violencia y por supuestas causas naturales.

SDP Noticias

Verificación vehicular en Edomex 2026: ¿Qué autos pagarán la mitad del precio, según el holograma?. 15:15

Los nuevos costos de la verificación vehicular fueron aprobados por los diputados de Edomex dentro del paquete fiscal 2026; aquí te decimos los precios.

El Financiero

Entrega Huixquilucan 20 mil cenas de navidad a familias de escasos recursos. 09:25

Para que las familias que enfrentan alguna condición de vulnerabilidad tengan alimentos en su mesa en esta Nochebuena y puedan celebrar con sus queridos, desde las primeras horas de este miércoles 24 de diciembre, el Gobierno de Huixquilucan y el Sistema Municipal DIF, entregaron 20 mil cenas calientes, como parte del “Pollotón 2025”. L

Así Sucede

dia de los inocentes

Miles de luces se encenderán por la vida en América y Europa el día de los santos inocentes. 20 de Diciembre, 2025 11:34

Miles de luces se encenderán el 28 de diciembre en distintas ciudades de América y Europa como parte de una vigilia internacional en favor de la vida, convocada con el objetivo de “iluminar a la sociedad ante lo que consideran un enorme holocausto”, en referencia al aborto.  La iniciativa paraLa entrada Miles de luces se encenderán por la v

MPV

Del martirio a la broma: el origen y sentido del Día de los Santos Inocentes en México. 20 de Diciembre, 2025 14:10

Tinta ÁcidaEl Buen Tono Cada 28 de diciembre, en México y en varios países del mundo, se conmemora el Día de los Santos Inocentes, una fecha que hoy se asocia principalmente con bromas y engaños inofensivos entre amigos y familiares. Sin embargo, detrás de esta práctica popular existe un origen histórico y religioso que combina […]El

El buen tono

28 de diciembre: tradición y bromas por el Día de los Santos Inocentes. 15:34

David Becerra El 28 de diciembre, México se une a la celebración del Día de los Santos Inocentes, una fecha que combina tradición y diversión. Según la historia cristiana, esta conmemoración recuerda la matanza de niños menores de dos años, ordenada por el rey Herodes I el Grande para intentar evitar el nacimiento de Jesús …El cargo

Tribuna Noticias

egipto - sudáfrica

¿Cómo quedó el Repechaje africano para el Mundial 2026?. 18 de Noviembre, 2025 19:57

¿Cómo quedó el Repechaje africano para el Mundial 2026? Marruecos fue la sede del Repechaje africano rumbo al Mundial 2026; RD del Congo se quedó con el boleto a la repesca intercontinental araguilarMar, 18/11/2025 - 18:56

Record

Egipto vs Sudáfrica: Día, hora y canal para ver al rival de México en el Mundial 2026. 22 de Diciembre, 2025 17:30

En preparación para enfrentar a México en el Mundial 2026, Sudáfrica se mide con Egipto en la Copa Africana. Consulta el día y hora para ver el partido en Claro Sports.

SDP Noticias

Transmision en vivo Egipto vs Sudáfrica 2025: mira la Copa Africana de Naciones gratis. 00:50

DR: Transmita en vivo Egipto vs Sudáfrica en la Copa Africana de Naciones 2025 de forma gratuita en canal 4. Accede a esta plataforma de streaming gratuita desde cualquier parte del mundo con ExpressVPN. La segunda ronda de Copa Africana de Naciones Los juegos grupales comienzan en Marruecos. Los aficionados estarán atentos a Egipto. No […]

Mas Cipolleti

rotondi

Cruz Azul y Chivas no se hacen daño. 28 de Noviembre, 2025 06:11

El Cruz Azul del entrenador argentino Nicolás Larcamón empató sin goles en casa de las Chivas de Guadalajara de su compatriota Gabriel Milito, en los cuartos de final del Apertura 2025.En el cierre de los duelos de ida en la fase de los ocho mejores, Cementeros y el Rebaño Sagrado propusieron el partido, ambos tuvieron oportunidades de abrir el

El Siglo de Torreón

Cruz Azul vs Tigres: ¿Cuándo y dónde ver la Semifinal de ida del Apertura 2025 de la Liga MX?. 02 de Diciembre, 2025 13:08

Cruz Azul vs Tigres: ¿Cuándo y dónde ver la Semifinal de ida del Apertura 2025 de la Liga MX? La Máquina tratará de sacar ventaja en casa contra los felinos previo a su visita al Volcán aspindolaMar, 02/12/2025 - 11:00 Choque de

Record

Cruz Azul y Tigres lo definirán todo en la vuelta. 03 de Diciembre, 2025 21:24

Enrique LópezCruz Azul y Tigres dejaron abierta la Semifinal del torneo Apertura 2025 tras empatar 1-1 en un duelo intenso disputado en el Estadio Olímpico Universitario. La serie, que promete emociones fuertes, se decidirá el próximo sábado 6 de diciembre en el Estadio Universitario de Nuevo León a las 21:10 horas. Para avanzar, los celestes

Excelsior