Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

¿Quién es la Máscara?: Quiénes fueron los personajes eliminados este domingo . 02:44

Tras revelarse la identidad de dos eliminados, quedaron definidos los personajes finalistas

Infobae

Gustavo Petro acusa hallazgo de cuerpos en el mar.02:30

Liliana Moscoso / AFPBOGOTÁ.— El presidente de Colombia, Gustavo Petro, pidió abrir una investigación sobre el hallazgo de dos cuerpos en la orilla del mar en un pueblo en la frontera con Venezuela y sugirió que su muerte pudo deberse a un bombardeo estadunidense en el Caribe.Han aparecido estos cuerpos flotando en el mar de la Guajira”, es

Excelsior

Policía de Puebla  recuperó tres vehículos con reporte de robo. 02:25

Diario Sin Secretos Ciudad de Puebla.- Resultado del monitoreo permanente de la red de videovigilancia y del fortalecimiento de la coordinación interinstitucional, la Secretaría de Seguridad Pública (SSP), en colaboración con policías municipales de Puebla y Coronango, recuperó tres vehículos con reporte de robo. En una primera intervención

Diario Sin Secretos

Innovación y desempeño: panorama actual de las llantas en el mercado mexicano.

La elección de las llantas es una de las decisiones más importantes para cualquier conductor, aunque con frecuencia se le resta atención.

Lado.mx

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Ventajas de la fibra óptica con Totalplay: conexión estable, rápida y confiable.

En un mundo cada vez más digital, contar con una conexión a Internet rápida y estable es indispensable.

Lado.mx

Justicia administrativa frena privilegios: Valls Esponda. 01:44

En su informe final, Guillermo Valls resaltó que el TFJA evitó la captura privada del interés público y resolvió controversias por más de un billón de pesos, promoviendo una justicia administrativa ágil y austera.

El Financiero

Congreso de Baja California endurece sanciones por robo y alteración de catalizadores de vehículos. 01:23

Se establecen penas de 1 a 7 años de prisión para quienes roben catalizadores o manejen sus desechos sin permiso ambiental.

Uniradio Informa

Héctor Herrera insulta a Gerardo Arteaga por culpa de Sergio Ramos: "pin... muerto". 12:54

Héctor Herrera insulta a Gerardo Arteaga por culpa de Sergio Ramos: "pin... muerto" La conversación del adiós del defensor y el pase a la Gran Final de los Diablos continúa eariasDom, 07/12/2025 - 12:33 Toluca consiguió

Record

VIDEO viral de retroexcavadora convertida en trineo de Santa Claus. 16:30

JOSEPH NA’ALo que comenzó como un desfile tradicional por el 31º aniversario del municipio de El Naranjo terminó convirtiéndose en un fenómeno viral a nivel nacional. La sorpresa mayor llegó cuando, entre luces, música y familias emocionadas, un trineo de Santa Claus apareció elevado por una retroexcavadora, completamente decorada y trans

Excelsior

La dura crítica de Quentin Tarantino contra Paul Dano y Matthew Lillard que desató una ola de reacciones en Hollywood y encendió el debate en redes. 15:49

Quentin Tarantino desató una controversia en Hollywood al criticar duramente a Paul Dano y Matthew Lillard en un podcast.

El Imparcial

empresario mauricio quintanilla

Manfred Mauricio Quintanilla enfrenta problemas fiscales con el Gobierno de EE.UU.. 29 de Noviembre, 2024 12:50

El empresario Manfred Mauricio Quintanilla, propietario de Grupo TUM, enfrenta problemas fiscales con el Gobierno de Estados Unidos. De acuerdo con el periodista Mario Maldonado, la empresa EVM USA LLC, filial de la mexicana generadora de electricidad Energía del Valle México, tiene un adeudo. Ya fue presentada una demanda por este tema contra la

Formato7.com

Detienen en EEUU al empresario Mauricio Quintanilla, dueño de Transportes Unidos Mexicanos. 15:02

El empresario mexicano Mauricio Quintanilla, propietario de la empresa Transportes Unidos Mexicanos (TUM), fue detenido en Estados Unidos por presunta posesión de droga. De acuerdo con los primeros reportes, Quintanilla permanecía en territorio estadounidense con una visa vencida. Su detención ocurrió la semana pasada en el estado de California

Proyecto Puente

Detienen en California al empresario Mauricio Quintanilla, dueño de TUM. 22:32

El empresario mexicano Mauricio Quintanilla, propietario de Transportes Unidos Mexicanos (TUM), fue detenido en el estado de California, Estados Unidos, luego de que autoridades migratorias detectaran que permanecía en el país con una visa vencida. Su arresto ocurrió la semana pasada y posteriormente fue trasladado al Centro Migratorio de Reclus

El Piñero

fran lebowitz

El arte de injuriar. 21 de Abril, 2023 08:40

Moshé Leher ¡Ay, la condición humana! La condición humana que todo lo explica. Yo cada vez que me topo con ella (por eso procuro contacto humano, el mínimo; estoy con Fran Lebowitz con eso de que la gente…), no tengo sino que tomar mi Biblia de cabecera; tengo un Zohar para tal efecto, pero está […]

Heraldo de Aguascalientes

Fran Lebowitz y otros cinco autores que recomendamos leer esta semana. 20 de Octubre, 2023 17:50

Una novela de culto protagonizada por una fan de Emily Dickinson; una novela obra francesa sobre la pérdida de la inocencia; un mundo repentinamente sin adultos; una gran amiga de Martin Scorsese; el humor que va de Franz Kafka a Woody Allen; un vital análisis del racismo a la mexicana… conoce los libros que recomienda Laberinto esta semana.La

Milenio

El Despacho Oval de Trump es una pesadilla rococó dorada. 30 de Mayo, 2025 01:25

Últimamente, el presidente estadunidense ha dedicado bastante tiempo a redecorar el Despacho Oval. El resultado solo puede calificarse de dorado infierno rococó. Si el aspecto de nuestro líder es una representación del país, ¿esto es lo que somos?Desde que el presidente Donald Trump comenzó a decorar el Despacho Oval en febrero, ha habido un

Milenio

Taylor Swift

Taylor Swift asiste al juego de los Chiefs y Texans en medio del compromiso de Travis Kelce. 21:45

Taylor Swift Mostró su apoyo a su prometido Travis Kelce Cuando los Kansas City Chiefs se enfrentaron a los Houston Texans. La superestrella del pop, de 35 años, fue vista en el Arrowhead Stadium en Kansas City, Missouri, el domingo 7 de diciembre, para un partido en casa que se transmitió por NBC. fútbol del […]

Mas Cipolleti

Taylor Swift lleva a Selena Gomez a animar a Travis Kelce en el Arrowhead Stadium. 22:40

Taylor Swift se comprometió en agosto con el jugador de los Kansas City Chiefs, Travis Kelce, después de dos años de relación

La Opinión

Taylor Swift y Selena Gomez durante el partido de los Chiefs contra los Texans. 23:50

Taylor Swift y Selena Gómez ¡¡¡Besties animan a Travis Kelce !!! ha sido publicado 7 de diciembre de 2025 8:23 p. m. PST taylor veloz’Con la esperanza de su futuro marido, Travis KelcePuede ganar para los Kansas City Chiefs… y no está solo selena gomez Se unieron a él el domingo por la noche para […]

Mas Cipolleti