Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:
   

 

 

E.L.F. ¿Le Ganó La Batalla A OCESA?. 21:43

Tras una semana de protestas digitales bajo los hashtags #OcesaAnunciaPreciosSS10, #Supershow10, #OCESA_OUT y #ELF_NO_COMPRA, la promotora OCESA finalmente publicó este jueves los precios y el mapa de zonas para las dos fechas del SUPER SHOW 10 de Super Junior en Ciudad de México y Monterrey. Sin embargo, el fandom E.L.F. México sostiene que la

Lacarteleramx.com

Conciliar el presupuesto de la UPR: el primer gran reto de la presidencia de Zayira Jordán Conde.21:16

La nueva presidenta de la universidad del Estado asegura que visitará todos los recintos y anticipa reunión la semana que viene con el director ejecutivo de la Junta Fiscal

El Nuevo Día

Congreso local llama a autoridades federales a establecer diálogo urgente con productores de trigo. 21:23

El exhorto presentado por la JUCOPO se dirige al titular de la Secretaría de Agricultura y Desarrollo Rural del Gobierno Federal

Uniradio Informa

¿Para qué sirve un ventilador de refrigeración?.

¿Sabías que uno de los componentes más importantes para que tu maquinaria pesada funcione correctamente es el ventilador del motor? En este artículo te vamos a contar qué es un ventilador de enfriamiento, qué tipos existen y por qué es tan clave para que tu equipo no se sobrecaliente y trabaje a su máximo rendimiento.

Lado.mx

¡Impactante! Ingresos de la minería en la nube de Bow Miner revelados: XRP gana $20,000 al día, ETH gana $35,000 al día ¡y BTC es aún más sorprendente!.

Despídete de la minería tradicional y da la bienvenida a la nueva era de la riqueza inteligente. Imagina estar recostado en una silla de playa, bebiendo una bebida helada, mientras tus activos criptográficos generan ingresos para ti las 24 horas del día.

Lado.mx

Lula y Javier Milei intercambian presidencia del Mercosur, posturas comerciales y ‘miradas’.19:44

En la cumbre regional se vieron reflejadas las visiones contrapuestas de Lula y Milei sobre lo que debería ser el posicionamiento del bloque.

El Financiero

Sedema investigará a Ana Villagrán, titular de la Agencia de Atención Animal... por maltrato animal. 20:44

La Sedema investigará el caso de presunto maltrato animal de la titular de la Agencia de Atención Animal, Ana Villagrán.

El Financiero

Biden califica de “cruel” el presupuesto de Trump por los recortes en sanidad. 20:13

EE.UU.- El expresidente de Estados Unidos Joe Biden calificó de “cruel” el amplio paquete fiscal y presupuestario del Gobierno de Donald Trump, aprobado este jueves por el Congreso, al considerar que contempla recortes “drásticos” en la sanidad pública. “La clase trabajadora merece algo mejor”, escribió el po

Canal 44

Famosa actriz de Televisa ahora vive en situación de calle en CDMX .11:26

Famosa actriz de Televisa ahora vive en situación de calle en CDMX Actuó junto a Verónica Castro y Mauricio Garcés, además de ganar un disco de oro en Hollywood gcatarinoJue, 03/07/2025 - 11:15

Record

Veracruz: Comandante de la Policía de Tehuipango es herido de gravedad en ataque armado. 00:45

Jaime “N.”, primer comandante de la Policía Municipal de Tehuipango, conocido por su distintivo “Dragón”, fue herido de gravedad por arma de fuego durante un ataque armado registrado la mañana de este miércoles 2 de julio, en una zona serrana que colinda con la comunidad de Macuilcuautitla, municipio de Ajalpan, Puebla. De acuerdo con l

El Piñero

mets - brewers

Francisco Lindor pierde puesto como primero en lineup de Mets. 05:00

Francisco Lindor fue removido como primero en el orden al bat, el miércoles por la noche, mientras los New York Mets están en un marcado slump. En el segundo juego de la doble cartelera ante Brewers, Lindor fue segundo en el orden como designado. Getty Images Tras 191 apariciones consecutivas como titular en el primer […]

Entrelineas

Mets chase series win over Brewers after lineup shake-up . 08:57

New York Mets manager Carlos Mendoza made a simple switch atop the batting order, and it paid big dividends.,Placed in the leadoff position in Game 2

Deadspin

David Peterson ends winless skid; pitches Mets past Brewers . 22:29

Juan Soto ripped a go-ahead RBI single in the sixth and David Peterson tossed 6 2/3 strong innings, fueling the host New York Mets to a 3-2 victory ov

Deadspin

Luis de Llano

El verdadero papel que Luis de Llano Palmer jugó en la vida de Chespirito más allá de lo que muestra la serie . 11:40

Tras el estreno del episodio 5 de la serie de Max se dieron a conocer nuevos detalles de la vida de Roberto Gómez Bolaños

Infobae

Itatí Cantoral celebra la victoria de Sasha Sokol en su juicio contra Luis de Llano. 13:40

La actriz mexicana se solidarizó con la cantante luego del veredicto a su favor en el proceso legal contra Luis de Llano por abuso sexual

La Opinión

Luis de Llano: Exesposa defiende al productor del crimen que cometió contra Sasha Sokol. 16:10

Exesposa de Luis de Llano escribió una columna para defender al productor

SDP Noticias

Vin Diesel

Vin Diesel tiene el plan perfecto para el gran final de la saga Rápidos y Furiosos, pero estas son las tres condiciones que se deben de cumplir . 30 de Junio, 2025 15:46

La saga Rápidos y Furiosos se encuentra en pausa, pero ya comienzan a surgir las primeras señales de su regreso. Para los fanáticos de esta longeva franquicia, todo apunta a una gran sorpresa: la posible inclusión de un rostro familiar que nadie esperaba... aunque, claro, bajo tres

Xataka México

Brad Pitt le da la razón a Tom Cruise: ahora lo que le mola a Hollywood son los maduritos a alta velocidad . 01 de Julio, 2025 06:10

En Hollywood, las modas van y vienen, en ocasiones a velocidades de vértido, pero hay algo que parece estar firmemente instalado en el panorama actual: los actores maduros y consagrados vuelven a brillar en pantalla grande con fuerza y velocidad. Dos nombres emblemáticos de esta tend

3d Juegos

¿Paul Walker regresa para "Rápidos y Furiosos 11"? Lo que dijo Vin Diesel . 01 de Julio, 2025 11:40

¿Paul Walker regresa para "Rápidos y Furiosos 11"? Lo que dijo Vin Diesel La última entrega estará disponible en abril del 2027 lreyesMar, 01/07/2025 - 11:39

Record

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.