La IA y los problemas del “capitalismo de vigilancia” Milenio

La IA y los problemas del “capitalismo de vigilancia”. Noticias en tiempo real 06 de Noviembre, 2023 00:35

En los últimos días la inteligencia artificial (IA) ha estado en el centro de la conversación a escala mundial, con una importante cumbre en Reino Unido y una nueva orden ejecutiva de la Casa Blanca.
Gran parte del debate se centra en cómo las compañías y los reguladores pueden prevenir desastres futuristas, desde una guerra nuclear hasta una pandemia, pero hay un problema en este momento al que se le presta mucho menos atención: cómo asegurarse de que la IA no se coma el almuerzo económico de todos.
No me refiero solo a la disrupción laboral relacionada con la IA que puede producirse en el futuro.
Eso, al menos, es un reto conocido.
En vez de eso, de lo que hablo es la forma como la inteligencia artificial va a reproducir y aumentar los problemas del capitalismo de vigilancia.
Con esto nos referimos a la forma en que los datos y la atención de los usuarios son controlados y monetizados por un puñado de grandes actores tecnológicos que son capaces de obtener ganancias económicas que son desproporcionadas en relación al valor que agregan.
Como demuestran una gran cantidad de acciones antimonopolio en Estados Unidos y Europa, todavía no abordamos este problema en ámbitos como búsquedas en internet, publicidad digital y redes sociales, por no hablar de la inteligencia artificial.
Una gran parte de la razón de esto es que “no puedes regular lo que no entiendes”, dice Tim O’Reilly, CEO de O’Reilly Media y profesor visitante de prácticas en el Instituto de Innovación y Propósito Público de la UCL.
En un artículo sobre los dividendos en la “economía de la atención” que se publicó la semana pasada con Mariana Mazzucato e Ilan Strauss, O’Reilly argumenta que “un problema más fundamental que tienen que abordar los reguladores es que no se conocen bien los mecanismos con los que las plataformas miden y administran la atención del usuario”.
Para O’Reilly y sus coautores, “una regulación eficaz depende de una mejor divulgación”.
Por un momento dejemos de lado la IA y consideremos las métricas utilizadas por los gigantescos motores de búsqueda, las plataformas de comercio electrónico y las empresas de redes sociales para monetizar la atención.
Estos incluyen el número de usuarios y el tiempo que pasan en un sitio, cuánto compran y en respuesta a qué anuncios, la relación entre clics orgánicos y clics en anuncios, cuánto tráfico se envía a sitios externos, el volumen de comercio en un industria determinada y qué porcentaje de las tarifas se destina a vendedores externos.
Cualquier modelo de negocio de vigilancia utilizará estas métricas clave.
Y, sin embargo, como señalan los autores, solo las métricas financieras más tradicionales son las que se informan de manera regular y consistente en los documentos públicos.
Esto resulta en confusión porque esos informes financieros están “casi completamente desconectados de las métricas operativas que se utilizan para administrar gran parte del negocio”.
Por supuesto, las empresas argumentarán que esas métricas son patentadas y que si fueran conocidas permitirían a terceros manipular sus sistemas, pero, como pretenden demostrar los actuales casos antimonopolio que involucran a grandes compañías de tecnología, dichas partes, junto con los clientes, se han visto perjudicadas.
El problema a la hora de medir el daño es que gran parte de la información sobre los modelos de negocio digitales y su funcionamiento es opaca.
Y esto es aún más cierto cuando cambiamos el enfoque hacia grandes modelos de lenguaje y la IA generativa.
Si bien sus modelos operativos son diferentes a los de los motores de búsqueda o el comercio electrónico, también dependen de la atención del usuario y de la autoridad algorítmica y, como demuestran las conversaciones regulatorias de los últimos días, estos no se entienden bien, ni por sí solos ni en relación entre sí.
La orden ejecutiva de la Casa Blanca contiene disposiciones que obligan a los desarrolladores de inteligencia artificial de “modelos base de doble uso” —aquellos que pueden usarse con fines militares o civiles— a proporcionar actualizaciones a los funcionarios del gobierno federal sobre las pruebas de seguridad.
Estas pruebas tienen que ser “robustas, confiables, repetibles y estandarizadas”.
El Departamento de Comercio de EU tiene la tarea de desarrollar estándares para detectar y etiquetar contenido generado por IA.
Es un buen comienzo pero no es suficiente.
El subjefe de gabinete de la Casa Blanca, Bruce Reed, quien dirigió los esfuerzos para la orden ejecutiva, me dijo la semana pasada que querían “hacer todo lo que fuera posible con las herramientas que tenemos” y la administración espera que la orden “ayude a generar consenso en torno a lo que podemos hacer”.
Eso puede incluir casos de la Comisión Federal de Comercio sobre el poder monopólico de la IA; la orden exige un “ecosistema de inteligencia artificial justo, abierto y competitivo”.
Pero 30 años después de la llegada del internet de consumo, las plataformas de las grandes compañías de tecnología apenas ahora se enfrentan a demandas por monopolio.
Se puede argumentar que necesitamos un poco menos de atención en los peores escenarios del estilo Terminator para la IA y una divulgación de datos económicos mucho más específica para frenar la nueva tecnología aquí y ahora, antes de que ya haya ganado demasiado fuerza.
Por ejemplo, las propuestas de la Casa Blanca no abordan los daños económicos inmediatos, como el uso de datos protegidos por derechos de autor en modelos de entrenamiento.
Ha habido un intenso debate sobre cómo equilibrar la seguridad y la innovación cuando se trata de IA.
Si el departamento de comercio es inteligente, puede utilizar la orden como palanca para obligar a los desarrolladores a abrir sus cajas negras y mostrarnos cómo funcionan estos negocios.
Será un paso hacia la identificación de métricas clave para un esquema de divulgación pública, algo imprescindible para una buena regulación.
No logramos idear un mejor sistema de contabilidad para el capitalismo de vigilancia.
No cometamos ese error con la IA.
?


Compartir en:
   

 

 

Suspenden a la primera ministra de Tailandia por una llamada telefónica filtrada.05:17

La determinación sobre Paetongtarn Shinawatra por el Tribunal Constitucional ha generado dudas sobre si el regreso político de su familia el año pasado terminaría con otra caída

El Nuevo Día

¿De dónde, mi reina?. 05:30

Verónica Malo critica la propuesta de un reembolso a los mexicanos en Estados Unidos por el impuesto a las remesas.

SDP Noticias

¡Impactante! Ingresos de la minería en la nube de Bow Miner revelados: XRP gana $20,000 al día, ETH gana $35,000 al día ¡y BTC es aún más sorprendente!.

Despídete de la minería tradicional y da la bienvenida a la nueva era de la riqueza inteligente. Imagina estar recostado en una silla de playa, bebiendo una bebida helada, mientras tus activos criptográficos generan ingresos para ti las 24 horas del día.

Lado.mx

Pasto sintético: limpieza, cuidado y consejos clave.

El pasto sintético es una solución práctica, estética y de bajo mantenimiento para múltiples espacios: jardines, terrazas, áreas infantiles, canchas deportivas e incluso interiores.

Lado.mx

¿Compraste en Mercado Libre y tu pedido viene por Estafeta? Así puedes rastrearlo en minutos.

Un envío comienza con confianza Comprar por internet se ha vuelto parte de la vida diaria en México. Y entre todas las plataformas de e-commerce, Mercado Libre destaca por su facilidad, velocidad y cobertura.

Lado.mx

Sale un inexperto de la SEV y llega otro peor… Pero hay amistad con Nahle. 03:40

* Remueven a Calixto Armas en la Subsecretaría de Educación Media Superior y Superior de la SEV * Nombran a David Jiménez rojas, excomisionado del extinto IVAI, para sustituirlo en el cargo. * Oficialmente la SEV no ha informado nada al respecto, pero el exsubsecretario lo confirmó en su Facebook. Irineo Pérez Melo.- De manera […]

Dpoderapoder

Cruce de declaraciones entre Raúl Chapado y el CSD por la financiación del atletismo . 04:20

El atletismo español vive días de tensión institucional tras el choque de declaraciones entre Raúl Chapado, presidente de la Real Federación Española de Atletismo (RFEA), y el Consejo Superior de Deportes (CSD), a ra

Mundo Deportivo

Entre Líneas 30/06/2025. 08:44

El acontecer político y financiero de Nuevo León está aquí.

El Financiero

clima culiacan

Clima en Culiacán Rosales: temperatura y probabilidad de lluvia para este 26 de junio. 26 de Junio, 2025 03:50

Debido a su ubicación geográfica, que le dan una gran variedad de climas, México es uno de los países con mayor biodiversidad y es hogar de al menos 12% de las especies del mundo

Infobae

Pronóstico del clima en Culiacán Rosales este domingo: temperatura, lluvias y viento. 29 de Junio, 2025 04:04

La temperatura más alta registrada en el territorio mexicano fue la del 6 de julio de 1966, cuando el termómetro subió hasta los 58.5 grados

Infobae

Clima en Culiacán Rosales: conoce el pronóstico y prepárate antes de salir. 04:00

La temperatura más alta registrada en el territorio mexicano fue la del 6 de julio de 1966, cuando el termómetro subió hasta los 58.5 grados

Infobae

clima monterrey

México gana 4-3 ante el Equipo de Estrellas de la LMB. 19:40

México gana 4-3 ante el Equipo de Estrellas de la LMB Con un mejor clima, el Juego de Estrellas pudo llevarse a cabo con victoria mexicana en el Harp Helú m.diazLun, 30/06/2025 - 19:17

Record

Clima en Monterrey hoy: el pronóstico para el martes 1 de julio de 2025. 01:14

Conoce el pronóstico del clima para la ciudad de Monterrey

El Informador

Clima Chihuahua

Lluvias fuertes y vientos dejan calles inundadas en Chetumal. 28 de Junio, 2025 13:24

FÁTIMA VÁZQUEZ / Raúl Flores MartínezTras llover toda la noche y parte de esta mañana, las calles de Chetumal, la capital de Quintana Roo, amanecieron inundadas en varios puntos de la ciudad, donde las autoridades recomendaron extremar precauciones.El grupo de monitoreo tormenta municipal informó que al menos 21 calles presentan anegaciones s

Excelsior

El tiempo en México este fin de semana: ciclón Flossie mantendrá intenso temporal lluvioso y ambiente más fresco. 29 de Junio, 2025 09:06

La sexta tormenta de la temporada en el Pacífico, Flossie, mantendrá intensas lluvias en la mitad del territorio mexicano junto con humedad del Golfo de México, favoreciendo que el ambiente se refresque. Las abundantes lluvias siguen extendiéndose en el país, haciendo este junio uno de los más lluviosos con un 147 % de precipitaciones, siendo

Meteored.mx

Lluvias torrenciales para esta semana por ciclón tropical Flossie. Juan Antonio Palma te da el panorama. 19:08

El huracán Flossie, vaguadas y ondas tropicales gestarán lluvias torrenciales en México que seguirían generando encharcamientos y posibles inundaciones.Para esta semana, prevalecerá el potencial de encharcamientos e inundaciones en varios estados de la República Mexicana por la influencia de un ciclón tropical e inestabilidad asociada a vagu

Meteored.mx

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.