La IA y los problemas del “capitalismo de vigilancia” Milenio

La IA y los problemas del “capitalismo de vigilancia”. Noticias en tiempo real 06 de Noviembre, 2023 00:35

En los últimos días la inteligencia artificial (IA) ha estado en el centro de la conversación a escala mundial, con una importante cumbre en Reino Unido y una nueva orden ejecutiva de la Casa Blanca.
Gran parte del debate se centra en cómo las compañías y los reguladores pueden prevenir desastres futuristas, desde una guerra nuclear hasta una pandemia, pero hay un problema en este momento al que se le presta mucho menos atención: cómo asegurarse de que la IA no se coma el almuerzo económico de todos.
No me refiero solo a la disrupción laboral relacionada con la IA que puede producirse en el futuro.
Eso, al menos, es un reto conocido.
En vez de eso, de lo que hablo es la forma como la inteligencia artificial va a reproducir y aumentar los problemas del capitalismo de vigilancia.
Con esto nos referimos a la forma en que los datos y la atención de los usuarios son controlados y monetizados por un puñado de grandes actores tecnológicos que son capaces de obtener ganancias económicas que son desproporcionadas en relación al valor que agregan.
Como demuestran una gran cantidad de acciones antimonopolio en Estados Unidos y Europa, todavía no abordamos este problema en ámbitos como búsquedas en internet, publicidad digital y redes sociales, por no hablar de la inteligencia artificial.
Una gran parte de la razón de esto es que “no puedes regular lo que no entiendes”, dice Tim O’Reilly, CEO de O’Reilly Media y profesor visitante de prácticas en el Instituto de Innovación y Propósito Público de la UCL.
En un artículo sobre los dividendos en la “economía de la atención” que se publicó la semana pasada con Mariana Mazzucato e Ilan Strauss, O’Reilly argumenta que “un problema más fundamental que tienen que abordar los reguladores es que no se conocen bien los mecanismos con los que las plataformas miden y administran la atención del usuario”.
Para O’Reilly y sus coautores, “una regulación eficaz depende de una mejor divulgación”.
Por un momento dejemos de lado la IA y consideremos las métricas utilizadas por los gigantescos motores de búsqueda, las plataformas de comercio electrónico y las empresas de redes sociales para monetizar la atención.
Estos incluyen el número de usuarios y el tiempo que pasan en un sitio, cuánto compran y en respuesta a qué anuncios, la relación entre clics orgánicos y clics en anuncios, cuánto tráfico se envía a sitios externos, el volumen de comercio en un industria determinada y qué porcentaje de las tarifas se destina a vendedores externos.
Cualquier modelo de negocio de vigilancia utilizará estas métricas clave.
Y, sin embargo, como señalan los autores, solo las métricas financieras más tradicionales son las que se informan de manera regular y consistente en los documentos públicos.
Esto resulta en confusión porque esos informes financieros están “casi completamente desconectados de las métricas operativas que se utilizan para administrar gran parte del negocio”.
Por supuesto, las empresas argumentarán que esas métricas son patentadas y que si fueran conocidas permitirían a terceros manipular sus sistemas, pero, como pretenden demostrar los actuales casos antimonopolio que involucran a grandes compañías de tecnología, dichas partes, junto con los clientes, se han visto perjudicadas.
El problema a la hora de medir el daño es que gran parte de la información sobre los modelos de negocio digitales y su funcionamiento es opaca.
Y esto es aún más cierto cuando cambiamos el enfoque hacia grandes modelos de lenguaje y la IA generativa.
Si bien sus modelos operativos son diferentes a los de los motores de búsqueda o el comercio electrónico, también dependen de la atención del usuario y de la autoridad algorítmica y, como demuestran las conversaciones regulatorias de los últimos días, estos no se entienden bien, ni por sí solos ni en relación entre sí.
La orden ejecutiva de la Casa Blanca contiene disposiciones que obligan a los desarrolladores de inteligencia artificial de “modelos base de doble uso” —aquellos que pueden usarse con fines militares o civiles— a proporcionar actualizaciones a los funcionarios del gobierno federal sobre las pruebas de seguridad.
Estas pruebas tienen que ser “robustas, confiables, repetibles y estandarizadas”.
El Departamento de Comercio de EU tiene la tarea de desarrollar estándares para detectar y etiquetar contenido generado por IA.
Es un buen comienzo pero no es suficiente.
El subjefe de gabinete de la Casa Blanca, Bruce Reed, quien dirigió los esfuerzos para la orden ejecutiva, me dijo la semana pasada que querían “hacer todo lo que fuera posible con las herramientas que tenemos” y la administración espera que la orden “ayude a generar consenso en torno a lo que podemos hacer”.
Eso puede incluir casos de la Comisión Federal de Comercio sobre el poder monopólico de la IA; la orden exige un “ecosistema de inteligencia artificial justo, abierto y competitivo”.
Pero 30 años después de la llegada del internet de consumo, las plataformas de las grandes compañías de tecnología apenas ahora se enfrentan a demandas por monopolio.
Se puede argumentar que necesitamos un poco menos de atención en los peores escenarios del estilo Terminator para la IA y una divulgación de datos económicos mucho más específica para frenar la nueva tecnología aquí y ahora, antes de que ya haya ganado demasiado fuerza.
Por ejemplo, las propuestas de la Casa Blanca no abordan los daños económicos inmediatos, como el uso de datos protegidos por derechos de autor en modelos de entrenamiento.
Ha habido un intenso debate sobre cómo equilibrar la seguridad y la innovación cuando se trata de IA.
Si el departamento de comercio es inteligente, puede utilizar la orden como palanca para obligar a los desarrolladores a abrir sus cajas negras y mostrarnos cómo funcionan estos negocios.
Será un paso hacia la identificación de métricas clave para un esquema de divulgación pública, algo imprescindible para una buena regulación.
No logramos idear un mejor sistema de contabilidad para el capitalismo de vigilancia.
No cometamos ese error con la IA.
?


Compartir en:
   

 

 

En Sinaloa, detienen a dos personas que transportaban más de 300 kilos de metanfetamina en un tractocamión. 11:15

México.- Como parte de las labores de reforzamiento de seguridad, en Sinaloa, en una acción encabezada por elementos de la Agencia de Investigación Criminal (AIC) de la Fiscalía General de la República (FGR), en coordinación con Secretaría de la Defensa Nacional (Defensa), Secretaría de Marina (Semar), Guardia Nacional (GN) y Secretaría de

AF Medios

Tlaquepaque extiende campaña de vacunación contra el sarampión.11:13

Domingo 7 de diciembre.- El Ayuntamiento de Tlaquepaque, en coordinación con el Servicio Nacional de Salud Pública y la Secretaría de Salud Jalisco, anunció la extensión de la campaña de vacunación contra el sarampión, que se realizará del 8 al 12 de diciembre en distintos planteles escolares del municipio. El objetivo es reforzar la prote

Partidero.com

Steelers vs Ravens EN VIVO NFL Semana 14. 11:24

Steelers vs Ravens EN VIVO NFL Semana 14 Sigue EN VIVO todas las acciones del partido de Semana 14 de la NFL rtrujillo25Dom, 07/12/2025 - 11:10 SIGUE EN VIVO LAS ACCIONES DEL PARTIDO AQUÍ:El título de la división norte de la Confere

Record

Innovación y desempeño: panorama actual de las llantas en el mercado mexicano.

La elección de las llantas es una de las decisiones más importantes para cualquier conductor, aunque con frecuencia se le resta atención.

Lado.mx

Lugares para viajar con amigos para tu próxima aventura en grupo.

Organizar una escapada con tus mejores amigos es una de las experiencias más gratificantes que pueden vivir juntos. Elegir bien los lugares para viajar con amigos marcará la diferencia entre unas vacaciones más y una aventura que recordarán toda la vida.

Lado.mx

Ventajas de la fibra óptica con Totalplay: conexión estable, rápida y confiable.

En un mundo cada vez más digital, contar con una conexión a Internet rápida y estable es indispensable.

Lado.mx

Bienestar Animal y municipio de Tecamachalco suspenden corrida de toros.10:44

En cumplimiento de las leyes y normativas de protección y bienestar de seres sintientes se canceló el evento. TECAMACHALCO, Pue.- En cumplimiento de leyes y normativas de protección a los seres sintientes, fue suspendido el evento “Gran Suelta de Toros” que se realizaría este sábado 06 en el Barrio de la Villita de esta demarcaci

Paralelo19.tv

SMN advierte sobre panorama climático dividido para este domingo 7 de diciembre con fuertes lluvias en el occidente, heladas en el norte y calor en el sureste. 10:24

Lluvias fuertes en el occidente, heladas severas en el norte y calor intenso en el sureste según el SMN

El Imparcial

FIL2025: Alejandro Moreno presenta libro en el que explica la transformación de la sociedad mexicana. 10:23

El libro fue editado por el Banco Nacional de México como el volumen VII de la serie ‘Los valores de los mexicanos, y la recopilación de datos inició en los años 80.

El Financiero

Menor de 12 años intoxicada con metanfetamina tras consumir alimentos en puesto callejero de Rosarito. 14:20

Su madre también presentó síntomas similares, y ambas habrían comenzado a sentirse mal tras consumir alimentos en el puesto callejero.

El Imparcial

Congelan cuentas a Raúl Rocha, dueño de Miss Universo. 13:56

CN COLIMANOTICIAS Ciudad de México.- La Unidad de Inteligencia Financiera (UIF) ordenó el bloqueo de las cuentas bancarias del empresario Raúl Rocha, uno de los dueños de Miss Universo, quien es investigado por huachicol y tráfico de armas. La Fiscalía General de la República (FGR) confirmó en noviembre pasado una investigación por

Colima Noticias

boca vs racing

Entrenador en el futbol argentino se escondió para fumar en pleno partido. 03 de Diciembre, 2025 12:18

Entrenador en el futbol argentino se escondió para fumar en pleno partido El entrenador de Racing fue captado fumando durante la definición por penales, lo que podría acarrear sanciones aspindolaMié, 03/12/2025 - 11:44 El futbol ar

Record

La Liga Profesional confirmó los árbitros para las semifinales Boca-Racing y Gimnasia-Estudiantes. 03 de Diciembre, 2025 14:40

Los cruces del Torneo Clausura cuentan con cronograma completo. Los detalles

Infobae

Boca Juniors recibirá a Racing por un lugar en la final del Torneo Clausura: hora, TV y formaciones. 09:50

El equipo de Claudio Úbeda viene de eliminar a Argentinos Juniors, mientras que el conjunto de Costas hizo lo propio con Tigre. Transmiten TNT Sports y Disney+ desde las 19

Infobae

packers - bears

Packers vs Bears: Dónde y cómo ver el partido de la Semana 14 NFL 2025. 13:05

Sigue el emocionante encuentro entre Packers Bears en Soldier Field. Un clásico de la NFL que no te puedes perder. The post Packers vs Bears: Dónde y cómo ver el partido de la Semana 14 NFL 2025 appeared first on Primero y Diez.

Primero y Diez

Chicago Bears vs Green Bay Packers EN VIVO NFL Semana 14. 14:40

Chicago Bears vs Green Bay Packers EN VIVO NFL Semana 14 Sigue EN VIVO todas las acciones del partido de Semana 14 de NFL rtrujillo25Dom, 07/12/2025 - 14:35 SIGUE LAS ACCIONES DEL PARTIDO EN VIVO AQUÍ: La lucha por el Norte de la

Record

Packers ponen a prueba el liderato de los Bears en el frío Lambeau Field. 15:00

Chicago, sembrado N° 1 de la Conferencia Nacional en este momento, visita Green Bay en busca de credibilidad.

ESPNdeportes.com

broncos vs raiders

Horarios y canales para ver la Semana 14 de la NFL 2025. 03 de Diciembre, 2025 17:33

Ariel VelázquezLa National Football League nunca deja nada al azar. Cada ventana estelar, cada cruce divisional tardío y cada partido con altas expectativas responde a una arquitectura pensada desde meses antes. El récord de rating impuesto por el duelo de Thanksgiving entre Cowboys de Dallas y Chiefs de Kansas City fue la confirmación más r

Excelsior

NFL 2025: ¿Cuándo y dónde ver la Semana 14 de la temporada?. 04 de Diciembre, 2025 00:19

NFL 2025: ¿Cuándo y dónde ver la Semana 14 de la temporada? Con sólo un par de juegos por delante, los equipos de la NFL ya no pueden perder rtrujillo25Mié, 03/12/2025 - 23:22 La Semana 14 de la NFL llega en un momento clave de la

Record

Broncos vs Raiders: Dónde y cómo ver el partido de la Semana 14 NFL 2025. 13:05

Disfruta del emocionante enfrentamiento entre los Broncos Raiders en el Allegiant Stadium, un partido crucial para la temporada. The post Broncos vs Raiders: Dónde y cómo ver el partido de la Semana 14 NFL 2025 appeared first on Primero y Diez.

Primero y Diez