¿En quién confías: gobierno mexicano o en las grandes empresas de tecnologías? Heraldo de Aguascalientes

El mes de marzo me lo he pasado revisando una y otra vez las notas sobre el hackeo al SAT mediante el chatbot de Anthropic: “Descalabran al SAT; utilizan inteligencia artificial para robar 195 millones de registros”, “Así usaron la inteligencia artificial para hackear datos de instituciones del gobierno”, “SAT e INE niegan hackeo masivo vía Claude de Anthropic”, “¿Hubo Hackeo Masivo al SAT e INE con Chatbot de Inteligencia Artificial? Autoridades Responden”, “El INE, el SAT y diversos gobiernos estatales fueron hackeados con ayuda de Claude y GPT-4.1”, “¿Cómo usaron la inteligencia artificial Claude para hackear datos de mexicanos?”. Siempre he dicho que me encanta Claude de Anthropic, pues redacta muy bien temas jurídicos; sin embargo, siempre he gritado que la mejor Inteligencia Artificial Generativa (IAG) para el derecho es la que entrenen los abogados con métodos científicos y, en esa misma lógica, que la mejor IAG para que las administraciones públicas ejerzan sus funciones es la que se desarrolle con bases de datos públicas y algoritmos precisos de derecho administrativo. En fin, nunca he pensado que la mejor IAG para el SAT sea Claude.

Luego me acuerdo de los hackeos a PEMEX (ya perdí le cuenta de cuantos), a la SEDENA por conducto de Guacamaya Leaks, también recuerdo el de Mexican Mafia al Poder Judicial de la Ciudad de México. Años acumulando incidentes de ciberseguridad en bases de datos de gobiernos municipales, estatales y federales, pero los mexicanos tenemos memoria corta y somos expertos en olvidar. Todo se olvida y nadie sabe quién responde por los daños que sufrieron los ciudadanos.

Existen la Ley General de Responsabilidades Administrativas (LGRA) y la Ley Federal de Responsabilidad Patrimonial del Estado (LFRPE): normas jurídicas que garantizan a los ciudadanos que la autoridad respetará sus derechos fundamentales y que, de no hacerlo, el Estado los indemnizará y mejorará su actuación para hacer realidad el derecho a la buena administración. Entonces, ¿por qué no pasa nada cuando el Estado vulnera derechos a través de tecnologías digitales? ¿Por qué en la relación digital entre ciudadanos y gobiernos no existe certeza jurídica para los primeros? ¿Por qué el Estado guarda silencio cuando las grandes empresas tecnológicas no se someten al interés general?

La autoridad solamente puede hacer lo que la ley le faculta, y hasta hoy que escribo estas líneas, no hay ninguna ley que faculte a las autoridades a utilizar IAG. Entonces, ¿por qué la usan? ¿Por qué la usan si no pueden responsabilizar a estas empresas tecnológicas cuando algo falla? Es hora de que los ciudadanos exijamos responsabilidad al Estado por actuar sin facultades y por no garantizarnos una indemnización cuando nuestros derechos son vulnerados.

Hoy las administraciones deben advertir los riesgos de que el interés privado fácilmente puede estar por encima del interés público, porque todos necesitan tecnologías digitales, pero los creadores de estas son las empresas privadas que, por consecuencia, se sirven a sí mismas. Por lo tanto, la capacidad del sector público para mantener su autonomía frente a las fuerzas del mercado depende, en primer lugar, de su habilidad al controlar, auditar, proteger, acceder y disponer de información confiable y oportuna, recopilada, analizada y obtenida a través de métodos científicos y, a su vez, donde los ciudadanos participen democráticamente en un modelo de gobernanza.

En un escenario ideal, la clave para la implementación de IAG en las administraciones públicas sería la regulación internacional con modelos de gobernanza que equilibren el interés público y el privado mediante normas que regulen la relación entre los desarrolladores tecnológicos privados y las administraciones públicas. Así, los Estados accederían a las tecnologías digitales sin comprometer su soberanía, asegurando que las empresas tecnológicas respeten el interés público y los derechos fundamentales. Pero, como no estamos en ese escenario tenemos el debate siguiente: a) supeditar a las administraciones públicas a los grandes desarrolladores tecnológicos privados, lo cual se traduce en la derrota del interés público frente al interés privado y a la pérdida de la soberanía, o b) desarrollar tecnologías digitales que nazcan desde el Estado. Aquí el reto es evitar que las personas sean controladas por los gobernantes en turno y no perderse de los avances tecnológicos.

Un punto a favor al supeditar a las administraciones públicas a los desarrolladores tecnológicos privados es que estas pueden beneficiarse de las tecnologías digitales más novedosas y desarrolladas; sin embargo, existe el riesgo de perder la soberanía, el control sobre los datos, puede haber graves implicaciones para la seguridad de los sistemas de información que se refleje en un daño a la seguridad nacional, erario público y manipular la conducta de las personas con el fin de que estén al servicio de los intereses privados de cada dueño de tecnologías.

Por su parte, la ventaja de que las tecnologías digitales nazcan desde el Estado es que éste mantiene el control total sobre sus sistemas y datos; no obstante, el riesgo es que las tecnologías utilizadas no sean las más vanguardistas. El problema más grave se presenta en Estados absolutistas, ya que la falta de transparencia y la manipulación de datos pueden usarse para influir en la opinión pública y para que los gobernantes se entrometan en lo más íntimo de la vida de los ciudadanos. En suma, en populismos y sistemas autoritarios lo más conveniente es no contar con tecnologías públicas gestionadas desde las propias administraciones dictadoras.

En este sentido, se propone que cuando en un Estado de Derecho exista la democracia y la división de poderes se tiene que implementar y desarrollar IAG a partir de 3 Órganos Constitucionales Autónomos (OCA’s): 1. INEGI, 2. INAI y el 3. OCA que se encargue del desarrollo e implementación de IAG en las administraciones públicas y que fomente la innovación tecnológica dentro del sector público equilibrada con principios de ética pública y derechos fundamentales. Enfocado en el caso mexicano ya existían dos: 1. INEGI, 2. INAI, ahora, solamente existe el INEGI, pues el 20 de noviembre de 2024 la Cámara de Diputados aprobó la desaparición del INAI.

¿Qué prefiere usted, amable lector: que el gobierno mexicano tenga sus datos y su propia IAG o que los tengan las grandes empresas de tecnologías?

Me despido con esta reflexión:
La soberanía digital no es un asunto de ingenieros ni de abogados: es un asunto de identidad, de decidir quiénes somos y cuál es nuestro futuro con pasado. México ha sido muchas veces colonia sin saberlo. Esta vez lo sabe. Y eso, aunque duela, es ya una forma de resistencia. ¡Que la IAG entrenada con derecho administrativo mexicano nos ayude!