Apple cambia las reglas de App Store contra apps que generan imágenes íntimas con IA
Apple actualizó las reglas de la tienda App Store para prohibir de manera más explícita las aplicaciones que usan inteligencia artificial para generar imágenes íntimas sin el consentimiento de las personas retratadas. El cambio llega después de una serie de escándalos ligados a Grok, el chatbot de xAI.
La sección 1.2 de las Pautas de Revisión de Apps, que regula el contenido generado por usuarios, ahora advierte de forma directa sobre “infracciones de propiedad intelectual, imágenes íntimas no consentidas y acoso anónimo”.
El texto agrega que los desarrolladores que no implementen resguardos adecuados, o no corrijan violaciones ya notificadas, pueden considerarse en infracción del Código de Conducta para Desarrolladores.
Apple crea nueva sección en App Store
Apple también creó una sección nueva, la 2.5.19, dirigida contra las apps de “cebo y cambio”: programas que se presentan como herramientas inofensivas durante la revisión y después, ya aprobados, activan funciones dañinas como la generación de imágenes indebidad falsas.
La norma prohíbe ocultar funciones mediante ofuscación de código y advierte que esa práctica puede derivar en la eliminación de la app y el cierre de la cuenta del desarrollador.
La compañía, además, endureció el lenguaje de la sección legal de sus pautas: las apps que faciliten trata de personas o explotación infantil “serán eliminadas de la App Store y bloqueadas de la distribución alternativa”.
El antecedente de Grok ante la problemática de imágenes falsas
La decisión llega después de que usuarios de X utilizaran Grok a comienzos de este año para crear escenas íntimas falsas no consentidos de mujeres, incluidas menores. Apple no retiró X ni Grok de la App Store en ese momento, aunque le dijo a senadores estadounidenses que había amenazado con hacerlo si xAI no corregía el problema.
En junio, durante la conferencia de desarrolladores WWDC, manifestantes pidieron frente a las oficinas de Apple que la compañía eliminara a Grok, a X y toda la tecnología relacionada de su tienda de aplicaciones.
En julio pasado, el fiscal de la ciudad de San Francisco, David Chiu, había ordenado a Apple retirar trece aplicaciones capaces de generar imágenes sexuales no consentidas, algo que la empresa dijo haber cumplido.
Según TechCrunch, Chiu acusó a Apple y a Google de “ayudar y encubrir” la venta de pornografía ultrafalsa ilegal y de haber ganado millones de dólares en comisiones por esas apps.
Chiu había dicho entonces que generar imágenes íntimas no consentidas es “ilegal, dañino y completamente inaceptable”, y advirtió que su oficina seguiría presionando a ambas empresas si no reforzaban los controles de sus tiendas.
Una investigación del Tech Transparency Project, un grupo de vigilancia independiente, había identificado en enero de 2026, decenas de aplicaciones de este tipo disponibles en la App Store. En abril del mismo año, el mismo grupo reveló que las sugerencias de búsqueda y los anuncios de la propia tienda también dirigían a los usuarios hacia esas apps.
Según datos compilados por una firma de análisis móvil y citados por TechSpot, las aplicaciones identificadas por el Tech Transparency Project acumularon 483 millones de descargas y generaron más de 122 millones de dólares en ingresos combinados entre la App Store y Google Play.
Un estudio de las universidades de Cornell y Georgetown había identificado 420 aplicaciones de intercambio de rostros en ambas tiendas.
Los investigadores probaron 155 de ellas y encontraron que el 70% permitía colocar el rostro de una persona sobre una imagen desnuda sin ninguna salvaguarda técnica. Ninguna de esas apps se anunciaba como una herramienta de ese tipo, según el estudio.
Las obligaciones para los desarrolladores en App Store
Con las nuevas reglas, los desarrolladores “deben prevenir y eliminar de manera proactiva” las imágenes sexuales no consentidas como parte de los requisitos de moderación de contenido para las apps de la tienda. Quienes no implementen resguardos suficientes o no corrijan violaciones tras ser notificados pueden ser retirados de la App Store.
Apple también aclaró su regla contra las apps de “cebo y cambio”, que agregan o modifican funciones, incluida la generación de imágenes falsas, después de haber sido aprobadas en la revisión inicial. Esa conducta ya estaba prohibida en una sección distinta de las pautas, pero la compañía decidió nombrarla de manera explícita.
Apple ya había defendido su política frente a estos casos. “App Store fue diseñada para ser un lugar seguro y confiable, y siempre prohibimos estrictamente las apps diseñadas para generar, distribuir o consumir pornografía”.
Infobae
