Apple ha ampliado sus reglas de moderación de App Store para abordar específicamente las imágenes íntimas no consentidas generadas por IA, y exige a los desarrolladores que eviten y eliminen los deepfakes de sus plataformas. Las apps que no gestionen el contenido prohibido podrían ser retiradas de App Store.

Los cambios actualizan las restricciones existentes de Apple sobre el material sexualmente explícito y añaden nuevas disposiciones para las apps que crean o distribuyen imágenes íntimas de personas reales sin su consentimiento. Apple también ha introducido una regla independiente dirigida a los desarrolladores que ocultan las capacidades reales de una app durante el proceso de revisión.

Los deepfakes de IA quedan ahora cubiertos por las reglas actualizadas de App Store

La directriz 1.2 revisada de Apple menciona las apps de creación de contenido con IA y exige a los desarrolladores que adopten medidas proactivas contra las imágenes íntimas no consentidas generadas mediante inteligencia artificial. La compañía afirmó que podría retirar las apps cuando los desarrolladores no eviten o eliminen el contenido infractor.

El cambio llega tras las quejas sobre el uso de herramientas de IA para crear deepfakes desnudos y sexualizados. La nueva redacción podría afectar a una amplia variedad de apps de generación de imágenes y chatbots. Apple ya comunicó a xAI que retiraría Grok de App Store si el servicio seguía permitiendo deepfakes desnudos. Después de que xAI añadiera medidas de protección, Apple aprobó una versión actualizada de la app.

Apple apunta a las funciones de “desnudificación” ocultas

Una nueva directriz, numerada como 2.5.19, establece que los desarrolladores se arriesgan a ser expulsados tanto de App Store como del Apple Developer Program si añaden funciones o capacidades que no estaban incluidas en la versión enviada a revisión.

Apple relaciona específicamente la regla con las apps de “desnudificación” que generan imágenes sexualmente explícitas de personas reales sin permiso. La redacción indica que algunas apps podrían haber ocultado su propósito durante la revisión y haber introducido la función solo después de recibir la aprobación.

Las directrices de Apple ya prohíben las capacidades ocultas o no documentadas. La actualización deja claro que tergiversar una app durante la revisión y activar posteriormente funciones dañinas también está prohibido. Apple describe este tipo de cebo y cambio como motivo para aplicar medidas coercitivas.

Las reglas también cubren la distribución alternativa de apps

Apple también ha revisado la sección 5 de sus directrices para ampliar a la distribución alternativa de apps su prohibición de las apps que facilitan la trata de personas o la explotación infantil. Esto amplía el alcance declarado de la restricción más allá de las apps distribuidas a través del canal estándar de App Store.

En su anuncio de noticias para desarrolladores, Apple afirmó que no duda en retirar apps o cancelar las cuentas de los desarrolladores responsables cuando infringen sus directrices. Las políticas actualizadas avisan con mayor claridad a los desarrolladores de que las imágenes de abuso sexual generadas por IA, las funciones ocultas y las prácticas dañinas de distribución pueden provocar medidas contra las cuentas y las apps.