Apple a élargi ses règles de modération de l’App Store afin de traiter spécifiquement les images intimes générées par IA sans consentement, en exigeant des développeurs qu’ils empêchent la diffusion de deepfakes et les retirent de leurs plateformes. Les applications qui ne prennent pas en charge les contenus interdits pourraient être supprimées de l’App Store.

Ces changements actualisent les restrictions existantes d’Apple sur les contenus sexuellement explicites et ajoutent de nouvelles dispositions concernant les applications qui créent ou diffusent, sans leur consentement, des images intimes de personnes réelles. Apple a également instauré une règle distincte visant les développeurs qui dissimulent les véritables fonctionnalités d’une application pendant le processus d’évaluation.

Les deepfakes IA relèvent désormais des règles révisées de l’App Store

La directive 1.2 révisée d’Apple cite les applications de création de contenus par IA et exige des développeurs qu’ils prennent des mesures proactives contre les images intimes générées par intelligence artificielle sans consentement. L’entreprise a déclaré qu’elle pourrait supprimer les applications lorsque les développeurs n’empêchent pas la diffusion de contenus en infraction ou ne les retirent pas.

Cette modification fait suite à des plaintes signalant que des outils d’IA ont été utilisés pour créer des deepfakes nus et sexualisés. La nouvelle formulation pourrait concerner un large éventail d’applications de génération d’images et de chatbots. Apple avait précédemment indiqué à xAI qu’elle retirerait Grok de l’App Store si le service continuait d’autoriser les deepfakes nus. Après l’ajout de mesures de protection par xAI, Apple a approuvé une version actualisée de l’application.

Apple cible les fonctions de « déshabillage » dissimulées

Une nouvelle directive, numérotée 2.5.19, indique que les développeurs risquent une suppression de l’App Store ainsi que du Apple Developer Program s’ils ajoutent des fonctionnalités qui ne figuraient pas dans la version soumise à l’évaluation.

Apple relie explicitement cette règle aux applications de « déshabillage » qui génèrent, sans autorisation, des images sexuellement explicites de personnes réelles. Cette formulation laisse entendre que certaines applications ont pu dissimuler leur objectif réel pendant l’évaluation, puis n’introduire la fonctionnalité qu’après leur approbation.

Les directives d’Apple interdisent déjà les fonctionnalités cachées ou non documentées. La formulation mise à jour précise que présenter une application de manière trompeuse lors de l’évaluation, puis activer des fonctions dangereuses, est également interdit. Apple considère ce type de pratique, comparable à un appât suivi d’un changement, comme un motif de sanction.

Les règles couvrent aussi la distribution alternative d’applications

Apple a également révisé la section 5 de ses directives afin d’étendre à la distribution alternative d’applications son interdiction visant les applications qui facilitent la traite des êtres humains ou l’exploitation d’enfants. Cela élargit la portée déclarée de la restriction au-delà des applications distribuées par le canal standard de l’App Store.

Dans son annonce destinée aux développeurs, Apple a déclaré qu’elle n’hésitait pas à supprimer des applications ou à exclure les développeurs qui les ont créées lorsqu’ils enfreignent ses directives. Les politiques mises à jour avertissent plus clairement les développeurs que les images d’abus sexuels générées par IA, les fonctionnalités dissimulées et les pratiques de distribution dangereuses peuvent entraîner des sanctions contre les comptes et les applications.