Apple ha ampliato le regole di moderazione dell’App Store per affrontare nello specifico le immagini intime non consensuali generate dall’AI, imponendo agli sviluppatori di prevenire e rimuovere i deepfake dalle proprie piattaforme. Le app che non gestiscono i contenuti vietati potrebbero essere rimosse dall’App Store.

Le modifiche aggiornano le restrizioni già esistenti di Apple sui contenuti sessualmente espliciti e aggiungono nuove disposizioni per le app che creano o distribuiscono immagini intime di persone reali senza il loro consenso. Apple ha inoltre introdotto una regola separata rivolta agli sviluppatori che nascondono le reali funzionalità di un’app durante il processo di revisione.

I deepfake AI rientrano ora nelle regole aggiornate dell’App Store

La linea guida 1.2 aggiornata di Apple cita le app per la creazione di contenuti basate sull’AI e impone agli sviluppatori di adottare misure preventive contro le immagini intime non consensuali generate dall’intelligenza artificiale. L’azienda ha dichiarato che potrebbe rimuovere le app quando gli sviluppatori non impediscono o non eliminano i contenuti problematici.

La modifica arriva dopo le segnalazioni secondo cui gli strumenti di AI sono stati usati per creare deepfake nudi e sessualizzati. La nuova formulazione potrebbe riguardare un’ampia gamma di app per la generazione di immagini e chatbot. In precedenza Apple aveva comunicato a xAI che avrebbe rimosso Grok dall’App Store se il servizio avesse continuato a consentire deepfake nudi. Dopo che xAI ha aggiunto misure di sicurezza, Apple ha approvato una versione aggiornata dell’app.

Apple prende di mira le funzioni “nudification” nascoste

Una nuova linea guida, la numero 2.5.19, stabilisce che gli sviluppatori rischiano la rimozione sia dall’App Store sia dall’Apple Developer Program se aggiungono funzioni o funzionalità non incluse nella versione inviata per la revisione.

Apple collega esplicitamente la regola alle app di “nudification” che generano immagini sessualmente esplicite di persone reali senza autorizzazione. La formulazione indica che alcune app potrebbero aver nascosto il proprio scopo durante la revisione, introducendo la funzione solo dopo aver ricevuto l’approvazione.

Le linee guida di Apple vietano già le funzionalità nascoste o non documentate. Il testo aggiornato chiarisce che anche travisare un’app durante la revisione e attivare in seguito funzioni dannose è vietato. Apple descrive questo tipo di esca e sostituzione come motivo sufficiente per intervenire.

Le regole riguardano anche la distribuzione alternativa delle app

Apple ha inoltre rivisto la sezione 5 delle proprie linee guida, estendendo alle forme alternative di distribuzione delle app il divieto di quelle che facilitano la tratta di esseri umani o lo sfruttamento minorile. In questo modo, l’ambito dichiarato della restrizione va oltre le app distribuite attraverso il canale standard dell’App Store.

Nel suo annuncio dedicato agli sviluppatori, Apple ha dichiarato di non esitare a rimuovere le app o a chiudere gli account degli sviluppatori responsabili quando violano le sue linee guida. Le policy aggiornate chiariscono agli sviluppatori che le immagini di abuso sessuale generate dall’AI, le funzionalità nascoste e le pratiche di distribuzione dannose possono portare a provvedimenti contro gli account e le app.