Apple har utvidet reglene for moderering i App Store for å spesifikt håndtere AI-genererte, intime bilder uten samtykke. Utviklere må forhindre og fjerne deepfakes fra plattformene sine. Apper som ikke håndterer forbudt innhold, kan bli fjernet fra App Store.

Endringene oppdaterer Apples eksisterende begrensninger på seksuelt eksplisitt materiale og legger til ny ordlyd om apper som lager eller distribuerer intime bilder av virkelige personer uten deres samtykke. Apple har også innført en separat regel rettet mot utviklere som skjuler en apps faktiske funksjoner under gjennomgangsprosessen.

AI-deepfakes omfattes nå av oppdaterte App Store-regler

Apples reviderte retningslinje 1.2 nevner apper for AI-innholdsproduksjon og krever at utviklere tar proaktive grep mot intime bilder uten samtykke som er generert ved hjelp av kunstig intelligens. Selskapet sier at det kan fjerne apper når utviklere ikke forhindrer eller fjerner støtende innhold.

Endringen kommer etter klager på at AI-verktøy har blitt brukt til å lage nakne og seksualiserte deepfakes. Den oppdaterte ordlyden kan påvirke en rekke bildegenererings- og chatbot-apper. Apple sa tidligere til xAI at selskapet ville fjerne Grok fra App Store hvis tjenesten fortsatte å tillate nakne deepfakes. Etter at xAI la til sikkerhetstiltak, godkjente Apple en oppdatert versjon av appen.

Apple retter seg mot skjulte «nudification»-funksjoner

En ny retningslinje, nummerert 2.5.19, fastslår at utviklere risikerer å bli fjernet både fra App Store og Apple Developer Program hvis de legger til funksjoner som ikke var inkludert i versjonen som ble sendt inn til gjennomgang.

Apple knytter regelen spesifikt til «nudification»-apper som uten tillatelse lager seksuelt eksplisitte bilder av virkelige personer. Ordlyden tyder på at enkelte apper kan ha skjult sitt egentlige formål under gjennomgangen og først innført funksjonen etter å ha blitt godkjent.

Apples retningslinjer forbyr allerede skjulte eller udokumenterte funksjoner. Den oppdaterte ordlyden gjør det klart at det også er forbudt å gi et misvisende bilde av en app under gjennomgangen og senere aktivere skadelige funksjoner. Apple beskriver denne typen lokkemiddel-og-bytte som grunnlag for håndhevingstiltak.

Reglene omfatter også alternativ appdistribusjon

Apple har også revidert del 5 av retningslinjene for å utvide forbudet mot apper som legger til rette for menneskehandel eller utnyttelse av barn, slik at det også gjelder alternativ appdistribusjon. Det utvider den uttrykte rekkevidden til begrensningen utover apper som distribueres gjennom den vanlige App Store-kanalen.

I kunngjøringen på utviklernettstedet sa Apple at selskapet ikke nøler med å fjerne apper eller avslutte kontoene til utviklerne bak dem når de bryter retningslinjene. De oppdaterte reglene gir utviklere tydeligere beskjed om at AI-genererte bilder som viser seksuelle overgrep, skjulte funksjoner og skadelig distribusjonspraksis kan føre til tiltak mot kontoer og apper.