Apple har utökat sina regler för moderering i App Store för att specifikt hantera AI-genererade intima bilder utan samtycke. Utvecklare måste förhindra och ta bort deepfakes från sina plattformar. Appar som inte hanterar förbjudet innehåll kan tas bort från App Store.

Ändringarna uppdaterar Apples befintliga begränsningar av sexuellt explicit material och lägger till nya formuleringar som omfattar appar som skapar eller sprider intima bilder av verkliga personer utan deras samtycke. Apple har också infört en separat regel riktad mot utvecklare som döljer en apps faktiska funktioner under granskningsprocessen.

AI-deepfakes omfattas nu av uppdaterade App Store-regler

Apples reviderade riktlinje 1.2 nämner appar för AI-baserat innehållsskapande och kräver att utvecklare vidtar förebyggande åtgärder mot intima bilder utan samtycke som genererats med artificiell intelligens. Företaget uppger att det kan ta bort appar när utvecklare inte förhindrar eller tar bort kränkande innehåll.

Ändringen följer efter klagomål om att AI-verktyg har använts för att skapa nakna och sexualiserade deepfakes. Den uppdaterade formuleringen kan påverka en rad appar för bildgenerering och chatbotar. Apple sade tidigare till xAI att företaget skulle ta bort Grok från App Store om tjänsten fortsatte att tillåta nakna deepfakes. Efter att xAI lagt till skyddsåtgärder godkände Apple en uppdaterad version av appen.

Apple riktar in sig på dolda ”nudifieringsfunktioner”

En ny riktlinje, numrerad 2.5.19, slår fast att utvecklare riskerar att tas bort från både App Store och Apple Developer Program om de lägger till funktioner eller egenskaper som inte fanns med i versionen som skickades in för granskning.

Apple kopplar uttryckligen regeln till appar för ”nudifiering” som utan tillstånd skapar sexuellt explicita bilder av verkliga personer. Formuleringen tyder på att vissa appar kan ha dolt sitt egentliga syfte under granskningen och introducerat funktionen först efter att de godkänts.

Apples riktlinjer förbjuder redan dolda eller odokumenterade funktioner. Den uppdaterade formuleringen klargör att det också är förbjudet att ge en missvisande bild av en app under granskningen och senare aktivera skadliga funktioner. Apple beskriver denna typ av lockbete och byte som grund för åtgärder.

Reglerna omfattar även alternativ appdistribution

Apple har också reviderat avsnitt 5 i sina riktlinjer för att utvidga förbudet mot appar som underlättar människohandel eller exploatering av barn till alternativ appdistribution. Det breddar förbudets uttryckliga räckvidd till att omfatta mer än appar som distribueras via den vanliga App Store-kanalen.

I sitt utvecklarmeddelande sade Apple att företaget inte tvekar att ta bort appar eller avsluta samarbetet med utvecklarna bakom dem när de bryter mot riktlinjerna. De uppdaterade policyerna ger utvecklare tydligare besked om att AI-genererade bilder som skildrar sexuella övergrepp, dolda funktioner och skadliga distributionsmetoder kan leda till åtgärder mot konton och appar.