Apple on laajentanut App Storen moderointisääntöjä koskemaan erityisesti tekoälyn luomia, ilman suostumusta tehtyjä intiimikuvia. Kehittäjien on estettävä deepfake-kuvien julkaiseminen ja poistettava ne alustoiltaan. Sovellukset, jotka eivät puutu kiellettyyn sisältöön, voidaan poistaa App Storesta.

Muutokset päivittävät Applen aiempia seksuaalisesti eksplisiittistä materiaalia koskevia rajoituksia ja lisäävät uusia määräyksiä sovelluksille, jotka luovat tai levittävät oikeista ihmisistä ilman heidän suostumustaan tehtyjä intiimikuvia. Apple esitteli myös erillisen säännön kehittäjille, jotka salaavat sovelluksen todelliset ominaisuudet tarkistusprosessin aikana.

Tekoälydeepfaket kuuluvat nyt App Storen päivitettyjen sääntöjen piiriin

Applen päivitetty ohje 1.2 koskee tekoälyllä sisältöä luovia sovelluksia ja edellyttää kehittäjiltä ennakoivia toimia tekoälyn avulla luotuja, ilman suostumusta tehtyjä intiimikuvia vastaan. Yhtiö kertoi voivansa poistaa sovelluksia, jos kehittäjät eivät estä loukkaavaa sisältöä tai poista sitä.

Muutos seurasi valituksia siitä, että tekoälytyökaluja on käytetty alastonkuvien ja seksualisoitujen deepfake-kuvien luomiseen. Päivitetty sanamuoto voi vaikuttaa useisiin kuvia luoviin sovelluksiin ja chatbot-sovelluksiin. Apple kertoi aiemmin xAI:lle poistavansa Grokin App Storesta, jos palvelu sallisi alastomuutta esittävät deepfaket jatkossakin. Kun xAI lisäsi suojatoimia, Apple hyväksyi sovelluksesta päivitetyn version.

Apple puuttuu piilotettuihin ”nudification”-ominaisuuksiin

Uuden, numerolla 2.5.19 nimetyn ohjeen mukaan kehittäjät voivat menettää sovelluksensa sekä App Storesta että Apple Developer Program -ohjelmasta, jos he lisäävät ominaisuuksia tai toimintoja, joita ei sisältynyt tarkistettavaksi lähetettyyn versioon.

Apple yhdistää säännön erityisesti ”nudification”-sovelluksiin, jotka luovat oikeista ihmisistä seksuaalisesti eksplisiittisiä kuvia ilman lupaa. Sanamuoto viittaa siihen, että jotkin sovellukset ovat saattaneet salata tarkoituksensa tarkistuksen aikana ja ottaa ominaisuuden käyttöön vasta hyväksynnän jälkeen.

Applen ohjeet kieltävät jo ennestään piilotetut tai dokumentoimattomat ominaisuudet. Päivitetty sanamuoto tekee selväksi, että sovelluksen tarkoituksen vääristely tarkistuksen aikana ja haitallisten toimintojen myöhempi aktivointi on niin ikään kiellettyä. Apple pitää tällaista houkutusvaihtoa täytäntöönpanotoimien perusteena.

Säännöt kattavat myös vaihtoehtoisen sovellusten jakelun

Apple on päivittänyt myös ohjeidensa osion 5 laajentaakseen ihmiskauppaa tai lasten hyväksikäyttöä helpottavien sovellusten kiellon koskemaan vaihtoehtoista sovellusten jakelua. Tämä laajentaa kiellon ilmoitettua soveltamisalaa App Storen vakiokanavan kautta jaeltujen sovellusten ulkopuolelle.

Kehittäjille suunnatussa uutisessa Apple sanoi, ettei se epäröi poistaa sovelluksia tai lakkauttaa niiden taustalla olevien kehittäjien tilejä, jos nämä rikkovat yhtiön ohjeita. Päivitetyt käytännöt kertovat kehittäjille aiempaa selvemmin, että tekoälyn luomat seksuaalista hyväksikäyttöä kuvaavat materiaalit, piilotetut toiminnot ja haitalliset jakelukäytännöt voivat johtaa tiliin ja sovellukseen kohdistuviin täytäntöönpanotoimiin.