Apple hat seine Moderationsregeln für den App Store erweitert, um KI-generierte intime Bilder ohne Einwilligung gezielt zu erfassen. Entwickler müssen Deepfakes von ihren Plattformen fernhalten und entfernen. Apps, die verbotene Inhalte nicht bekämpfen, könnten aus dem App Store entfernt werden.

Die Änderungen aktualisieren Apples bestehende Beschränkungen für sexuell explizites Material und ergänzen neue Formulierungen für Apps, die intime Bilder realer Personen ohne deren Einwilligung erstellen oder verbreiten. Apple führte außerdem eine separate Regel für Entwickler ein, die während des Prüfprozesses die tatsächlichen Funktionen einer App verschleiern.

KI-Deepfakes fallen jetzt unter die aktualisierten App-Store-Regeln

Apples überarbeitete Richtlinie 1.2 nennt KI-Apps zur Erstellung von Inhalten ausdrücklich und verpflichtet Entwickler, proaktiv gegen mit künstlicher Intelligenz erzeugte intime Bilder ohne Einwilligung vorzugehen. Das Unternehmen erklärte, es könne Apps entfernen, wenn Entwickler anstößige Inhalte nicht verhindern oder entfernen.

Die Änderung folgt auf Beschwerden, wonach KI-Tools zur Erstellung von Nackt- und sexualisierten Deepfakes eingesetzt wurden. Die aktualisierte Formulierung könnte eine Reihe von Apps zur Bildgenerierung und Chatbot-Apps betreffen. Apple teilte xAI zuvor mit, dass Grok aus dem App Store entfernt werde, falls der Dienst weiterhin Nackt-Deepfakes zulasse. Nachdem xAI Schutzmaßnahmen ergänzt hatte, genehmigte Apple eine aktualisierte Version der App.

Apple nimmt versteckte „Nudification“-Funktionen ins Visier

Eine neue Richtlinie mit der Nummer 2.5.19 besagt, dass Entwickler sowohl die Entfernung aus dem App Store als auch den Ausschluss aus dem Apple Developer Program riskieren, wenn sie Funktionen oder Features hinzufügen, die nicht in der zur Prüfung eingereichten Version enthalten waren.

Apple verknüpft die Regel ausdrücklich mit „Nudification“-Apps, die ohne Erlaubnis sexuell explizite Bilder realer Personen erzeugen. Die Formulierung deutet darauf hin, dass einige Apps ihren eigentlichen Zweck während der Prüfung verborgen und die Funktion erst nach der Genehmigung eingeführt haben könnten.

Apples Richtlinien verbieten bereits versteckte oder nicht dokumentierte Funktionen. Die aktualisierte Formulierung stellt klar, dass auch die falsche Darstellung einer App während der Prüfung und die spätere Aktivierung schädlicher Funktionen verboten ist. Apple bezeichnet diese Art des Lockvogeltaktik als Grundlage für Maßnahmen.

Regeln gelten auch für alternative App-Verteilung

Apple hat außerdem Abschnitt 5 seiner Richtlinien überarbeitet und das Verbot von Apps, die Menschenhandel oder die Ausbeutung von Kindern erleichtern, auf alternative App-Vertriebskanäle ausgeweitet. Damit reicht der ausdrücklich genannte Geltungsbereich der Einschränkung über Apps hinaus, die über den regulären App-Store-Kanal verbreitet werden.

In seiner Ankündigung für Entwickler erklärte Apple, dass das Unternehmen nicht zögere, Apps zu entfernen oder die Entwickler dahinter zu sperren, wenn sie gegen seine Richtlinien verstoßen. Die aktualisierten Bestimmungen machen für Entwickler deutlicher, dass KI-generierte Bilder sexuellen Missbrauchs, versteckte Funktionen und schädliche Verbreitungspraktiken zu Maßnahmen gegen Konten und Apps führen können.