AppleはApp Storeのモデレーション規則を拡大し、AIで生成された同意なき親密画像に明確に対応します。開発者には、自社プラットフォームからディープフェイクを防止・削除することが求められます。禁止コンテンツに対処しないアプリは、App Storeから削除される可能性があります。

今回の変更では、性的に露骨なコンテンツに対するAppleの既存の制限が更新され、実在する人物の親密な画像を本人の同意なく作成・配布するアプリを対象とする文言が追加されました。さらにAppleは、審査中にアプリの実際の機能を隠す開発者を対象とする別の規則も導入しました。

AIディープフェイクが更新されたApp Store規約の対象に

Appleが改定したガイドライン1.2では、AIコンテンツ作成アプリを名指しし、人工知能で生成された同意なき親密画像に対して開発者が積極的な対策を講じるよう求めています。同社は、開発者が問題のあるコンテンツを防止または削除しない場合、アプリを削除する可能性があると説明しました。

今回の変更は、AIツールがヌードや性的なディープフェイクの作成に使われているとの苦情を受けたものです。更新された文言は、さまざまな画像生成アプリやチャットボットアプリに影響する可能性があります。Appleは以前、xAIに対し、同社のサービスがヌードのディープフェイクを引き続き許可する場合はGrokをApp Storeから削除すると伝えていました。xAIが安全対策を追加した後、Appleはアプリの更新版を承認しました。

Apple、隠された「nudification」機能を規制

番号2.5.19の新しいガイドラインでは、審査に提出したバージョンに含まれていなかった機能を追加した場合、開発者はApp StoreとApple Developer Programの双方から削除されるリスクがあると定めています。

Appleはこの規則を、本人の許可なく実在する人物の性的に露骨な画像を生成する「nudification」アプリと明確に関連付けています。この文言からは、一部のアプリが審査中に本来の目的を隠し、承認を得た後にのみその機能を導入していた可能性がうかがえます。

Appleのガイドラインは、隠された機能や文書化されていない機能をすでに禁止しています。今回の文言更新により、審査中にアプリについて虚偽の説明を行い、その後に有害な機能を有効化する行為も禁止されることが明確になりました。Appleは、このような「おとりとすり替え」にあたる行為を、執行措置の根拠としています。

代替アプリ配布も規則の対象に

Appleはガイドライン第5条も改定し、人身売買や児童搾取を助長するアプリの禁止を、代替アプリ配布にも拡大しました。これにより、この制限が標準のApp Store経由で配布されるアプリにとどまらず、適用される範囲が広がります。

Appleは開発者向けニュースの発表で、ガイドラインに違反した場合、アプリを削除したり、その開発者のアカウントを停止したりすることをためらわないと述べました。更新されたポリシーにより、AIで生成された性的虐待画像、隠された機能、有害な配布行為が、アカウントやアプリへの措置につながる可能性を開発者に明確に通知しています。