Apple расширила правила модерации App Store, отдельно обозначив изображения интимного характера, созданные с помощью AI без согласия людей. Разработчики должны предотвращать появление дипфейков на своих платформах и удалять их. Приложения, которые не справляются с запрещённым контентом, могут быть удалены из App Store.

Изменения дополняют существующие ограничения Apple на материалы сексуального характера и вводят новые формулировки для приложений, которые создают или распространяют изображения интимного характера с реальными людьми без их согласия. Apple также добавила отдельное правило для разработчиков, скрывающих реальные возможности приложения во время проверки.

AI-дипфейки теперь подпадают под обновлённые правила App Store

В обновлённом правиле 1.2 Apple упоминает приложения для создания контента с помощью AI и требует от разработчиков активно противодействовать изображениям интимного характера без согласия, созданным искусственным интеллектом. Компания заявила, что может удалять приложения, если разработчики не предотвращают появление запрещённого контента и не удаляют его.

Изменение последовало за жалобами на использование AI-инструментов для создания обнажённых и сексуализированных дипфейков. Новая формулировка может затронуть широкий спектр приложений для генерации изображений и чат-ботов. Ранее Apple сообщила xAI, что удалит Grok из App Store, если сервис продолжит разрешать создание обнажённых дипфейков. После добавления защитных мер xAI Apple одобрила обновлённую версию приложения.

Apple нацелилась на скрытые функции «нудификации»

Новое правило под номером 2.5.19 гласит, что разработчики рискуют удалением приложения из App Store и исключением из Apple Developer Program, если добавляют функции или возможности, отсутствовавшие в версии, отправленной на проверку.

Apple напрямую связывает это правило с приложениями для «нудификации», которые создают изображения реальных людей сексуального характера без разрешения. Формулировка указывает на то, что некоторые приложения могли скрывать своё истинное назначение во время проверки и добавлять эту функцию только после получения одобрения.

Правила Apple уже запрещают скрытые или недокументированные возможности. Обновлённая формулировка ясно показывает, что искажение информации о приложении во время проверки с последующей активацией вредных функций также запрещено. Apple считает подобную подмену основанием для применения санкций.

Правила также распространяются на альтернативную дистрибуцию приложений

Apple также пересмотрела раздел 5 своих правил, распространив запрет на приложения, содействующие торговле людьми или эксплуатации детей, на альтернативную дистрибуцию приложений. Это расширяет заявленную область действия ограничения за пределы приложений, распространяемых через стандартный канал App Store.

В объявлении для разработчиков Apple заявила, что без колебаний удаляет приложения или прекращает сотрудничество с разработчиками, нарушающими её правила. Обновлённые политики яснее предупреждают разработчиков: изображения сексуального насилия, созданные с помощью AI, скрытые функции и вредные практики распространения могут привести к санкциям в отношении аккаунта и приложения.