Аннотация:
Недавно компания Apple объявила, что обновила правила проверки приложений в App Store и примет более строгие меры против непреднамеренного использования личных изображений, созданных искусственным интеллектом. Ранее правила платформы запрещали контент откровенно сексуального характера, а последние правила требуют от разработчиков активно предотвращать, отслеживать и удалять такой глубокий фейковый контент, созданный искусственным интеллектом. Если разработчики не примут эффективных мер, соответствующие приложения могут быть удалены из App Store.
В обновленном пункте 1.2 Apple впервые четко называет категории приложений, в которых используется создание контента с помощью ИИ. Считается, что этот шаг связан с некоторыми продуктами генеративного искусственного интеллекта, включая сервисы чат-ботов, которые вызвали споры из-за создания обнаженного тела и сексуализированного дипфейкового контента. Ранее Apple предупредила соответствующих разработчиков, что, если соответствующие приложения продолжат позволять создавать дипфейковые изображения обнаженной натуры, они рискуют быть удалены из App Store. Впоследствии компания добавила соответствующие механизмы защиты безопасности и получила одобрение Apple на выпуск обновленной версии.
В то же время Apple добавила новое правило проверки под номером 2.5.19, чтобы подчеркнуть, что разработчикам не разрешается добавлять новые функции, которые не были раскрыты на этапе проверки, после того, как приложение прошло проверку. Apple особо упомянула так называемые «приложения для обнажения», которые используют искусственный интеллект для подделки фотографий реальных людей в обнаженные или порнографические изображения. Apple считает, что некоторые разработчики могут скрывать истинную цель своих приложений в течение периода проверки и ждать, пока приложение не будет одобрено для выхода в Интернет, прежде чем включать соответствующие функции.
Согласно новым правилам, с полок будут запрещены любые приложения, содержащие скрытые или нераскрытые функции, в том числе приложения, которые намеренно скрывают свое назначение на этапе проверки, а затем открывают вредоносные возможности после одобрения. Apple отметила, что такого рода практика является типичным поведением «приманки и подмены», а функция «раздевания» является типичным случаем такого типа нарушений.
В дополнение к правилам в отношении контента, создаваемого искусственным интеллектом, Apple также пересмотрела часть 5 рекомендаций по проверке, чтобы распространить первоначальный запрет на торговлю людьми и эксплуатацию детей на альтернативные каналы распространения приложений. Это означает, что к приложениям применяются одинаковые требования к безопасности контента независимо от того, доступны ли они через официальный App Store или другие разрешенные способы распространения.
В своем обращении к разработчикам компания Apple подчеркнула, что компания без колебаний примет карательные меры, такие как удаление приложений с полок и лишение квалификации разработчиков приложений и разработчиков, которые нарушают эти правила.
Это обновление правил показывает, что по мере того, как инструменты генеративного искусственного интеллекта становятся все более популярными, Apple продолжает усиливать контроль за глубокими фейками, созданием частных изображений без согласия и связанными с ними злоупотреблениями, чтобы снизить риск использования технологий искусственного интеллекта для преследования, эксплуатации или вторжения в частную жизнь.
Читать полный текст правил:
https://developer.apple.com/app-store/review/guidelines/
Комментарии