По мере того, как технология, генерируемая ИИ, становится все более распространенной, Google начнет требовать, чтобы приложения для Android предоставляли возможность сообщать о нежелательном контенте, созданном ИИ, и соблюдать новые правила модерации относительно того, какой контент, созданный ИИ, является приемлемым.
Приложения, использующие искусственный интеллект для создания контента, в начале следующего года должны добавить кнопку для пометки или сообщения о оскорбительном контенте, чтобы оставаться доступными в Google Play Store.
Google хочет максимально упростить процесс подачи отчетов, чтобы пользователи могли сообщать о них, не выходя из приложения, аналогично существующей системе отчетов в приложении.
Компания заявила, что ее политика в отношении контента, генерируемого ИИ, распространяется на чат-ботов ИИ, приложения, использующие изображения, сгенерированные ИИ, а также приложения, которые используют ИИ для создания голосового или видеоконтента от реальных людей. Приложения, в которых размещается контент, созданный искусственным интеллектом, приложения, использующие искусственный интеллект только для обобщения материалов, таких как книги, и приложения для повышения производительности, использующие искусственный интеллект в качестве функции, не будут подпадать под действие новой политики.
По мнению Google, проблемный контент ИИ включает в себя дипфейковые материалы сексуального характера, полученные без согласия, записи реальных людей, используемые для мошенничества, ложный или вводящий в заблуждение контент выборов, созданные ИИ приложения «в первую очередь с целью удовлетворения сексуального желания» и создание вредоносного кода.
В своем заявлении Google признал, что создание искусственного интеллекта «является быстро растущей категорией приложений», создавая впечатление, что Google может пересмотреть свою политику в области искусственного интеллекта по мере того, как технология продолжает развиваться.
В дополнение к новым правилам в отношении контента, созданного искусственным интеллектом, Google также ужесточил политику разрешений на фото и видео в Play Store, ограничив объем доступа приложений к данным.
«Фотографии и видео на устройстве пользователя считаются конфиденциальными личными данными пользователя, и к ним следует относиться с соблюдением самых строгих правил конфиденциальности», — заявили в компании. «Эта конфиденциальная информация может сделать пользователей легкой мишенью для утечек или эксплуатации, поэтому сведение к минимуму такого доступа помогает избежать нагрузки на разработчиков по обработке таких конфиденциальных данных».
Только приложения, которым требуется широкий доступ к фотографиям и видео, продолжат получать общие разрешения, в то время как приложения с ограниченным использованием медиафайлов должны будут использовать средство выбора фотографий.