Созданные искусственным интеллектом изображения сексуального насилия над детьми становятся «вашим худшим кошмаром» и угрожают заполонить Интернет, предупредила служба безопасности. Фонд Internet Watch Foundation (IWF) заявил, что обнаружил около 3000 изображений оскорбительного характера, созданных с помощью искусственного интеллекта, которые явно нарушают британское законодательство.
Британская организация заявила, что существующие реальные изображения жертв насилия вводятся в модели искусственного интеллекта, которые затем генерируют новые изображения.
Группа добавила, что эта технология также использовалась для создания изображений знаменитостей, которые были «омолодлены», а затем изображены детьми в сценах сексуального насилия. Другие примеры материалов о сексуальном насилии над детьми (CSAM) включают использование инструментов искусственного интеллекта для «обнаженных» изображений одетых детей, найденных в Интернете.
Этим летом Международный женский форум предупредил, что начинают появляться доказательства злоупотреблений, вызванных ИИ, но заявил, что последние отчеты показывают, что использование этой технологии ускоряется. Исполнительный директор IWF Сьюзи Харгривс заявила, что «худший кошмар сторожевого пса стал явью».
«Ранее в этом году мы предупреждали, что изображения ИИ вскоре могут стать неотличимыми от реальных фотографий детей, подвергшихся сексуальному насилию, и что мы можем начать видеть, как такие изображения будут распространяться в большем количестве», — сказала она. «Мы уже прошли этот этап. К сожалению, мы видим, как преступники намеренно тренируют свой ИИ на изображениях реальных жертв, подвергшихся насилию. Дети, которые были изнасилованы в прошлом, теперь включаются в новые сценарии, потому что кто-то где-то хочет это увидеть».
Международный женский форум заявил, что он также видел доказательства продажи изображений, созданных искусственным интеллектом, в Интернете. Последние результаты основаны на месячном расследовании форумов, посвященных жестокому обращению с детьми в темной сети. Он исследовал 11 108 изображений на форуме, 2 978 из которых нарушали британский закон, изображая сексуальное насилие над детьми.
CSAM, созданный ИИ, является незаконным в соответствии с Законом о защите детей 1978 года, который криминализирует получение, распространение и хранение «непристойных или псевдофотографий» детей. Международный женский форум заявил, что подавляющее большинство обнаруженных им незаконных материалов нарушают Закон о защите детей, причем более пятой части изображений отнесены к категории А, самой серьезной категории контента, которая может изображать изнасилование и сексуальное насилие.
Закон о коронерах и правосудии 2009 года также криминализирует запрещенные изображения детей, не относящиеся к фотографиям, например карикатуры или рисунки. IWF опасается, что волна CSAM, созданных искусственным интеллектом, отвлечет правоохранительные органы от выявления реальных нарушений и помощи жертвам.
«Этот материал может захлестнуть Интернет, если мы не возьмем под контроль эту угрозу», — сказал Харгривз.
Дэн Секстон, технический директор IWF, сказал, что инструмент генерации изображений StableDiffusion, общедоступная модель искусственного интеллекта, которую можно настроить для создания CSAM, был единственным продуктом искусственного интеллекта, обсуждавшимся на форуме.
«Мы видим дискуссию по поводу создания контента с использованием StableDiffusion, общедоступного программного обеспечения».
StabilityAI, британская компания, стоящая за StableDiffusion, заявила, что «запрещает неправомерное использование нашей платформы в любых незаконных или неэтичных целях, и в нашей политике четко указано, что это включает CSAM».
Правительство заявляет, что законопроект о кибербезопасности, который должен стать законом, будет охватывать CSAM, созданный ИИ, и потребует от компаний, занимающихся социальными сетями, предотвращать его появление на своих платформах.