Недавно расширенный групповой иск выявил вопиющий случай использования искусственного интеллекта для создания материалов о сексуальном насилии над детьми (CSAM). Истец не только обвинил X Platform и ее компанию по искусственному интеллекту xAI в создании вредоносных ИИ-инструментов для «раздевания в один клик», но и резко раскритиковал платформу за умышленное сокрытие ключевой пользовательской информации во время расследований сексуальных преступлений против детей и препятствование действиям правоохранительных органов.

Согласно иску, в марте этого года мужчина покончил жизнь самоубийством после того, как полиция обнаружила, что он использовал модель Grok от xAI для обработки фотографий своей падчерицы, когда ей было 11 лет, в 7000 изображений и видео откровенно сексуального характера. Согласно жалобе, система защиты Грока практически бездействовала при создании изображений, содержащих инцест и изнасилование. Только после того, как мужчина ввел чрезвычайно четкие незаконные инструкции, такие как «групповое изнасилование», система запустила механизм онлайн-сообщения в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC).

Однако после обращения в полицию дело не было успешно раскрыто. Команда юристов истца отметила, что, хотя закон требует, чтобы платформы предоставляли ключевые данные, включая IP-адреса, при сообщении о CSAM, xAI неоднократно отказывался сотрудничать с полицией и расследованиями NCMEC. В документе говорится, что xAI «препятствовала расследованию во всех аспектах» в течение нескольких недель, что затрудняло сотрудникам правоохранительных органов поиск и арест подозреваемого. И только после того, как полиция, наконец, конфисковала оборудование подозреваемого посредством ордера на обыск, была раскрыта правда о преступлении, которое длилось несколько месяцев и включало тысячи изображений, подделанных искусственным интеллектом. Мужчина покончил жизнь самоубийством после того, как был освобожден под залог, нанеся тяжелую психическую травму потерпевшей девушке.

Этот случай не единичный. Адвокат истца заявил, что оценка NCMEC в начале 2026 года показала, что 90% таких отчетов, представленных xAI, не могут быть преобразованы в правоохранительные действия из-за отсутствия ключевой информации. Семьи жертв обвинили xAI в том, что она ставит коммерческую прибыль выше безопасности детей и позволяет преступникам использовать свою продукцию для нанесения вреда детям, хотя они знали, что этой технологией можно злоупотреблять. Перед лицом связанных с этим обвинений основатель xAI Илон Маск ранее отрицал, что Grok используется для создания такого контента.

В иске также фигурирует Stability AI в качестве ответчика. В жалобе утверждается, что модель Stability AI с открытым исходным кодом является базовой технической поддержкой для многих сторонних приложений, позволяющих раздеваться одним щелчком мыши, и что компания намеренно ослабила настройки защиты для создания откровенного контента, чтобы захватить долю рынка. Соответствующие исследовательские отчеты указывают на то, что семейство моделей Stable Diffusion в настоящее время является основной движущей силой поведения «зачистки одним щелчком мыши» в Интернете.

В ответ представитель Stability AI ответил, что компания стремится предотвращать злоупотребление технологиями, особенно созданием и распространением CSAM, и заявил, что были приняты строгие меры защиты и что любые обвинения в том, что компания пренебрегает безопасностью, являются ложными. В настоящее время коллективный иск направлен на то, чтобы охватить всех граждан США, пострадавших от таких технологий. Соответствующие ведомства предупреждают, что с ростом популярности генеративного ИИ количество сообщений о сексуальной эксплуатации детей с использованием ИИ резко возросло, а отсутствие технологических компаний, помогающих расследованиям, стало серьезным препятствием на пути к правосудию.