Аннотация:
11 сентября Anthropic опубликовала последний отчет о злоупотреблениях в области искусственного интеллекта, в котором говорится, что студия разработки приложений использовала Клода для разработки и эксплуатации более 20 приложений для знакомств. Платформа утверждает, что все пользователи — реальные люди, однако около 75% совпадений, полученных обычными пользователями, — это персонажи ИИ.
Anthropic заявила, что за двухнедельный период наблюдения в апреле 2026 года эта партия программного обеспечения для знакомств использовала более 4700 ИИ-персонажей, общалась как минимум с 25 000 различными пользователями и отправила в общей сложности около 2,36 миллиона сообщений. Пострадавшие — в основном американские пользователи, однако в отчете не раскрыты их возраст, пол и конкретная сумма убытков.
Таким пользователям сложно судить, настоящий ли человек, с которым они общаются, или фальшивый. Платформа отображает материалы в соотношении примерно 3 AI-персонажа на 1 реального человека. Клод отвечает за одновременное ведение тысяч разговоров, а люди, работающие неполный рабочий день, призваны уменьшить подозрения, когда пользователи просят видеозвонки, фотографии или подписываются на аккаунты в социальных сетях.
Людям, работающим неполный рабочий день, также помогает искусственный интеллект. На каждое сообщение система сгенерирует 3 альтернативных ответа, а совместителям достаточно выбрать один из них для отправки. Они выплачиваются в зависимости от количества сообщений в чате, видеозвонков и регистраций в социальных сетях и могут быть погашены после достижения низкого порога вывода средств.
Для аккаунтов, полностью контролируемых ИИ, оператор требует от Клода не признавать, что он робот. Если пользователь сделает запрос на видео или фото, ИИ найдет причины избежать этого и постепенно продвинет отношения по заранее заданным этапам. Серверная часть также создает фальшивые лайки, записи посетителей и заранее записанные видео, а также помечает пользователей, которые начали подозревать, что они роботы.
Пользователям необходимо тратить кредиты, чтобы общаться и общаться на платформе. После использования им необходимо приобрести виртуальную валюту в приложении для пополнения счета. Эта модель похожа на аферу «Бэн Лаотоу», о которой недавно упоминалось в китайском Интернете. Они оба используют фальшивые женские образы и постоянно болтают, чтобы стимулировать мужчин платить.
В отчете также упоминается, что в нескольких случайных разговорах некоторые пользователи рассказали, что страдают серьезными заболеваниями или испытывают сильную боль. Внутренние рассуждения Клода выявили потенциальный вред, но он продолжает общаться под вымышленным именем, не выходя из разговора.
Чтобы избежать проверки в магазине приложений, оператор также разработал специальный интерфейс для программного обеспечения, который активируется только в период проверки. Более 20 приложений использовали разные имена классов программ, чтобы обойти механизмы обнаружения, используемые Apple и Google для идентификации похожих приложений. Вход на стороннюю платежную платформу также может удаленно контролироваться сервером и временно скрываться на период проверки.
Соответствующие бренды программного обеспечения для знакомств, раскрытые Anthropic, включают DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO и LOVIA и т. д. Компания заблокировала соответствующие учетные записи и предоставила Apple и Google информацию об идентификации приложений и способах обхода проверок.
Следует подчеркнуть, что приведенные выше выводы основаны на одностороннем раскрытии информации Anthropic и еще не проверены независимой третьей стороной. В отчете не раскрывается ни название задействованной студии приложений, ни сведения о том, сообщили ли пользователи об этом случае, а также фактическая сумма украденных денег.
Комментарии