Аннотация:
Исследователи кибербезопасности недавно обнаружили необычный новый тип вредоносного ПО для Windows. В отличие от предыдущих инструментов атак, которые использовали искусственный интеллект для написания кодов или создания фишингового контента, это вредоносное ПО под названием CLOSEDQUORUM напрямую включает несколько крупномасштабных языковых моделей в свою собственную систему управления и может самостоятельно решать следующий шаг во время работы. Считается, что это представляет собой новый этап в развитии вредоносного ПО с искусственным интеллектом.
Это открытие было сделано Cisco Talos, командой безопасности Cisco. Исследователи заявили, что CLOSEDQUORUM будет одновременно взаимодействовать с четырьмя крупными языковыми моделями: DeepSeek, Qwen, Mistral и Google Gemini. Прежде чем выполнять задачи на зараженном устройстве, оно сначала отправляет запросы этим моделям и собирает обратную связь, а затем на основе результатов принимает решение о дальнейших действиях.
Такая конструкция придает вредоносному ПО определенную степень избыточности. Даже если один из сервисов ИИ недоступен, программа все равно может продолжать отправлять запросы к другим моделям и продолжать работать, что делает ее более устойчивой, чем традиционные вредоносные программы, опирающиеся на один управляющий сервер.
Еще больше беспокоит то, что исследователи не обнаружили в выборке входов с ручным дистанционным управлением в традиционном понимании. Другими словами, как только программа запускается, ей не нужно продолжать получать конкретные инструкции от хакера, а она самостоятельно планирует последующие операции посредством обратной связи от множества крупномасштабных языковых моделей.
Согласно результатам анализа, основная цель CLOSEDQUORUM — кража паролей от учетных записей пользователей и криптовалютных активов. Исследовательская группа также обнаружила, что вредоносное ПО было связано с деятельностью сети по мошенничеству с кредитными картами, начавшейся в 2025 году. Однако до сих пор исследователям не удалось подтвердить личность конкретного разработчика, а также не удалось определить, использовался ли инструмент в реальных атаках.
Это открытие стало результатом новой исследовательской инициативы Cisco Talos. В ответ на тенденцию все большего использования искусственного интеллекта в инструментах атак исследователи разработали структуру с открытым исходным кодом под названием CAIRN (Cognitive Artifact Intelligence Research Network) для выявления и отслеживания вредоносных программ, для запуска которых используются службы искусственного интеллекта.
Исследовательская группа считает, что сочетание искусственного интеллекта и вредоносного ПО оставит особые технические следы, подобные цифровому отпечатку пальца. Эти следы могут помочь аналитикам безопасности идентифицировать образцы, создать системы классификации и отслеживать, как злоумышленники интегрируют большие языковые модели в инструменты атак.
CAIRN анализирует метаданные вредоносного ПО и технические характеристики, связанные с услугами ИИ, и генерирует уникальный идентификатор для образца. Затем система классифицирует вредоносные программы со схожими характеристиками, помогая исследователям выявить новые модели атак и потенциальные тенденции.
Эксперты по безопасности отмечают, что большинство вредоносных программ, связанных с искусственным интеллектом, появившихся в прошлом году, по-прежнему в основном используют крупные модели в качестве вспомогательных инструментов. Например, помогите сгенерировать код, написать фишинговые электронные письма, автоматизировать процессы атак или обеспечить удаленную поддержку принятия решений. Самая большая разница между CLOSEDQUORUM и этими случаями заключается в том, что он напрямую интегрирует большую языковую модель в сам механизм управления и контроля.
Ранее украинское агентство кибербезопасности обнаружило вредоносное ПО под названием LAMEHUG, которое получало доступ к модели Tongyi Qianwen через платформу Hugging Face для получения команд выполнения. Однако исследователи утверждают, что такие случаи, как CLOSEDQUORUM, когда одновременно вызываются несколько моделей и управляют процессом атаки методом «коллективного принятия решений», все еще очень редки.
Хотя количество известных на данный момент вредоносных программ с искусственным интеллектом по-прежнему ограничено, сообщество безопасности в целом считает, что направление развития таких инструментов заслуживает большого внимания. В прошлом большие модели играли большую роль в повышении производительности хакеров; теперь исследователи начали видеть постепенный переход искусственного интеллекта от «вспомогательных инструментов» к атакам на саму инфраструктуру.
Инсайдеры отрасли полагают, что по мере того, как возможности крупномасштабных языковых моделей продолжают улучшаться, будущие вредоносные программы могут иметь более сильные возможности автономного принятия решений, более сложную адаптацию к окружающей среде и более гибкие возможности выбора пути атаки. Хотя это открытие все еще находится на ранней стадии, оно дало исследователям безопасности представление о том, как может выглядеть следующее поколение интеллектуальных кибератак.
Комментарии