Аннотация:
Угроза со стороны ИИ-хакеров не только побуждает компании значительно увеличивать общие бюджеты на кибербезопасность, но и меняет направление инвестирования средств. Руководители служб безопасности говорят, что крупные корпоративные покупатели значительно увеличили свои бюджеты на развертывание систем для мониторинга использования сотрудниками инструментов ИИ, использование моделей ИИ для поиска уязвимостей до того, как это сделают хакеры, и использование инструментов ИИ для ускорения устранения уязвимостей.
Но не все продукты кибербезопасности приносят пользу. Многие руководители заявили, что компании также сокращают расходы на традиционное программное обеспечение для управления уязвимостями, инструменты сбора журналов и услуги по тестированию на проникновение, чтобы сэкономить средства. Тестирование на проникновение предполагает наем «белых хакеров» для активного поиска недостатков безопасности системы. Это окажет давление на традиционные подразделения программного обеспечения Cisco, SentinelOne, Rapid7 и других поставщиков, которые в этом году уволили сотрудников и переключили ресурсы на новое поколение продуктов безопасности на базе искусственного интеллекта.
Брет Вентворт, вице-президент и заместитель директора по безопасности Lumen Technologies, заявил, что телекоммуникационная компания увеличит свой бюджет на кибербезопасность примерно на 30 % в следующем году. Новые инвестиции включают новые модели искусственного интеллекта для сканирования уязвимостей, такие как Anthropic Claude Mythos, инструменты сканирования искусственного интеллекта от известных поставщиков, таких как Palo Alto Networks, и стартапов, таких как Zafran Security, а также системы безопасности для мониторинга и защиты приложений искусственного интеллекта, используемых сотрудниками.
Он сказал, что руководители компании осознали безотлагательность борьбы с угрозами безопасности ИИ.
"Я работаю в сфере безопасности уже много лет и сталкивался с циклами бума и спада в этой отрасли", - сказал Вентворт. «Раньше нам всегда приходилось сокращать расходы… но теперь направление ветра резко изменилось».
Когда в апреле Anthropic выпустила модель Mythos, многие бизнес-менеджеры осознали, что подходы к безопасности необходимо пересмотреть. Чиновники тогда предупредили, что эта передовая модель искусственного интеллекта может даже автономно вторгаться в сложные корпоративные интрасети. Впоследствии выяснилось, что вышедшие из-под контроля агенты OpenAI начали скоординированные атаки на собственные системы OpenAI и корпоративные платформы, такие как Hugging Face, и связанные с этим опасения продолжали расти.
Сама компания Head AI Lab также становится конкурентом в области решений безопасности. Когда OpenAI выпустила GPT‑6 Astra на этой неделе, она сосредоточилась на продвижении способности модели помогать защитникам обнаруживать и устранять недостатки сетевой безопасности. Компания также недавно наняла новых руководителей для усиления возможностей сетевой безопасности и заменила прежнего директора по доходам.
Вентворт сообщил, что после выпуска Mythos компания Lumen привлекла несколько специалистов по сетевой безопасности для формирования новой команды, которая будет использовать передовые большие модели для сканирования на наличие уязвимостей. В то же время программа bug bounty компании получает большое количество уязвимостей, представленных внешними исследователями, многие из которых используют ИИ для их анализа.
Вентворт заявил, что Mythos и другие передовые модели "действительно меняют структуру расходования бюджетов на безопасность".
Эта тревога по поводу безопасности открыла рыночное пространство для новых стартапов в области кибербезопасности, которые фокусируются на специализированных продуктах для борьбы с новыми киберугрозами, которых не существовало всего несколько лет назад.
Джеремия Конг, директор по информационной безопасности компании AppLovin, занимающейся технологиями мобильной рекламы, сообщил, что компания договорилась о скидках на покупку инструментов безопасности с использованием искусственного интеллекта с рядом стартапов в сфере безопасности на ранних стадиях. Это помогло сдержать рост ежегодного бюджета на программное обеспечение безопасности, составляющего почти миллион долларов, который в этом году вырос примерно на 10 процентов.
Например, его команда подписалась на покупку продуктов Pluto Security и Fig Security: Pluto полагается на агентов ИИ для мониторинга поведения внутренних сотрудников, использующих ИИ; Fig Security использует искусственный интеллект для выявления потенциальных уязвимостей и предоставления планов ремонта. Обе компании прекратили свои скрытые операции только в этом году. AppLovin также использует программное обеспечение Endor Labs для сканирования кода, написанного инженерами, на наличие потенциальных уязвимостей.
«Векторы атак постоянно реконструируются итеративно, и мы всегда должны быть в состоянии повышенной готовности», — сказал Конг.
Конг сообщил, что AppLovin использует продукты CrowdStrike и SentinelOne для управления безопасностью конечных точек, то есть защиты устройств и приложений, используемых сотрудниками. Но он пересматривает этот бюджет, поскольку новые технологии искусственного интеллекта, такие как Pluto, могут лучше идентифицировать сотрудников, загружающих данные в инструменты искусственного интеллекта, такие как чат-боты. Он отметил, что производительность аналогичных продуктов безопасности искусственного интеллекта от CrowdStrike и SentinelOne «не идеальна».
Представитель CrowdStrike ответил в своем заявлении: "Решение клиента не приобретать определенный модуль без тестирования не означает, что он был заменен конкурирующим продуктом, особенно если клиент продолжает использовать платформу CrowdStrike. За три квартала после запуска решения CrowdStrike по обнаружению и реагированию на базе искусственного интеллекта масштаб увеличился более чем в 79 раз, что достаточно, чтобы доказать высокий потребительский спрос и быстрое внедрение".
Представитель SentinelOne заявил, что ИИ-безопасность – это самый быстрорастущий сегмент бизнеса компании, а новый доход поступает от новых клиентов и расширения существующих крупных клиентских платформ. Представитель упомянул, что в прошлом месяце компания сообщила, что годовой регулярный доход от продуктов безопасности искусственного интеллекта во втором квартале утроился по сравнению с аналогичным периодом прошлого года.
Поставщики сетевой безопасности говорят, что спрос в отрасли резко возрос после выпуска Mythos. Саназ Яшар, генеральный директор израильского стартапа Zafran, сказал, что переговоры по контракту с крупными предприятиями обычно занимают месяцы; но в течение пяти недель после выпуска Mythos Zafran получил новые заказы от трех крупных банков.
«Я никогда не видел ничего подобного, и это полностью меняет покупательские привычки клиентов». - сказал Яшар.
Традиционные поставщики систем безопасности находятся под ударом
Руководители службы безопасности заявили, что появилось большое количество новых инструментов сканирования уязвимостей, основанных на больших языковых моделях, которые представляют собой конкурентную угрозу традиционным продуктам известных поставщиков средств безопасности, таких как Qualys, Tenable и Rapid7. Подобные изделия появились на свет еще до популярности крупных моделей.
Джон Рэйпер, бывший директор по информационной безопасности Chevron и Costco, а сейчас консультант по корпоративной безопасности, сказал: "Традиционные сканеры никогда не сталкивались с разрушительными проблемами с момента их появления в середине-конце 1990-х годов. Они просто агрегируют большие объемы информации, им не хватает контекста, и большая часть информации имеет низкую ценность". Он прогнозирует, что традиционные сканеры «в конечном итоге будут заменены большими инструментами сканирования, управляемыми моделями».
«Зачем мне тратить 2 миллиона долларов на продукт традиционного поставщика, если теперь я могу использовать агент для тестирования на проникновение?»
Дуг Керстен, директор по информационной безопасности компании-разработчика программного обеспечения Appfire, которую Google приобрела в этом году за 32 миллиарда долларов, заявил, что компания использует нового «агента красной команды» от Wiz. Для поиска уязвимостей Wiz использует крупные модели Google, Anthropic и OpenAI.
Кестен сказал, что благодаря таким инструментам и другому программному обеспечению безопасности на базе искусственного интеллекта общий бюджет компании на кибербезопасность в следующем году увеличится на 20 %, но в будущем это снизит ее зависимость от «традиционных инструментов сканирования кода».
Со-генеральный директор Tenable Стив Венц не согласен с тем, что инструменты искусственного интеллекта разрушат собственное программное обеспечение для сканирования уязвимостей. Tenable является участником программы раннего доступа к кибербезопасности Anthropic и OpenAI и продает программное обеспечение для обеспечения безопасности, которое рекомендует исправления на основе обеих моделей. По словам Венца, после выхода Mythos сроки контрактов сократились, а спрос продолжал расти.
«На рынке безопасности много шума, и только данные могут сказать правду». Он отметил стабильный рост выручки компании в последние кварталы и рост цен на акции в этом году. «Передовая крупная модель несет в себе больше рисков, а не меньше, что приносит нам огромную выгоду».
Представители Qualys и Rapid7 не ответили на запросы об интервью. В августе Qualys сообщила о росте выручки на 11% во втором квартале и предсказала замедление роста в этом квартале. Однако в компании также заявили, что перед лицом новой среды угроз, вызванной Mythos, у клиентов есть большой спрос на новое поколение продуктов на базе искусственного интеллекта.
Генеральный директор Rapid7 Ваэль Мохаммед сообщил о небольшом снижении выручки при опубликовании отчета о прибылях и убытках в августе. Компания завершила реорганизацию управления, чтобы сосредоточиться на продуктах искусственного интеллекта, и сократила 12% своей рабочей силы. Мухаммед сказал, что клиенты сокращают расходы не из-за чувствительности цен, а потому, что «предприятия должны завершить переход к миру интеллектуальных машин и искусственного интеллекта. Это приоритет номер один для клиентов».
Менеджеры по безопасности инвестируют заранее, стремясь к долгосрочному сокращению затрат.
CISO различных предприятий в целом заявляли, что увеличивают свой «словарный бюджет» и закупают большие модели от Anthropic, OpenAI и других производителей для системного сканирования; однако руководители оптимистичны в отношении того, что долгосрочные затраты можно контролировать.
Например, Гил Вега, директор по информационной безопасности компании Veeam, поставщика резервного копирования данных, подключился к модели Mythos через проект Anthropic Glasswing. Он сказал, что расходы компании в этом направлении выросли, но Veeam хеджирует расходы Mythos по сравнению с другими моделями за счет сокращения закупок сторонних средств для тестирования на проникновение.
Джеремия Конг также использует модели искусственного интеллекта для сканирования ИТ-систем AppLovin и выявления потенциальных уязвимостей. Тестирование Mythos было дорогостоящим, поэтому AppLovin переключился на более экономичные модели Anthropic, такие как Claude Opus 4.7. Конг сказал, что команда выполняет еженедельное сканирование с использованием токенов Anthropic, которые обычно стоят несколько сотен долларов.
Даже крупные поставщики систем безопасности, активно использующие Mythos и передовые модели, полагают, что в будущем затраты снизятся. Сэм Рубин, старший вице-президент Palo Alto Networks, сказал, что на этапе тестирования в мае компания израсходовала токены Mythos на сумму более 1 миллиона долларов. Но в прошлом месяце Рубин заявил, что в будущем ожидается, что использование Mythos выровняется.
"Мы заметили в нашей внутренней среде, что первоначальная рабочая нагрузка по использованию моделей искусственного интеллекта для поиска и устранения уязвимостей огромна", - Рубин отказался напрямую комментировать, ожидает ли Пало-Альто снижения затрат на Mythos, но сказал, что "со временем рабочая нагрузка неуклонно снижалась и перешла к нормальной фазе эксплуатации и обслуживания".
«Однако в настоящее время в нашей среде все еще существует большое количество уязвимостей, которые необходимо устранить», — продолжил Рубин. «Баланс нападения и защиты нарушен, злоумышленники получили асимметричные преимущества, и всей отрасли необходимо наверстать упущенное».
Комментарии