Аннотация:
Агентство кибербезопасности Европейского союза (ENISA) недавно опубликовало отчет с предупреждением о политике, в котором говорится, что новое поколение крупных моделей Frontier AI полностью подрывает традиционную парадигму защиты сетевой безопасности. Этот тип модели ИИ с расширенными возможностями рассуждения сжал временной интервал от «обнаружения» до «вооруженного использования» уязвимостей системы до беспрецедентного предела, заставляя глобальную систему защиты сетевой безопасности реагировать на все более серьезные автоматизированные угрозы со «скоростью реагирования на уровне машины».
В традиционном цикле управления уязвимостями обычно существует буферный период в недели или даже месяцы от раскрытия уязвимости, проверки концепции до фактической злонамеренной эксплуатации. У групп безопасности есть относительно достаточный «льготный период» для оценки воздействия, проверки исправлений и их развертывания в Интернете. Тем не менее, ENISA отметила в отчете, что передовые модели искусственного интеллекта могут автономно генерировать пути атак высокого порядка благодаря своим возможностям глубокого анализа сложной логики приложений, ошибок конфигурации и многоэтапных цепочек вызовов. Разница во времени с момента обнаружения уязвимости до использования инструментов атаки приближается к нулю. Данные отраслевого мониторинга показывают, что злоумышленники могут использовать автоматизированные средства для завершения вооружения в течение 15 минут после обнаружения уязвимости, а среднее время от первоначального проникновения до кражи данных сократилось примерно до 72 минут.
Этот крайний эффект сжатия спровоцировал множество глубоких кризисов. ENISA предупреждает, что злоумышленники, использующие ИИ, скорее всего, освоят готовые коды эксплуатации уязвимостей до того, как разработчики программного обеспечения выпустят исправления, в результате чего так называемое явление «отрицательного времени эксплуатации» становится все более распространенным. Кроме того, чтобы не отставать от темпов атак, производители могут быть вынуждены интенсивно выпускать аварийные исправления с более высокой частотой, что значительно увеличивает риск нарушения ключевых бизнес-операций из-за конфликтов совместимости исправлений. В то же время большое количество независимых разработчиков программного обеспечения с открытым исходным кодом сталкиваются с потоком автоматических отчетов об уязвимостях ИИ, а «устаревшие системы», которые находятся на грани технической поддержки или прекратили ее, стали более уязвимыми для бесконечного сканирования ИИ.
Столкнувшись с экспоненциальным ускорением цепочки атак, ENISA призывает компетентные органы, политиков и группы корпоративной защиты всех стран-членов ускорить трансформацию традиционных моделей управления безопасностью. В отчете подчеркивается, что линейные механизмы защиты, которые слишком полагаются на ручную проверку, отложенное утверждение и регулярное исправление, больше не могут справиться с атаками на машинной скорости. Организации должны перейти к «предполагаемому нарушению» и архитектуре с нулевым доверием, сосредоточив внимание на сокращении радиуса взрыва (Blast Radius) посредством сегментации сети, строгой изоляции разрешений и других средств.
Что касается конкретных стратегий внедрения, ENISA рекомендует предприятиям глубоко интегрировать защитные инструменты искусственного интеллекта в жизненный цикл разработки программного обеспечения и центр реагирования на угрозы (SOC), а также использовать автоматизированные средства для достижения сверхвысокоскоростной классификации уязвимостей и сдерживания чрезвычайных ситуаций. В то же время в докладе содержится призыв сделать сетевую безопасность основным стратегическим направлением европейских инвестиций в технологии искусственного интеллекта, чтобы способствовать созданию возможностей автономной защиты искусственного интеллекта и предотвратить потерю стратегической инициативы в следующем поколении автономных сетевых наступательных и оборонительных конфронтаций.
Комментарии