Аннотация:
Недавно OpenAI объявила о результатах исследования безопасности, которые привлекли широкое внимание в отрасли. Компания заявила, что одна из ее будущих моделей искусственного интеллекта, ориентированных на кибербезопасность, успешно обнаружила 948 уязвимостей локального повышения привилегий в ядре Linux. Эксплуатация этих уязвимостей может позволить обычным локальным пользователям получить высший уровень root-прав в системе.
Ядро Linux является одной из наиболее важных программных инфраструктур в мире и широко используется в таких устройствах и системах, как смартфоны Android, платформы облачных вычислений, серверы центров обработки данных и суперкомпьютеры. Из-за чрезвычайно большого размера кода поиск потенциальных уязвимостей безопасности всегда был трудоемкой и сложной задачей.
В OpenAI заявили, что это исследование не просто требует от модели ИИ поиска уязвимостей, но и создает полный многоэтапный автоматизированный процесс исследования безопасности для проведения аудита ядра Linux в промышленном масштабе. Вся система комплектуется совместно несколькими выделенными агентами искусственного интеллекта, и все, от целевого скрининга, анализа уязвимостей, проверки уязвимостей до тестирования на использование уязвимостей и создания исправлений, автоматизировано.
На первом этапе ИИ-агент под названием «Скаут» сначала анализирует кодовую базу ядра и отфильтровывает функциональные модули и файлы, доступные обычным пользователям. В итоге система определила около 2,8 миллиона строк ключевого кода из более чем 40 миллионов строк кода в качестве объектов аудита, что составляет около 7% от всего размера кода ядра Linux. Всего для углубленной проверки было выбрано 5034 потенциальных объекта.
Впоследствии агент «Аналитик» провел анализ безопасности этих кодов и за 12 часов обнаружил 2308 потенциальных кандидатов на уязвимости. С тех пор агент «Triage» воспроизвел и проверил эти результаты в изолированной среде виртуальных машин, успешно подтвердив 1724 реальных уязвимости примерно за 30 часов.
После завершения проверки система ИИ дополнительно оценивает возможность использования этих уязвимостей. Наконец, была создана 291 программа для проверки концепции уязвимостей утечки информации, а также 1169 эффективных образцов атак, способных добиться локального повышения привилегий. Проанализировав и классифицировав дубликаты, исследовательская группа подтвердила, что существует 948 независимых уязвимостей.
В OpenAI заявили, что эти примеры атак были протестированы в стандартной среде настольной системы с включенными современными механизмами защиты Linux, включая основные технологии защиты, такие как KASLR, SMEP и SMAP. Это означает, что соответствующие уязвимости по-прежнему могут быть использованы даже в средах с общими мерами защиты.
Еще большее беспокойство вызывает то, что исследователи заявили, что система ИИ обнаружила и использовала в процессе анализа как минимум 10 ранее не зарегистрированных методов эксплуатации уязвимостей Linux. К ним относятся новые методы распыления объектов ядра, методы подкачки памяти и многочисленные атаки на данные, которые позволяют повысить привилегии без традиционного выполнения кода. По соображениям безопасности OpenAI не раскрывает конкретные детали этих технологий.
Данные показывают, что весь проект потребовал в общей сложности около 1,21 миллиона долларов США в виде вычислительных ресурсов API, а средняя стоимость каждого обнаружения доступной уязвимости повышения привилегий составила примерно 1279 долларов США. OpenAI отметила, что, исходя из предыдущих стандартов программы вознаграждения за уязвимости в индустрии безопасности, общая потенциальная стоимость вознаграждения, соответствующая этим 948 уязвимостям, может достигать от 18,9 до 66,3 миллиона долларов США.
В период исследования OpenAI начала предоставлять отчеты об уязвимостях и планы восстановления сообществу обслуживания Linux. Компания сообщила, что в ходе 10-дневного процесса скоординированного раскрытия информации 61 уязвимость повышения привилегий была официально исправлена, 43 уязвимости перешли на стадию тестирования исправлений, а еще 299 уязвимостей находятся в процессе публичного обсуждения и проверки.
Это достижение также демонстрирует растущие возможности искусственного интеллекта в области сетевой безопасности. В июне этого года OpenAI объявила, что ее модель GPT-5.5 Cyber обнаружила и проверила 24 уязвимости Linux, связанных с повышением привилегий; В ходе другого теста, проведенного в июле, модель компании обнаружила 166 независимых уязвимостей. Для сравнения, число 948 уязвимостей, обнаруженных в ходе этого последнего эксперимента, увеличилось более чем в пять раз, хотя за последние несколько месяцев ядро Linux подверглось значительному усилению безопасности.
OpenAI считает, что в будущем работа по обнаружению уязвимостей станет все более масштабной и автоматизированной. Задачи по обнаружению уязвимостей, на выполнение которых когда-то исследователям безопасности требовались недели или даже месяцы, теперь постепенно превращаются в стандартизированные процессы, непрерывно выполняемые системами искусственного интеллекта. Однако компания также подчеркивает, что исследователи-люди по-прежнему необходимы, поскольку ключевые звенья, такие как выявление уязвимостей, оценка воздействия и раскрытие ответственности, по-прежнему требуют профессионального участия в проверке.
Поскольку возможности моделей искусственного интеллекта продолжают улучшаться, индустрия сетевой безопасности вступает в новый этап. С одной стороны, защитники могут использовать искусственный интеллект для обнаружения и исправления уязвимостей с беспрецедентной скоростью; с другой стороны, эта технология также означает, что в будущем злоумышленники могут получить доступ к более мощным инструментам автоматизированных атак. Как найти баланс между повышением эффективности защиты и предотвращением рисков злоупотреблений становится важным вопросом во всей области сетевой безопасности.
Комментарии