Когда в апреле Anthropic выпустила свою новую модель Mythos, лаборатория искусственного интеллекта одновременно выступила с серьезным предупреждением индустрии разработки программного обеспечения. Говорят, что эта модель чрезвычайно способна обнаруживать уязвимости безопасности программного обеспечения и обнаружила тысячи уязвимостей высокого риска. Модель не может быть полностью открыта внешнему миру, пока эти проблемы не будут устранены.

Теперь исследователи безопасности, работающие над браузером Mozilla Firefox, впервые систематически раскрывают детали того, как этот процесс работает в реальных разработках, и пытаются объяснить, что означает Mythos для общей экосистемы безопасности программного обеспечения. Mythos обнаружила ряд серьезных уязвимостей в Firefox, некоторые из которых были скрыты в коде более десяти лет, сообщила Mozilla в сообщении в четверг.

Всего за полгода произошел значительный скачок в полезности инструментов безопасности ИИ. В прошлом различные инструменты автоматической проверки ошибок ИИ часто работали очень шумно, часто засыпая команду безопасности отчетами низкого качества и большим количеством ложных срабатываний, из-за чего команда инженеров с трудом справлялась. Исследователи Mozilla считают, что новое поколение инструментов «достигло переломного момента», особенно после того, как оно приобрело «агентоподобные» возможности. Модель может выполнять вторичную оценку и проверку результатов собственного анализа, тем самым отфильтровывая большое количество ненадежных результатов.

«Трудно переоценить, насколько сильно это изменение повлияло на нас за несколько месяцев», — пишут исследователи. «Во-первых, возможности самих моделей значительно улучшились; во-вторых, наш набор технологий по использованию этих моделей также быстро улучшился».

Что касается результатов, изменения особенно интуитивно понятны: в апреле 2026 года Firefox выпустил в общей сложности 423 исправления уязвимостей, тогда как в том же месяце год назад это число составляло только 31. Исследовательская группа также раскрыла технические подробности 12 уязвимостей, включая две редкие ошибки в механизме безопасности песочницы и ошибку анализа HTML-элемента 15-летней давности.

«Эти инструменты сейчас внезапно стали очень, очень полезны», — сказал выдающийся инженер Mozilla Брайан Гринстед в интервью TechCrunch. «Мы наблюдаем это во внутренних системах сканирования, мы видим ту же тенденцию в отчетах об уязвимостях, подаваемых извне, и мы смотрим на отрасль в целом».

Самое поразительное, что Mythos помог обнаружить ряд уязвимостей, связанных с механизмом «песочницы» браузера. В индустрии этот тип уязвимостей всегда считался одним из самых сложных и вредных для обнаружения: для успешного поиска и проверки уязвимостей песочницы модель должна не только иметь возможность написать патч со вредоносными изменениями, но и суметь атаковать наиболее защищенные части браузера после внедрения этого нового кода. Этот процесс требует соблюдения строгой логики и достаточной креативности между многоэтапными операциями и намного сложнее, чем обычный поиск дефектов.

Его ценность можно также рассматривать с точки зрения экономических стимулов. Программа Mozilla по вознаграждению за обнаружение ошибок предлагает максимальное вознаграждение в размере 20 000 долларов США за уязвимости в песочнице Firefox, что является самым высоким пределом вознаграждения среди всех категорий уязвимостей. Тем не менее, по словам Гринстеда, Mythos сейчас обнаружила больше проблем, связанных с «песочницей», чем исследователи безопасности человека обнаружили в прошлом благодаря наградам вместе взятым. «Мы получаем сообщения об уязвимостях песочницы, — сказал он, — но с точки зрения объема они далеки от того, что мы активно обнаруживаем с помощью этой новой технологии».

Стоит отметить, что, несмотря на значительный прогресс в отрасли в области инструментов генерации кода искусственного интеллекта, команда Firefox в настоящее время не полагается на искусственный интеллект для прямого устранения этих уязвимостей. Команда попросит модель попытаться сгенерировать исправления на основе каждой уязвимости, но эти автоматически сгенерированные коды обычно не могут быть напрямую интегрированы в магистраль и могут использоваться только в качестве справочного шаблона для инженеров-людей для написания исправлений.

«Для каждой из уязвимостей, упомянутых в этой статье, один инженер завершил написание патча, а другой инженер завершил проверку кода». – подчеркнул Гринстед. «Нам еще предстоит найти надежный способ полностью автоматизировать этот процесс».

На более макроуровне до сих пор неясно, как быстрое развитие возможностей ИИ изменит баланс сил между сетевым нападением и защитой. Прошло больше месяца с момента выпуска предварительной версии Mythos, а большинство обнаруженных недостатков все еще находятся в процессе исправления, что также означает, что внешнему миру сложно полностью оценить их долгосрочное влияние. Anthropic строго придерживается практики ответственного раскрытия информации и постепенно передает информацию об уязвимостях соответствующим проектам, но разумно предположить, что некоторые злоумышленники также пробуют аналогичные методы в частном порядке, даже если используемые ими модели по-прежнему уступают по возможностям.

На недавнем публичном мероприятии генеральный директор Anthropic Дарио Амодей отнесся к этой тенденции относительно оптимистично. По его мнению, если отрасль должным образом будет регулировать использование таких инструментов, правозащитники могут оказаться в лучшем положении, чем сегодня. «Если мы сделаем все правильно, мы надеемся, что в конечном итоге мы получим более безопасную ситуацию, чем изначально, потому что мы собираемся исправить эти уязвимости одну за другой», — сказал Амодей. «Общее количество уязвимостей ограничено, поэтому после этого можно возвестить о лучшем мире».

Напротив, Гринстед, который уже давно работает с уязвимостями на передовой, выглядит более осторожным. «Этот инструмент одинаково полезен как для нападающих, так и для защитников, но его популярность, по крайней мере, несколько сместила преимущество в сторону защитника», — сказал он. «Более реалистичное утверждение состоит в том, что никто не может дать окончательный ответ на этот вопрос прямо сейчас».