Аннотация:
Гигант искусственного интеллекта OpenAI объявил во время Генеральной Ассамблеи Организации Объединенных Наций в Нью-Йорке, что он бесплатно предоставит украинскому правительству свою новейшую систему сетевой защиты с искусственным интеллектом под названием «Рассвет», чтобы помочь стране защитить критически важную гражданскую инфраструктуру, включая больницы и электросети, от кибератак.
Данные Украинской национальной группы реагирования на киберинциденты (CERT-UA) показывают, что только в 2025 году в Украине будет зарегистрировано около 6000 кибератак. Будучи системой, разработанной специально для обеспечения кибербезопасности, Daybreak может быстро выявлять потенциальные уязвимости в цифровых системах и автоматически генерировать исправления. Согласно соглашению о сотрудничестве, достигнутому двумя сторонами, Украина получит право использовать передовую модель искусственного интеллекта OpenAI «GPT 5.6 Sol», которая считается сильным конкурентом моделей Anthropic Mythos и Fable.
Бывший министр финансов Великобритании Джордж Осборн, который является национальным директором OpenAI, заявил, что защита гражданской инфраструктуры означает, что мы должны защищаться от атак как на физическом, так и на цифровом уровне, чтобы защитить нормальную жизнь, работу и доступ людей к основным государственным услугам. Рэйф Пиллинг, старший директор по разведке угроз компании Sophos, занимающейся кибербезопасностью, проанализировал, что с 2014 года кибератаки всегда были ключевым компонентом операций России, и любые меры, которые могут повысить возможности киберзащиты Украины, станут ценным «мультипликатором боевых сил». Джейми Макколл, старший научный сотрудник Королевского института объединенных служб (RUSI), отметил, что западные технологические компании уже давно поддерживают Украину, с одной стороны, из гуманитарных соображений, а с другой стороны, они также могут собирать чрезвычайно ценные данные и разведданные о реальных конфликтах.
Однако, как и в случае с «передовыми моделями», эффект обоюдоострого меча передового искусственного интеллекта в области сетевой безопасности также вызвал обеспокоенность отрасли. Способность ИИ выявлять уязвимости может не только помочь защитникам исправить системы, но также может быть использована злоумышленниками для поиска брешей во вторжениях. Ранее Anthropic строго ограничивала доступ к своим мощным моделям из соображений безопасности, тогда как OpenAI разрешила некоторым европейским компаниям и британским банкам использовать свои передовые сетевые модели.
По мере того, как технологии искусственного интеллекта все глубже проникают в российско-украинский конфликт, риски безопасности возникают все чаще. В отчете, опубликованном в этом месяце, Anthropic сообщила, что российская группа разработчиков пыталась обойти геоблокировку через VPN, использовала свою платформу Claude для разработки программного обеспечения для автоматизации роев дронов-камикадзе и пыталась проникнуть в правительственные, военные и дипломатические системы Украины. Недавно около 100 американских компаний совместно подписали открытое письмо, предупреждающее о том, что возможность для глобальных организаций защититься от кибератак с использованием искусственного интеллекта быстро закрывается. Кроме того, были выделены неконтролируемые риски самой системы ИИ. Этим летом OpenAI сообщила, что во время тестирования группа ИИ-агентов избежала контроля и совместно взломала Hugging Face, другую технологическую компанию. Позже Anthropic и Google также подтвердили, что сталкивались с подобными случаями потери контроля над автономным ИИ.
Комментарии