Аннотация:
28 октября по местному времени компания Google официально представила Gemini 4 Carbon, новое поколение передовой модели искусственного интеллекта. Основное внимание уделяется улучшению программирования программного обеспечения, способности агентов выполнять сложные задачи и возможностям защиты сетевой безопасности. В Google заявили, что новая модель добилась значительного прогресса в обнаружении уязвимостей программного обеспечения, проверке возможности использования уязвимостей и устранении недостатков безопасности, а также опережает флагманские модели OpenAI и Anthropic в многочисленных тестах производительности. Однако, учитывая потенциальные риски, которые могут принести его мощные возможности сетевой безопасности, Google в настоящее время открыт только для некоторых избранных агентств по защите сетевой безопасности и не будет сразу доступен всем разработчикам и обычным пользователям.
Gemini 4 Carbon — еще одна передовая модель после того, как в этом месяце Google выпустила Gemini 4 Argon. В Google заявили, что новая модель еще больше расширяет возможности генерации кода, рабочего процесса агентов и долгосрочной обработки сложных задач на основе Argon и специально оптимизирована для области сетевой безопасности. Компания надеется, что, улучшая возможности искусственного интеллекта по обнаружению и устранению уязвимостей программного обеспечения, он поможет предприятиям более эффективно защищать свои системы, одновременно снижая риск того, что новый код создаст недостатки безопасности.
Что касается общей производительности, Google привел результаты оценки Artificial Analysis Intelligence Index 5.0, опубликованные Artificial Analysis, заявив, что Gemini 4 Carbon занял первое место с 59 баллами, опередив Claude Opus 5.5 от Anthropic и GPT-6 Astra от OpenAI. В этом списке всесторонне рассматриваются возможности модели в нескольких измерениях, но типы задач и методы оценки в разных тестах различаются, поэтому всесторонний рейтинг не означает, что модель имеет преимущества во всех практических приложениях.
Кибербезопасность лежит в основе этого запуска. Данные, опубликованные Google, показывают, что Gemini 4 Carbon набрал 88,2% в тесте производительности SEC-bench Pro, который в основном оценивает способность модели обнаруживать реальные уязвимости программного обеспечения; она достигла результата 54,8% в тесте ExploitGym, который используется для измерения способности модели проверять возможность использования уязвимостей и строить соответствующие планы эксплуатации; он набрал 71% в тесте CWE-bench, который фокусируется на оценке того, может ли модель предложить эффективные решения по устранению выявленных недостатков безопасности.
Эти возможности охватывают множество ключевых аспектов работы по обеспечению безопасности программного обеспечения. Традиционные инструменты безопасности обычно полагаются на заранее определенные правила, известные характеристики уязвимостей и конкретные процессы тестирования, в то время как ожидается, что передовые модели искусственного интеллекта будут дополнительно анализировать сложные коды, обнаруживать дефекты, скрытые в больших программных системах, и помогать разработчикам понимать причины уязвимостей и, в конечном итоге, создавать целевые исправления.
Однако существует важная разница между обнаружением уязвимостей и их эксплуатацией. Способность выявлять недостатки в программе не означает, что модель сможет успешно использовать эти недостатки в реальной среде; Аналогично, создание, казалось бы, разумного кода исправления не означает, что он полностью устранил уязвимость. Результаты тестов, опубликованные Google, отражают производительность в конкретных условиях оценки. Фактический эффект безопасности по-прежнему зависит от среды кода, методов тестирования и последующей ручной проверки.
Google также сообщила, что Gemini 4 Carbon более чем в два раза превзошел Gemini 4 Argon в создании безопасного кода во внутренних тестах. Команда Chrome также сообщила, что по внутренним оценкам Carbon выпустила высококачественные исправления безопасности, значительно лучше, чем передовые модели некоторых других лабораторий. Однако эти результаты в основном получены из собственной тестовой среды Google. Конкретные условия оценки и тестовые задачи могут повлиять на конечную производительность, и для ее проверки по-прежнему необходимы дополнительные независимые тесты.
Помимо кибербезопасности, Gemini 4 Carbon оптимизирован для инженерных задач, требующих непрерывного выполнения в течение длительных периодов времени. В Google заявили, что внутренние команды наблюдали, как модели работают целыми днями, продолжая решать сложные многоэтапные инженерные задачи после многочисленных неудач и попыток.
Эти задачи могут включать в себя поиск сложных ошибок в больших базах кода, устранение неполадок системы низкого уровня и внесение изменений в код в нескольких модулях. В отличие от чат-бота, которому нужно ответить только на один вопрос, агенту необходимо составить план, вызвать инструменты, проверить результаты и скорректировать план на основе отзывов во время выполнения. Чем сложнее задача, тем больше модели необходимо поддерживать контекстуальную связность и не допускать преждевременных срывов, когда она застревает.
В Google заявили, что при решении таких долгосрочных задач Carbon лучше определяет пути сбоя и избегает ненадежных сокращений для выполнения задачи. Ожидается, что в реальном процессе разработки это поможет инженерам сократить время повторного устранения неполадок, позволяя искусственному интеллекту выполнять более непрерывную работу по обслуживанию и отладке программного обеспечения.
При этом в Google подчеркнули, что новая модель также имеет улучшения в надежности. Компания заявляет, что Carbon снижает количество необоснованных утверждений примерно вдвое по сравнению с аргоном. Столкнувшись с проблемой недостаточности доказательств или двусмысленности, модель с большей вероятностью будет продолжать поиск информации, указывать на противоречия между различной информацией или четко указывать, какие шаги все еще не могут быть выполнены, вместо того, чтобы напрямую давать ответ, не имеющий доказательств.
Что касается защиты от атак с быстрым внедрением, заслуживают внимания и результаты внутренней оценки, опубликованные Google. Атаки с использованием подсказок обычно заставляют системы искусственного интеллекта отклоняться от первоначальных целей миссии, скрывая вредоносные инструкции в веб-страницах, файлах или другом внешнем контенте. В Google заявили, что в ходе непрямого теста быстрого внедрения Grey Swan показатель успешности атаки Carbon далее снизился с 0,7% Argon до 0%, то есть среди попыток атаки, охваченных тестом, не было успешных случаев.
Однако тот факт, что ни одна атака не была успешно обнаружена ни в одном тесте, не доказывает, что модель устойчива ко всем атакам с внедрением подсказок. Методы атак в реальных средах могут продолжать меняться, и модель также необходимо сочетать с такими мерами, как управление разрешениями, ограничения на вызовы инструментов, проверка входного контента и ручной контроль для создания более надежной системы безопасности.
Поскольку возможности Carbon в области сетевой безопасности расширяются, Google решила принять стратегию поэтапного открытия. Новая модель впервые будет доступна избранной группе организаций, занимающихся защитой кибербезопасности, через программу компании Fairwind. В Google заявили, что компания участвует в процессе добровольного предварительного тестирования передовых моделей, продвигаемого правительством США, и планирует продолжать корректировать механизм защиты безопасности на основе отзывов первых пользователей, а затем постепенно открывать его для более доверенных партнеров.
Google еще не объявил точную дату, когда Carbon будет открыт для всех разработчиков, предприятий и обычных пользователей. Компания заявила, что надеется внедрить эту модель в большее количество продуктов и услуг как можно скорее после завершения необходимых испытаний и корректировки защитных мер.
Эта стратегия ограниченной открытости отражает реальную проблему, с которой сталкивается индустрия искусственного интеллекта: модели, которые могут помочь командам безопасности обнаруживать уязвимости, также могут использоваться злоумышленниками для поиска входов для атак или разработки инструментов эксплуатации. Чем мощнее возможности модели, тем больше компаниям необходимо оценить риски двойного использования, которые она может нести в различных сценариях использования.
Что касается цены, первоначальная цена Gemini 4 Carbon такая же, как и Gemini 4 Argon: взимается 2 доллара США за миллион входных токенов и 10 долларов США за миллион выходных токенов. Google также предлагает значительную скидку на кэширование входных токенов: скидка составляет от 95 % от цены входных токенов. Однако эта цена относится к ценам периода акции. Последующие цены, объявленные Google, составляют 4 доллара США за миллион входных токенов и 20 долларов США за миллион выходных токенов. Официальное время корректировки еще не определено.
С точки зрения позиционирования продукта Carbon — это не новая модель, предназначенная просто для общения в чате, а профессиональный инструмент, который больше ориентирован на сложную разработку программного обеспечения, непрерывное выполнение задач и защиту сетевой безопасности. Его ценность заключается не только в возможности дать правильный ответ, но и в возможности продолжать выполнять работу в течение длительного периода времени и соответствующим образом реагировать при обнаружении ошибок, неоднозначных требований или потенциальных угроз безопасности.
Этот выпуск также показывает, что Google ускоряет темпы разработки передовых моделей. Вскоре после запуска Gemini 4 Argon компания Carbon еще больше улучшила несколько ключевых показателей производительности. Ожидается, что для корпоративных пользователей эта быстрая итерация сократит время внедрения технологии искусственного интеллекта в реальные процессы разработки программного обеспечения и обеспечения безопасности, но также повысит важность независимой оценки, непрерывного мониторинга и проверки безопасности.
В настоящее время Gemini 4 Carbon добился лучших результатов в ряде тестов, опубликованных Google, но его реальная производительность еще нуждается в проверке более независимыми учреждениями и реальными пользователями. Поскольку кибератаки становятся все более изощренными, искусственный интеллект может стать важным защитным инструментом для групп безопасности, а также может повысить автоматизацию обнаружения и использования уязвимостей. Google решила сначала открыть эту модель для проверенных оборонных ведомств, надеясь дополнительно оценить ее риски, одновременно раскрывая ее технические возможности, и постепенно установить соответствующие границы использования.
Комментарии