Anthropic, американский стартап в области искусственного интеллекта, недавно попал в беспрецедентную регулятивную бурю: всего 10 дней назад он объявил, что его самая передовая крупномасштабная модель будет открыта для публики, но теперь правительство США срочно приостановило его деятельность на основании экспортного контроля. Подавляющее большинство пользователей по всему миру больше не могут получить доступ к моделям Fable 5 и Mythos 5. Это первый случай, когда Соединенные Штаты напрямую реализуют меры экспортного контроля в самой модели ИИ, вызывая потрясения на нескольких уровнях в сфере безопасности, промышленности и союзнических отношений.

По данным The Economist, сенатор США Марк Уорнер сообщил на секретном брифинге 11 июня, что генерал Джошуа Радд, который также является директором Агентства национальной безопасности (АНБ) и командующим киберкомандованием США, сообщил ему, что модель Mythos от Anthropic прорвала защиту большинства секретных систем АНБ во время санкционированных учений красной команды не за недели или дни, а за «часы». Это утверждение еще не было официально подтверждено ни одним правительственным органом, и соответствующие детали остаются конфиденциальными, но оно быстро стало доминирующим повествованием, объясняющим, почему 12 июня правительство США внезапно ввело строгий запрет на экспорт: модель искусственного интеллекта коммерческой компании за короткий период времени взломала одну из наиболее тщательно охраняемых секретных инфраструктур в мире.

Когда Anthropic впервые раскрыла Mythos в апреле этого года, она ясно дала понять, что модель слишком эффективна для обнаружения уязвимостей безопасности программного обеспечения и существует риск злоупотреблений, поэтому она не будет открыта для общественности. Он предоставит доступ только примерно 200 тщательно проверенным партнерам в рамках проекта под названием Project Glasswing, включая Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan Chase и Linux Foundation. С тех пор Mythos помог обнаружить тысячи реальных уязвимостей, включая брешь в системе безопасности, которая скрывалась в OpenBSD в течение 27 лет, и 271 новую проблему в браузере Mozilla Firefox 150.

9 июня Anthropic представила публике модель Fable 5. Его базовая основа такая же, как у Mythos, но поверх него накладывается классификатор безопасности, который перехватывает запросы, которые считаются опасными, и перенаправляет эти запросы на менее подходящие модели для обработки. Позиция Anthropic заключается в том, что этих «ограждений» достаточно, чтобы сделать Fable 5 безопасной для публики; но после того, как были раскрыты показания генерала Радда о тестировании на проникновение АНБ, правительство США, по-видимому, не согласилось с этим суждением и полагало, что между Mythos и Fable 5 «разрыв в возможностях», вызванный одним лишь классификатором безопасности, недостаточен, чтобы составить надежную линию защиты.

Непосредственным триггером, который спровоцировал все это, стал отчет о «побеге из тюрьмы». 12 июня правительство США уведомило Anthropic о том, что оно обнаружило способ обойти классификатор безопасности Fable 5, потенциально раскрывая ее наиболее чувствительные кибернаступательные и оборонительные возможности. По данным Anthropic, правительство было только устно проинформировано об уязвимости, назвав ее «потенциальным, узким и неуниверсальным побегом из тюрьмы» и дав компании 90 минут на принятие мер. О побеге из тюрьмы впервые сообщила Министерству торговли США Amazon, важный инвестор Anthropic и конкурент в области искусственного интеллекта. В то же время исследователь под псевдонимом «Плиний Освободитель» опубликовал свое самопровозглашенное слово полной системной подсказки на X и GitHub в течение 48 часов после того, как Fable 5 вышла в сеть.

Столкнувшись с давлением со стороны правительства, Anthropic отреагировала, подчеркнув, что, по своей оценке, влияние этого побега из тюрьмы было ограниченным, а не универсальным и не нанесло фундаментального ущерба общей безопасности Fable 5. Компания также отметила, что аналогичные уязвимости безопасности существуют и в других общедоступных моделях, включая GPT-5.5 от OpenAI, но эти модели не подвергаются такому же строгому экспортному контролю. В своем заявлении Anthropic предупредила, что если нынешние стандарты Fable 5 будут применяться во всей отрасли, «почти все ведущие поставщики моделей будут вынуждены прекратить внедрение новых моделей».

Некоторые представители сообщества безопасности согласны с оценкой Anthropic. Бывший директор службы безопасности Facebook Алекс Стамос заявил, что он ознакомился с соответствующим исследованием и полагает, что оно действительно содержит результаты, заслуживающие внимания, но не продемонстрировало «уникальных возможностей», которые могли бы оправдать такую ​​крайнюю реакцию. Однако советник администрации Трампа Дэвид Сакс придерживается противоположной точки зрения, заявив, что трудно понять, как Anthropic может утверждать, что побег из тюрьмы, достаточный для полной работоспособности кибероружия, может быть определен как «несерьезный».

Политическая подоплека не позволяет посторонним рассматривать это решение как чисто техническую проблему безопасности. В феврале администрация Трампа приказала всем федеральным агентствам прекратить использование моделей Anthropic после того, как компания отказалась подписать условия контракта, которые позволили бы использовать ее ИИ в автономных системах вооружения и крупномасштабном внутреннем наблюдении. Пентагон впоследствии классифицировал Anthropic как «риск цепочки поставок», запретив военным подрядчикам использовать его модели, и в настоящее время Anthropic оспаривает это определение в федеральном суде. Эта серия конфликтов делает экспортный контроль больше похожим на начало долгосрочной игры, стимулируемой крупными инцидентами в области безопасности.

Более глубокая проблема заключается в отсутствии институтов. Некоторые аналитики отметили, что Соединенным Штатам до сих пор не хватает стабильной и прозрачной системы для оценки и контроля рисков безопасности, связанных с передовыми моделями искусственного интеллекта. 2 июня администрация Трампа издала указ, призывающий компании, занимающиеся искусственным интеллектом, «добровольно» предоставить правительству 30-дневный предварительный доступ к новому поколению передовых моделей, прежде чем они будут публично выпущены. Однако Fable 5 вышла в сеть сразу через 7 дней и не соответствовала этим «добровольным рамкам». В практическом плане запрет 12 июня стал жестким средством заставить компании сотрудничать с органами государственной власти. В аналитической статье на сайте "Диалог" говорится, что основная проблема заключается в том, что у правительства нет данных, инфраструктуры и профессиональных возможностей, необходимых для независимой оценки новейших собственных моделей, а его зависимость от предприятий также признается в той или иной форме в этом указе.

Влияние этого запрета распространяется далеко за пределы Соединенных Штатов. Когда доступ к Fable 5 и Mythos 5 был полностью закрыт, Австралия, Великобритания, Канада и Новая Зеландия, традиционный разведывательный альянс США, известный как «Пять глаз», также были заблокированы одновременно без предупреждения. Британский научно-исследовательский институт безопасности искусственного интеллекта, считающийся ведущим в мире институтом по тестированию передовых моделей, внезапно потерял доступ к процессу оценки связанных систем. С этой целью спецслужбы пяти стран опубликовали в понедельник редкое совместное заявление. Хотя «Антропический» или «Миф» не упоминались, контекст, несомненно, указывал на текущую ситуацию.

В совместном заявлении отмечается, что передовые модели искусственного интеллекта, как ожидается, превзойдут текущие ожидания отрасли и фундаментально изменят картину возможностей сетевых атак и защиты. Временной интервал для соответствующих рисков больше измеряется не «годами», а «месяцами». Документ подписали высокопоставленные чиновники, в том числе руководитель кибербезопасности АНБ Дэвид Имбордино и исполняющий обязанности директора CISA Ник Андерсен. В заявлении предупреждается, что ИИ значительно снизит порог для злоумышленников для запуска атак и продолжит использовать те же старые проблемы, которые не были решены в течение многих лет - неисправленные системы, слабый контроль управления идентификацией и сервисы, которые излишне доступны в Интернете. В заявлении подчеркивается, что киберриск больше не является чисто технической проблемой, а является основным риском предприятия и ответственностью руководства.

Оливия Шен, эксперт по национальной безопасности и искусственному интеллекту из Сиднейского университета в Австралии, отметила, что посторонние не должны ограничивать свое видение антропным подходом. Она считает, что индустрия должна ожидать, что «скоро появится следующий Mythos или следующая Fable», и что в настоящее время публика может видеть только выпущенную модель, и что могут быть столь же продвинутые или даже более продвинутые системы, разработанные Китаем или другими странами, и актеры, продвигаемые за закрытыми дверями. СМИ, занимающиеся вопросами безопасности, CyberScoop отметили, что возможности атак, упомянутые в отчете об угрозах Amazon, который послужил причиной таких действий правительства, на самом деле могут быть достигнуты с помощью моделей старшего поколения, таких как Claude Opus, Claude Sonnet, и даже китайских моделей с открытым исходным кодом, которые не подлежат никакому экспортному контролю США. Модели с открытым исходным кодом традиционно отстают от головных лабораторий примерно на 6-8 месяцев по возможностям, поэтому остается открытым вопрос, действительно ли отключение Fable 5 значительно замедлит намеренного противника.

На данный момент Fable 5 и Mythos 5 все еще недоступны для большинства пользователей. Ранее Anthropic сообщила СМИ, что компания «очень уверена, что доступность модели будет восстановлена ​​в ближайшие несколько дней», однако эта позиция пока не выполнена. Вероятности, данные рынками прогнозов, оценивают вероятность восстановления доступа до 1 июля примерно в 57%. Трамп заявил в интервью Axios на прошлой неделе, что он больше не считает антропную угрозу национальной безопасности, сказав, что «может быть, это было неделю назад, но не сейчас». Обе стороны встретились во время саммита G7, и Трамп прокомментировал ход переговоров, что «все идет очень хорошо».

Десятки людей, в том числе исследователи кибербезопасности, предприниматели в области ИИ и руководители предприятий, совместно написали в Белый дом в понедельник, призывая правительство взять на себя обязательства по «открытому, научному и прозрачному» процессу в будущих процессах оценки рисков ИИ и реагирования на них. Считается, что более оперативный сигнал может поступить от политики проверки личности Anthropic, которая должна вступить в силу 8 июля, что позволит компании проверять, являются ли пользователи гражданами США, тем самым мы надеемся восстановить доступность модели в Соединенных Штатах без полной отмены приказа об экспортном контроле.

Хотя до сих пор неясно, чем запрет закончится в краткосрочной перспективе, последние десять дней или около того явно обозначили поворотный момент: это первый случай, когда Соединенные Штаты установили экспортный контроль непосредственно на самой модели ИИ, а не на аппаратном оборудовании, поддерживающем ее работу. Европа внимательно следит за этим прецедентом, опасаясь, что подобная ситуация может повториться в будущем на Azure, AWS или Google Cloud. Бывший министр безопасности Великобритании Том Тугендхат прямо заявил, что после такого «интуитивного урока» страны начнут задумываться о том, как достичь суверенных возможностей своей страны в критически важных облаках и инфраструктуре искусственного интеллекта. Что касается того, действительно ли Mythos взломал большинство секретных систем АНБ в течение нескольких часов, независимого подтверждения от какого-либо правительственного учреждения не было, а конкретные детали до сих пор скрыты в секретных документах.