Аннотация:
Anthropic отказывается передать свою последнюю модель в Британский институт безопасности искусственного интеллекта (AISI) для тестирования до выпуска нового продукта. Этот шаг вызвал обеспокоенность в британском правительстве тем, что технологические компании следуют протекционистской линии администрации Трампа в области ИИ.
Компания стоимостью 1 триллион долларов, которая готовится к крупному IPO в ближайшие недели, на прошлой неделе представила свою последнюю модель Claude Mythos 5.1, назвав ее наиболее эффективной моделью в области медико-биологических наук и кибербезопасности.
Но это первый раз, когда модель была открыта только для аккредитованных учреждений США, и британский Институт безопасности искусственного интеллекта (AISI) не смог получить доступ. AISI — ведущая в мире организация в области передовой оценки больших моделей.
Многие представители британского правительства заявили, что AISI не смогла получить права доступа до того, как модель была выпущена, что вызвало тревогу в Уайтхолле (центральном правительстве Великобритании) и в институте. AISI — важнейшая разменная монета Великобритании в глобальной гонке искусственного интеллекта.
Один правительственный инсайдер сказал: «Чиновники национальной безопасности обеспокоены этим. Они действительно не тестируют Миф 5.1. Все стороны очень обеспокоены... Они обеспокоены тем, что это создаст прецедент и AISI больше не будет иметь доступа к новейшим моделям в будущем».
В последние месяцы администрация Трампа заняла все более жесткую позицию в отношении индустрии искусственного интеллекта, введя обширный экспортный контроль и временно ограничив всем иностранцам (включая сотрудников американских компаний, занимающихся искусственным интеллектом) доступ к топ-моделям Anthropic.
Источники сообщили, что некоторые люди в Уайтхолле считают, что Anthropic отказалась открыть новую версию модели Mythos для AISI по указанию правительства США, но это предположение не подтвердилось. AISI, основанная три года назад, уже получила новую модель OpenAI Astra для предварительной оценки перед ее официальным выпуском в этом месяце.
Anthropic отказалась от комментариев. На прошлой неделе компания заявила, что «координирует свои действия с правительством США, чтобы как можно скорее расширить открытость модели для большего числа отечественных и иностранных партнеров».
В июне этого года правительство США ввело контроль над экспортом Fable и Mythos, двух моделей Anthropic, ориентированных на сетевую безопасность и запрещающих иностранцам использовать эту технологию. Этот инцидент произошел после введения вышеупомянутых мер контроля.
Соединенные Штаты обнаружили, что в модели имеется уязвимость для «джейлбрейка», то есть метода, позволяющего обойти встроенные средства безопасности программного обеспечения, и немедленно внедрили этот контроль. В результате открытия Anthropic на несколько недель удалила свою передовую модель с мировых рынков.
Этот инцидент обострил конфликт между Белым домом и Кремниевой долиной. Кремниевая долина раскритиковала правительство США за принятие временных чрезвычайных правил в отношении передового искусственного интеллекта.
Этот шаг также вызвал сопротивление со стороны многих правительств, а соответствующие страны обвинили Соединенные Штаты в наказании союзников посредством запретов. Европейская комиссия, исполнительный орган ЕС, предупредила тогда, что риски безопасности являются «общим вызовом» и что принятые меры «не должны представлять собой дискриминацию стран-партнеров».
Британские правительственные чиновники четко осознают, что, если Великобритания не сможет получить самые передовые модели искусственного интеллекта, страна не только столкнется с проблемами безопасности, но и может пострадать экономика.
В прошлом месяце СМИ сообщили, что кабинет министров, отвечающий за координацию государственных дел, распорядился срочно провести оценку риска того, что обычные потребители и предприятия больше не смогут использовать последние версии моделей искусственного интеллекта.
Отношения Anthropic с правительством США с начала этого года стали натянутыми. Ранее компания находилась в тупике с Министерством обороны США по поводу условий контракта, и впоследствии США определили ее как организацию, занимающуюся риском в цепочке поставок.
В последние месяцы отношения между ведущей американской лабораторией искусственного интеллекта и некоторыми представителями администрации Трампа, по-видимому, улучшились: обе стороны тесно работают над выпуском моделей Mythos и Fable.
Кабинет министров Великобритании заявил: «Институт безопасности искусственного интеллекта (AISI) продолжает тесно сотрудничать с отраслевыми партнерами, включая Anthropic, для повышения безопасности моделей».
Комментарии