Компания Anthropic, занимающаяся искусственным интеллектом, согласилась сообщить крупным министерствам финансов и центральным банкам различных стран об уязвимостях защиты глобальной финансовой системы, обнаруженных ее последней моделью искусственного интеллекта. Два человека, знакомые с ситуацией, заявили, что эта договоренность возникла по просьбе управляющего Банка Англии Эндрю Бэйли. Бэйли, который также является председателем Совета по финансовой стабильности, надеется, что Anthropic представит членам комитета возможности своей новой предварительной модели искусственного интеллекта ClaudeMythos.

Совет по финансовой стабильности — это глобальное агентство по финансовому регулированию, которое объединяет должностных лиц министерств финансов, руководителей центральных банков и регуляторов ценных бумаг из стран «Большой двадцатки». В его состав входят соответствующие официальные лица из США, Великобритании, Канады, Франции, Германии, Японии, Саудовской Аравии, Австралии и других стран.

Многие члены комитета все больше обеспокоены тем, что аналогичные модели искусственного интеллекта, разработанные Mythos и другими технологическими компаниями США, могут использовать слабые места в системах сетевой защиты финансовых учреждений, тем самым создавая потенциальные риски для глобальной банковской системы.

В прошлом месяце Anthropic заявила, что Mythos обнаружила тысячи уязвимостей высокого риска безопасности во всех основных операционных системах и веб-браузерах. Компания также заявила, что если такие уязвимости вызовут проблемы, они будут иметь серьезные последствия для экономического развития, общественной и национальной безопасности.

Из-за опасений по поводу огромного риска попадания технологии в чужие руки, Mythos в настоящее время открыт только для нескольких учреждений, и большинство пользователей — учреждения в Соединенных Штатах. Но это также обеспокоило многие компании и регулирующие органы в других регионах, и в различных регионах существует дисбаланс в уровне защиты сетевой безопасности.

В настоящее время большое количество учреждений по всему миру подали заявки на разрешение использовать Mythos или узнать о связанных функциях модели. Anthropic согласилась провести брифинги на высоком уровне для некоторых неамериканских агентств, включая Европейскую комиссию.

В настоящее время только около сорока учреждений имеют право использовать Mythos, включая Amazon, Microsoft и JPMorgan Chase. Эти учреждения могут использовать модель для устранения неполадок и устранения уязвимостей системы. По просьбе Белого дома Anthropic пообещала не продвигать эту модель в больших масштабах.

Совет по финансовой стабильности пишет отчет, чтобы разобраться в нормативных и практических руководящих принципах применения искусственного интеллекта в финансовой отрасли, и планирует выпустить проект в следующем месяце для общественного обсуждения. И Совет по финансовой стабильности, и Anthropic отказались комментировать недавние переговоры между двумя сторонами.

Регулирующие органы в различных странах призвали банки и различные финансовые учреждения всесторонне исследовать системы сетевой безопасности, как можно скорее публиковать и устанавливать системные исправления, а также устранять различные уязвимости безопасности, обнаруженные новыми моделями искусственного интеллекта.

Британское казначейство и органы финансового регулирования также недавно призвали различные финансовые учреждения в лондонском Сити принять активные меры для предотвращения более быстрых и разрушительных кибератак, вызванных передовыми технологиями искусственного интеллекта, чтобы снизить риски сетевой безопасности.

Однако из-за нынешней геополитической напряженности некоторые регулирующие органы полагают, что миру сложно сформировать единый и скоординированный ответ на угрозы безопасности, исходящие от искусственного интеллекта.

Ранее в этом месяце Международный валютный фонд призвал политиков в различных странах укреплять международное сотрудничество для совместного устранения уязвимостей кибербезопасности, выявленных новым поколением моделей искусственного интеллекта.

МВФ предупредил, что новые модели искусственного интеллекта переросли риски кибербезопасности в серьезные скрытые опасности, которые могут спровоцировать макрофинансовые потрясения.

Сотрудники МВФ написали в своем блоге: Риски кибербезопасности не признают границ. Развивающиеся страны и развивающиеся страны, как правило, имеют ограниченные ресурсы и слабые возможности сетевой защиты. Они с большей вероятностью станут мишенью кибератак и пострадают от более серьезных последствий.