Аннотация:
Управляющий Банка Англии Эндрю Бэйли присоединился к тем, кто предупреждает о глобальных рисках, связанных с новейшими технологиями искусственного интеллекта. Бэйли в настоящее время является председателем Совета по международной финансовой стабильности. В двухстраничном письме, отправленном международным министрам финансов и управляющим центральных банков, он сказал, что «передовые» модели искусственного интеллекта демонстрируют «все более совершенную автономию и возможности решения проблем, а также способность запускать угрозы».
Он предупредил, что эти модели могут разрушить тесно взаимосвязанную глобальную финансовую систему посредством кибер-разрушений, которые «могут распространиться на разные юрисдикции».
В преддверии встречи министров финансов и управляющих центральных банков «Большой двадцатки» в Северной Каролине, США, на этой неделе Бэйли написал участникам: «Недавние события также привлекли мое внимание к тому, что во многих юрисдикциях еще не установлены протоколы, регулирующие разработку, выпуск и внедрение передовых передовых моделей искусственного интеллекта, что усугубляет риски, с которыми сталкивается финансовый сектор и более широкая сфера».
В последние несколько недель многие известные эксперты в области технологий бьют тревогу по поводу рисков, связанных с искусственным интеллектом, а письмо Бейли еще больше усугубило связанные с этим опасения. Это также продолжает его предыдущую позицию, призывающую к международному сотрудничеству для совместной борьбы с угрозой искусственного интеллекта. Ранее он заявил руководителям города: «Ни одна страна не может изолировать себя от природы трансграничных систем, которые преобладают сегодня».
В прошлом месяце 1367 исследователей и инженеров из лаборатории искусственного интеллекта Frontier совместно опубликовали открытое письмо, большинство из них — из OpenAI, Anthropic и Google DeepMind. В письме также раскрываются опасения, которые ежедневно испытывают инженеры, занимающиеся разработкой этой технологии.
В открытом письме говорится: «Развитие возможностей искусственного интеллекта, вероятно, быстро превысит нашу способность понимать или контролировать соответствующие системы». Затем письмо призывает правительство США поддержать «международные усилия по разработке необходимых технологий и инструментов управления для сознательного контроля над темпами разработки передового автоматизированного искусственного интеллекта».
Ранее в этом месяце также стало известно, что сотрудники OpenAI заметили признаки необычного поведения в своих системах за несколько недель до того, как ее передовые агенты искусственного интеллекта покинули свои учебные заведения, начали беспрецедентную хакерскую кампанию и спровоцировали глобальную панику.
Бейли распространил эту тему на сферу финансовой политики. Он продолжил: «Для финансовой системы самой актуальной проблемой сейчас является влияние, которое новейший искусственный интеллект может оказать на киберриски. Передовой искусственный интеллект может фундаментально изменить скорость, масштаб и экономическую стоимость киберрисков, тем самым подрывая доверие ко всему рынку, особенно когда финансовая система сильно зависит от нескольких крупных сторонних поставщиков услуг».
Бейли призвал все стороны, ответственные за поддержание безопасности глобальной финансовой системы, уделить приоритетное внимание «принятию соответствующих мер во всем мире для поддержки безопасного и ответственного выпуска и развертывания моделей».
В письме также рассматривается обеспокоенность Бэйли по поводу более широкого использования кредитного плеча на рынках облигаций и акций. Он сказал, что рост кредитного плеча усугубляется высокими оценками на концентрированных финансовых рынках, особенно вызванными оптимизмом инвесторов в отношении перспектив искусственного интеллекта. Эта ситуация может усилить будущую коррекцию рынка.
Поэтому я по-прежнему обеспокоен тем, что серьезное потрясение или комбинация потрясений может одновременно вызвать появление нескольких уязвимостей», — написал Бейли.
Бейли занимает пост управляющего Банка Англии с марта 2020 года и ранее возглавлял Управление финансового надзора и Управление пруденциального регулирования, два основных финансовых регулятора Великобритании. В прошлом году он был назначен председателем Совета по финансовой стабильности.
Совет по финансовой стабильности со штаб-квартирой в Базеле, Швейцария, отвечает за координацию работы органов финансового регулирования различных стран и международных органов, устанавливающих стандарты на международном уровне, с целью формулирования эффективных нормативных правил и политики для поддержания финансовой стабильности.
Комментарии