Аннотация:
Поскольку конкуренция в области искусственного интеллекта продолжает обостряться, Китай и США пытаются создать новый механизм координации безопасности. Согласно последней договоренности, достигнутой между двумя сторонами, Китай и США договорились создать двусторонний канал связи, специально предназначенный для борьбы с рисками «суперинтеллекта» (SI) для укрепления будущего обмена информацией и управления рисками в области передового искусственного интеллекта.
Эта договоренность считается одним из важных результатов недавнего китайско-американского диалога по искусственному интеллекту. Согласно информации, опубликованной Соединенными Штатами, обе стороны продолжат содействовать созданию соответствующих механизмов в ближайшие несколько месяцев и планируют провести последующую встречу в рамках недавно созданного «Диалога сверхразведки Китая и США» до ноября.
Основой создания этого механизма является то, что возможности искусственного интеллекта развиваются с беспрецедентной скоростью. По мере появления все более мощных крупных моделей и автономных агентов искусственного интеллекта правительства все больше беспокоятся о кибербезопасности, защите критической инфраструктуры и рисках, которые могут представлять будущие сверхразумные системы.
На самом деле, Китай и США уже несколько месяцев контактируют по вопросам безопасности искусственного интеллекта. Уже этим летом обе стороны начали готовить специальный механизм диалога по искусственному интеллекту и обсуждать такие темы, как риски передовых моделей, предотвращение кибератак и будущее сотрудничество в сфере регулирования.
Согласно ранее раскрытой информации, Соединенные Штаты всегда надеялись создать систему связи и раннего предупреждения о кибератаках с использованием ИИ и способствовать тому, чтобы крупные лаборатории ИИ взяли на себя больше ответственности за вопросы безопасности. В то же время Китай также рассматривает сотрудничество в области искусственного интеллекта как важный вопрос в двусторонних отношениях и надеется сохранить каналы диалога в технической сфере.
Инсайдеры отрасли отметили, что в отличие от прошлых переговоров по торговле, тарифам или традиционным областям технологий, в центре внимания этой дискуссии находится возможное появление сверхинтеллектуальных систем в будущем. Так называемый суперинтеллект обычно относится к системе искусственного интеллекта, возможности которой превосходят уровень людей-экспертов во многих областях. Многие исследовательские институты считают это одним из наиболее примечательных направлений технологического развития в ближайшие десять-десятилетия.
Поскольку возможности передовых моделей продолжают улучшаться, страны все больше обеспокоены тем, что соответствующие системы могут быть использованы для запуска сложных кибератак, манипулирования критической инфраструктурой, автоматизации разведывательной деятельности или создания других непредсказуемых последствий для безопасности. Поэтому укрепление механизмов коммуникации рассматривается как важная мера по уменьшению количества ошибочных оценок и улучшению возможностей управления рисками.
Соединенные Штаты заявили, что новый механизм обеспечит выделенный канал для обмена информацией между двумя сторонами и поможет двум странам поддерживать связь перед лицом потенциально серьезных инцидентов с искусственным интеллектом. Аналитики полагают, что эта схема в определенной степени аналогична механизму кризисной коммуникации, созданному в сфере ядерной безопасности в прошлом, за исключением того, что фокус сместился с традиционных военных рисков на новые вызовы, создаваемые искусственным интеллектом.
В то же время это развитие событий также рассматривается как сигнал об ограниченном ослаблении отношений в области искусственного интеллекта между Китаем и Соединенными Штатами. В последние несколько лет конкуренция между двумя сторонами обострилась по таким вопросам, как контроль за экспортом чипов, передовые вычислительные возможности и развитие технологий искусственного интеллекта. Создание на этот раз формального механизма диалога показывает, что обе стороны по-прежнему считают, что общение в определенных областях действительно необходимо.
Однако соответствующие механизмы не означают, что две страны сбавят темп в вопросах технологической конкуренции. В отрасли в целом полагают, что Китай и Соединенные Штаты продолжат ожесточенную конкуренцию в области исследований и разработок в области искусственного интеллекта, передовых чипов, центров обработки данных и вычислительной инфраструктуры в будущем. Но в то же время обе стороны начали понимать, что по мере того, как искусственный интеллект постепенно приближается к порогу критически важных возможностей, в общих интересах установить канал связи с минимальным риском.
Для мировой индустрии искусственного интеллекта эта договоренность имеет определенное символическое значение. Поскольку все больше и больше стран начинают обсуждать, как управлять более мощными системами искусственного интеллекта в будущем, Китай и США, две основные державы в области искусственного интеллекта, впервые создали формальный механизм связи вокруг «сверхинтеллекта», отмечая, что управление безопасностью искусственного интеллекта начинает переходить от теоретических дискуссий к стадии международной координации.
Хотя еще неизвестно, как будет работать будущий механизм, поскольку глобальная конкуренция в области искусственного интеллекта продолжает ускоряться, Китай и Соединенные Штаты послали четкий сигнал: даже если конкуренция будет продолжаться, необходимо поддерживать каналы диалога о рисках сверхинтеллекта.
Комментарии