Аннотация:
Эксперты в области национальной безопасности, научно-технической политики и искусственного интеллекта из США и Китая недавно совместно предложили привлекающее внимание предложение, призывая использовать опыт управления ядерной безопасностью времен холодной войны для создания механизма безопасности, аналогичного тому, который используется в области ядерного оружия, для передовых систем искусственного интеллекта, которые могут появиться в будущем, чтобы снизить риски, вызванные технологической потерей контроля, неверными суждениями и эскалацией международной конкуренции.
Это предположение появляется в результате исследования, сформированного после обсуждений между экспертами из обеих стран. В докладе говорится, что, поскольку возможности искусственного интеллекта продолжают быстро улучшаться, страны начали сталкиваться с некоторыми проблемами, аналогичными тем, что были в раннюю ядерную эпоху, то есть технология с огромным потенциальным воздействием быстро развивается, но соответствующие международные правила, каналы связи и системы контроля рисков еще не полностью установлены.
Эксперты, участвовавшие в исследовании, отметили, что в будущем более мощные системы искусственного интеллекта могут играть все более важную роль в таких областях, как сетевая безопасность, военное командование, анализ разведывательных данных, биотехнологические исследования и управление критической инфраструктурой. Если эти системы ведут себя неожиданно, подвергаются злонамеренному использованию или развертываются неправильно, их влияние может выйти за пределы национальных границ и оказать влияние на глобальную среду безопасности.
С этой целью в докладе рекомендуется, чтобы Китай и США обратились к своему историческому опыту борьбы с ядерными рисками и постепенно создали многоуровневый механизм безопасности. К ним относятся усиление обмена информацией, создание каналов связи в кризисных ситуациях, сотрудничество в оценке технологических рисков, а также изучение режимов тестирования прозрачности и безопасности для современных систем искусственного интеллекта.
Эксперты полагают, что, хотя искусственный интеллект и ядерное оружие — это не одно и то же, оба имеют большое стратегическое значение и связаны с международной конкуренцией и проблемами глобальной безопасности. Поэтому зачастую более эффективно создать защитную систему заранее, когда технология находится на стадии быстрого развития, чем ждать, пока риски полностью проявятся, прежде чем предпринимать действия.
В докладе также особо подчеркивается, что наибольшая опасность в будущем может исходить не от самого искусственного интеллекта, а от ошибочных суждений, вызванных недоверием между странами. Например, когда одна сторона не может точно определить, какие возможности и до какого уровня развивает другая сторона, она с большей вероятностью отреагирует слишком остро, неправильно поймет или даже обострит конкуренцию.
Поэтому некоторые эксперты предложили изучить каналы связи, подобные «механизму горячей линии» во время холодной войны, чтобы позволить странам поддерживать непосредственный контакт, когда происходят крупные события, связанные с искусственным интеллектом, и избегать ненужных кризисов безопасности, вызванных асимметрией информации.
В то же время исследователи считают, что необходимо создать более строгий механизм проверки безопасности для обучения и развертывания самых передовых моделей искусственного интеллекта. В будущем некоторым системам с чрезвычайно высокими возможностями, возможно, потребуется пройти независимое тестирование и постоянный надзор, а также создать систему отчетности об аномальном поведении, чтобы как можно раньше обнаружить потенциальные риски.
В отчете отмечается, что нынешняя глобальная система управления искусственным интеллектом все еще находится на ранней стадии своего развития. Хотя страны ввели разную политику регулирования и отраслевые нормы, на уровне трансграничного сотрудничества все еще существуют очевидные пробелы. Скорость развития технологий искусственного интеллекта ускоряется, а это означает, что окно для международного сотрудничества может отсутствовать в течение длительного времени.
Эксперты, участвовавшие в дискуссии, в целом считали, что Китай и США, как два важнейших игрока в глобальной сфере искусственного интеллекта, несут особую ответственность в управлении рисками. Если обе стороны смогут достичь большего консенсуса по стандартам безопасности, оценке рисков и коммуникации в кризисных ситуациях, это поможет снизить вероятность крупных инцидентов технической безопасности в будущем.
Однако эксперты также признают, что продвигать такое сотрудничество непросто в нынешней международной обстановке. Технологическая конкуренция, соображения национальной безопасности и промышленные интересы – все это будет влиять на соответствующий процесс обсуждения. Поэтому они предпочитают начинать с относительно прагматичных областей, таких как управление рисками и защита безопасности, а не с самого начала стремиться к всеобъемлющим нормативным соглашениям.
Аналитики отмечают, что этот отчет отражает меняющуюся дискуссию об управлении искусственным интеллектом. В прошлом все стороны уделяли больше внимания конфиденциальности, авторскому праву и влиянию на занятость, но теперь все больше и больше экспертов начинают обращать свое внимание на вопросы долгосрочной безопасности и глобальной стратегической стабильности.
Поскольку возможности искусственного интеллекта продолжают совершенствоваться, вопрос о том, как создать эффективный механизм безопасности, сохраняя при этом жизнеспособность инноваций, становится новой темой, с которой сталкивается мировое научно-техническое сообщество и политические круги. Использование опыта управления рисками, накопленного в ядерную эпоху, может стать важным ориентиром для будущей системы управления искусственным интеллектом.
Комментарии