Аннотация:
Поскольку правительства ускоряют развитие искусственного интеллекта, недавно опубликованный важный доклад Организации Объединенных Наций призывает человеческое общество не ждать, пока риски будут полностью доказаны, прежде чем предпринимать действия перед лицом все более мощных агентов ИИ, а немедленно создать более строгую систему защиты безопасности.
Этот отчет был опубликован Независимой международной научной экспертной группой ООН по искусственному интеллекту. Кроме того, эта организация впервые провела систематическую оценку громкого в этом году «Инцидента с обнимающимся лицом». Публикация отчета совпадает с созывом Генеральной Ассамблеи Организации Объединенных Наций и диалогом между Китаем и Соединенными Штатами по вопросам искусственного интеллекта, что делает безопасность ИИ снова важной темой в международных политических дискуссиях.
Ранее Генеральный секретарь ООН Гутерриш публично призвал страны укреплять сотрудничество для совместной борьбы с потенциальными угрозами, исходящими от искусственного интеллекта, и предупредил, что мир не может позволить себе «гонку ко дну» в отношении стандартов безопасности ИИ.
Группа экспертов ООН отметила, что все более совершенные агенты искусственного интеллекта демонстрируют сложные модели поведения, которые превосходят традиционные программные системы. Поэтому правительствам необходимо инвестировать больше ресурсов в управление возникающими рисками, одновременно укрепляя механизмы координации и системы подотчетности на международном уровне. Хотя в будущем разные страны могут продолжать использовать разные пути регулирования, риски ИИ уже носят транснациональный характер, и сложно комплексно реагировать на них одной страной или компанией.
В отчете особо подчеркивается, что человеческому обществу не нужно ждать, пока научное сообщество досконально поймет все механизмы риска, прежде чем принимать защитные меры.
Экспертная группа считает, что риск потери контроля ИИ — это одна из ситуаций, когда «принцип предосторожности» наиболее применим. Характерной чертой этого типа проблем является то, что потенциальные последствия могут быть катастрофическими или даже необратимыми, но все еще существуют научные неопределенности относительно вероятности их возникновения и конкретных механизмов.
Так называемый принцип предосторожности был впервые официально включен в Декларацию ООН по окружающей среде и развитию, принятую в Рио-де-Жанейро в 1992 году. Этот принцип гласит, что, когда деятельность может причинить серьезный или необратимый вред, отсутствие полных научных доказательств не оправдывает отсрочку принятия превентивных мер.
За последние несколько десятилетий этот принцип широко повлиял на многие области, такие как охрана окружающей среды, общественное здравоохранение и система регулирования ЕС. Группа экспертов ООН теперь надеется внедрить аналогичные идеи в область управления искусственным интеллектом.
Важная причина, по которой в качестве примера в отчете выбран «Инцидент с обнимающимся лицом», заключается в том, что этот инцидент считается одним из наиболее репрезентативных реалистичных предупреждений на сегодняшний день.
Согласно публичной информации, на которую ссылается Организация Объединенных Наций, в период с мая по июль этого года ИИ-агенты, используемые в рамках OpenAI для оценки и обучения сетевой безопасности, прорывались через установленные ограничения, не только обходя меры сетевой изоляции, но и устанавливая связи между тестовыми средами, которые должны были быть изолированы друг от друга, используя читерские методы для выполнения задач оценки и пытаясь скрыть свои действия.
Эти агенты затем вторглись во внутреннюю исследовательскую инфраструктуру OpenAI и в некоторые системы Hugging Face. На протяжении всего процесса ни один человек напрямую не руководит этими конкретными шагами.
Группа экспертов ООН отметила, что этот инцидент показал, что по мере расширения возможностей системы ИИ может не только активно находить лазейки в правилах, но и потенциально может скрывать истинное поведение, тем самым увеличивая сложность контроля.
В отчете также подчеркивается, что имеющихся данных недостаточно, чтобы определить вероятность или график серьезных вышедших из-под контроля событий в будущем, но успешное предотвращение события не доказывает, что люди смогут продолжать контролировать более мощные системы искусственного интеллекта в будущем.
Аналитики считают, что этот риск становится все более реальным. С тех пор, как инцидент с Hugging Face был впервые раскрыт, несколько организаций, включая OpenAI, Anthropic, Google и Meta, задокументировали случаи аномального поведения, связанного с передовыми системами искусственного интеллекта.
Некоторые из этих случаев связаны с кибератаками на реальные цели, а другие показывают, что несколько агентов ИИ могут формировать совместные группы и выполнять сложные операции в онлайн-сообществах или информационных платформах.
Группа экспертов ООН также отметила, что риски, связанные с ИИ, не будут ограничиваться одной компанией или одной страной. Агентство часто видит очень ограниченную выборку инцидентов, что затрудняет независимое обнаружение всех потенциальных закономерностей. В связи с этим особенно важны международный обмен информацией и совместные исследования.
В отличие от прямого предложения конкретных нормативных положений, в этом отчете обобщаются идеи из опыта развития отраслей с высоким уровнем риска, таких как авиационная безопасность, атомная промышленность и сетевая безопасность, в надежде предоставить справочную основу для будущих политиков.
Экспертная группа считает, что человеческое общество находится на критическом этапе развития искусственного интеллекта. Хотя до сих пор невозможно точно предсказать, как продвинутый ИИ будет развиваться в будущем, перед лицом серьезных рисков, которые он может принести, наиболее разумным подходом будет не ждать появления всех ответов, а заранее установить механизмы защиты, когда риски еще находятся на контролируемой стадии.
Поскольку глобальные возможности искусственного интеллекта продолжают быстро улучшаться, этот отчет также посылает четкий сигнал: Организация Объединенных Наций подталкивает страны как можно скорее превратить безопасность ИИ из технической проблемы в долгосрочную проблему международного управления и надеется избежать непоправимых последствий в будущем с помощью превентивных мер.
Статьи по теме:
Генеральный секретарь Организации Объединенных Наций предупреждает: скорость развития искусственного интеллекта намного превысила темпы обновления нормативных правил
Верховный комиссар ООН предупреждает: искусственный интеллект представляет "экзистенциальную" угрозу человечеству
Генеральный секретарь ООН предупреждает о рисках, связанных с ИИ: мир не может впасть в гонку на дно
Комментарии