Китай и США планируют создать механизм отчетности об инцидентах с искусственным интеллектом высокого риска, чтобы предотвратить серьезные угрозы национальной безопасности.

Аннотация:

Хотя Соединенные Штаты и Китай имеют стратегическую конкуренцию во многих областях, согласно сообщениям технологических СМИ, Соединенные Штаты стремятся создать механизм уведомлений о безопасности с Китаем, чтобы выдавать друг другу ранние предупреждения в случае опасных инцидентов с искусственным интеллектом, которые могут представлять серьезную угрозу национальной безопасности.

Эта идея была предложена совместно Атлантическим советом и Security Exploration International. Основная цель этого механизма — обеспечить, чтобы две страны могли своевременно связаться друг с другом, прежде чем серьезные инциденты в сфере безопасности искусственного интеллекта перерастут в геополитические кризисы или военные конфликты, путем создания специальных каналов раннего предупреждения. В докладе отмечается, что из-за быстрого развития технологий искусственного интеллекта автоматизированные системы с большой вероятностью могут вызвать неожиданные и серьезные последствия без прямого контроля человека, поэтому создание таких коммуникационных мостов имеет решающее значение.

Согласно предложению, механизм уведомления фокусируется на четырех основных категориях сценариев высокого риска:

Во-первых, автономная система искусственного интеллекта теряет контроль и наносит серьезный реальный ущерб;

Во-вторых, несчастные случаи с искусственным интеллектом, связанные с оружием массового поражения, таким как ядерное, химическое или биологическое оружие;

В-третьих, случайная утечка моделей искусственного интеллекта высокого риска или связанных с ними основных технологий;

В-четвертых, крупномасштабные сетевые атаки ИИ нацелены на критическую инфраструктуру и наносят сокрушительные удары.

Экспертный анализ показал, что идея создания этого механизма очень похожа на «красную линию» прямого телефонного разговора, установленную США и СССР во времена «холодной войны» для предотвращения возникновения ядерной войны. Хотя технологические компании и исследовательские институты в Китае и США уже провели предварительный диалог по стандартам безопасности ИИ и управлению рисками, если это сотрудничество можно будет официально поднять до механизма безопасности на правительственном уровне, это, несомненно, значительно снизит риск крупных международных кризисов, вызванных техническими ошибками, и обеспечит важную поддержку глобальному управлению ИИ.