Десять лауреатов Нобелевской премии и два бывших главы государств недавно совместно призвали все страны установить «красные линии» для развития искусственного интеллекта (ИИ) к концу 2026 года, чтобы способствовать управлению рисками и контролю на международном уровне. Заявление было совместно опубликовано более чем 200 подписантами, включая старших сотрудников OpenAI, Google DeepMind и Anthropic.
В заявлении подчеркивается, что такие проблемы, как инженерные пандемии и риски безработицы, которые могут быть вызваны ИИ, привлекли широкое внимание во всем мире, и многие эксперты предупреждают, что в ближайшие несколько лет может быть сложно реализовать эффективный человеческий контроль над системами ИИ.
Этот призыв совпадает с созывом Генеральной Ассамблеи Организации Объединенных Наций и имеет большое значение для содействия глобальному консенсусу. Однако из-за противодействия США ожидается, что в краткосрочной перспективе будет сложно продвигать конкретные меры управления. В число подписавшихся входят Хинтон, Бенджио, «экономист» Стиглиц, известный ученый в области искусственного интеллекта, бывший президент Колумбии Сантос, бывший президент Ирландии Мэри Робинсон, бывший премьер-министр Италии Летта, а также многие бывшие министры правительства, ученые и дипломаты. Стоит отметить, что в списке также есть актер Стивен Фрай. В подписании также приняли участие соучредитель OpenAI Войцех Заремба, главный научный сотрудник DeepMind Ян Гудфеллоу и другие руководители технологических компаний, но ни один генеральный директор трех компаний не присоединился к соглашению.
В заявлении отмечается, что некоторые передовые системы искусственного интеллекта демонстрируют обманчивое и вредное поведение, но эти системы получают больше автономии и способны действовать и принимать решения в реальном мире. Поэтому заключение четко определенных и поддающихся проверке международных соглашений о «красных линиях» стало необходимой мерой предотвращения неприемлемых рисков. Подписавшие стороны надеются, что эти красные линии будут реализованы к концу 2026 года и будут сопровождаться механизмом обеспечения соблюдения.
Хотя в заявлении не были конкретно перечислены красные линии для управления ИИ, в другом документе, опубликованном в прошлом году, рекомендовалось запретить ИИ автономно воспроизводиться, стремиться к власти, автоматически запускать кибератаки и «поводить мешки с песком». Это предложение также поддерживают многие китайские ученые, такие как Чжан Яцинь, бывший президент Baidu, и Хуан Тецзюнь, председатель Пекинского общества искусственного интеллекта.
Кроме того, Организация Объединенных Наций недавно объявила, что создаст Международный научно-консультативный комитет по ИИ (аналог Межправительственной группы экспертов по изменению климата МГЭИК) и механизм глобального диалога по управлению ИИ, что сделает важный шаг на пути к глобальному управлению ИИ. Однако из-за негативного отношения правительства США продвижение соответствующих действий по-прежнему сталкивается с сопротивлением. Согласно «Плану действий США в области ИИ», опубликованному администрацией Трампа в июле этого года, хотя Соединенные Штаты и выражают поддержку сотрудничеству со странами-единомышленниками в разработке ИИ, они явно выступают против «чрезмерного регулирования», расплывчатых правил поведения, основанных на культурных программах, и планов управления, в которых участвуют китайские компании. Ранее в этом месяце сенатор США Тед Круз заявил, что одним из «столпов» принятия Конгрессом мер по регулированию ИИ является «борьба с чрезмерным иностранным регулированием».
Тем не менее, заявление показывает, что глобальная обеспокоенность потенциалом и рисками ИИ продолжает расти. Короси, бывший президент Генеральной Ассамблеи Организации Объединенных Наций, отметил в своих комментариях: «Человечество никогда в истории не сталкивалось с более высоким разумом, чем оно само, и в ближайшие несколько лет человечество столкнется с таким вызовом».