Аннотация:
Генеральный секретарь ООН Гутерриш предупредил лидеров различных стран в среду по местному времени, что быстро развивающийся искусственный интеллект (ИИ) несет в себе риски, которые нельзя игнорировать, и мир не может вынести риск гонки на дно в области безопасности ИИ. Это заявление расходится с мнением президента США Трампа, который ранее заявил, что существующих мер регулирования достаточно.
В преддверии заседания Генеральной Ассамблеи Организации Объединенных Наций на следующей неделе в Нью-Йорке Гутерриш заявил, что усиление регулирования ИИ станет одним из ключевых вопросов, обсуждавшихся на его переговорах с мировыми лидерами.
На пресс-конференции Гутерреш сказал: «Глядя на угрозы, с которыми мы сталкиваемся во всем мире, я хотел бы сделать несколько дополнительных комментариев по поводу растущей обеспокоенности, вызванной быстрым развитием искусственного интеллекта».
Он добавил: «ИИ обладает огромным потенциалом для ускорения прогресса на пути к устойчивому развитию, улучшения обучения, укрепления систем здравоохранения, повышения устойчивости к изменению климата и многого другого».
Но он также отметил: «Все больше и больше людей, участвующих в разработке ИИ, выпускают предупреждения — они обеспокоены тем, что скорость разработки ИИ превысила наше понимание его потенциальных рисков».
"Мы не можем игнорировать проблемы, поднятые, особенно теми, кто находится на переднем крае развития ИИ. Первой обязанностью любого правительства является защита своих граждан, в том числе защита их от угроз, исходящих от ИИ".
Поскольку обеспокоенность общественности по поводу потенциальных рисков, связанных с ИИ, продолжает расти, появляется все больше и больше соответствующих предупреждений. Исследователь антропологии Джейкоб Коксон заявил на прошлой неделе, что подал в отставку отчасти потому, что «люди, действительно вовлеченные в разработку ИИ, серьезно верят, что эта технология может убить нас всех до конца этого десятилетия». В то же время руководители некоторых крупнейших в мире компаний, занимающихся искусственным интеллектом, также призвали к замедлению развития технологии.
В понедельник Трамп заявил, что Соединенные Штаты ввели соответствующие «охранные» меры для надзора за компаниями, занимающимися искусственным интеллектом, и привлечения их к ответственности. Он также преуменьшил обеспокоенность, ранее высказывавшуюся руководителями отрасли.
Гутерриш уже давно выступает за создание глобального механизма управления искусственным интеллектом. В 2023 году Организация Объединенных Наций учредила консультативный орган высокого уровня по искусственному интеллекту, в состав которого вошли 39 членов, включая руководителей технологических компаний, правительственных чиновников и ученых из США, России, Японии и других стран.
Многие дипломаты заявили, что, когда мировые лидеры соберутся в Нью-Йорке на ежегодное заседание Организации Объединенных Наций на следующей неделе, Совет Безопасности ООН может также провести заседание по вопросам ИИ. Совет Безопасности ООН провел свое первое заседание по вопросам ИИ в 2023 году.
Гутерриш заявил, что страны с самыми сильными техническими возможностями в области искусственного интеллекта «должны создать механизмы связи и обмена информацией, а также разработать некоторые общие меры безопасности, чтобы не впасть в гонку на выживание (то есть участники получают конкурентные преимущества за счет постоянного снижения стандартов), в противном случае эта конкуренция может однажды привести к огромным катастрофам в глобальном масштабе».
Гутерриш заявил: «Нам необходимо выработать общее понимание того, что, обеспечивая безопасное, надежное и ответственное развитие ИИ, мы также должны разъяснить, когда могут потребоваться более строгие меры безопасности или могут потребоваться дополнительные меры для устранения потенциальных рисков, поскольку возможности систем ИИ продолжают расти».
Статьи по теме:
Генеральный секретарь Организации Объединенных Наций предупреждает: скорость развития искусственного интеллекта намного превысила темпы обновления нормативных правил
Комментарии