Аннотация:
Генеральный директор OpenAI Сэм Альтман и генеральный директор Anthropic PBC Дарио Амодей редко появлялись на заседании Совета Безопасности ООН, где они призвали мировых лидеров сотрудничать в области искусственного интеллекта. На конференции основное внимание уделялось опасениям, что ИИ может представлять реальную угрозу человечеству.
В своих выступлениях Альтман и Амодей подчеркнули важность глобального сотрудничества в области стандартов для решения ситуаций, когда возможности самосовершенствования систем искусственного интеллекта могут превзойти человеческий контроль. Оба руководителя заявили, что правительствам следует работать вместе с промышленностью, чтобы принимать ключевые решения о будущем технологий.
Альтман сказал: «Исторически сложилось так, что некоторые страны, которые конкурируют друг с другом и не всегда дружелюбны друг к другу, объединяются ради общих интересов и коллективного благополучия перед лицом мощных новых технологий. Мы считаем, что это именно такой момент».
Заседание Совета Безопасности в среду состоялось на полях Генеральной Ассамблеи Организации Объединенных Наций в Нью-Йорке, где лидеры и ведущие дипломаты обсуждали искусственный интеллект и его опасности.
В своем вступительном слове Генеральный секретарь Организации Объединенных Наций Антониу Гутерриш призвал мировых лидеров координировать свои действия по так называемым передовым моделям искусственного интеллекта и указал на Организацию Объединенных Наций как на платформу для поддержки этих усилий. В своей речи президент США Дональд Трамп отверг призывы к международному соглашению, которое создало бы защитные барьеры для развития искусственного интеллекта.
В своем видеообращении Амодей заявил, что искусственный интеллект, как ожидается, принесет огромную пользу науке и медицине, но может также иметь катастрофические последствия. Отметив, что террористы могут использовать искусственный интеллект для создания смертоносного биологического оружия и что модели искусственного интеллекта могут оказаться слишком мощными и выйти из-под контроля разработчиков, он призвал правительства разработать международные стандарты безопасности.
Амодей сказал: «Хотя у всех нас есть много разногласий, мы должны отбросить их и работать вместе, чтобы противостоять глобальным возможностям и глобальным угрозам, стоящим перед нами. Ни один лидер, ни одна компания, ни одна страна не может справиться с этой проблемой в одиночку».
В своем выступлении на заседании Совета безопасности Альтман пытался найти компромисс по вопросу о том, следует ли тормозить развитие технологий искусственного интеллекта. Он считает, что существует «прагматический путь» между теми, кто предупреждает о катастрофических последствиях искусственного интеллекта, и теми, кто преуменьшает потенциальные риски. Он также присоединился к Amodei, подчеркнув необходимость механизмов быстрого реагирования на инциденты.
«Для всех нас было бы хорошо, если бы мы смогли достичь глобального консенсуса по поводу эффективных доказательств, эффективных мер защиты и эффективного надзора», — сказал Альтман. «Мы не знаем всего, и мы открыты для любых лучших предложений. Мы готовы работать со всеми, чтобы сделать все возможное, чтобы найти путь вперед».
Комментарии