Аннотация:
Тяжеловесы индустрии искусственного интеллекта (ИИ) собрались в Шотландии, где король призвал их не потерять контроль над технологией. Король Карл III созвал саммит с участием лидеров технологической отрасли и других влиятельных фигур, чтобы сосредоточить внимание на растущих рисках, связанных с ИИ. На этой неделе эта тема стала глобальным центром внимания. Руководители на встрече публично не заявили о каких-либо изменениях, но некоторые напрямую отреагировали на проблемы безопасности.
«Те из нас, кто разрабатывает ИИ, должны тщательно тестировать системы», — кратко заявил генеральный директор Nvidia Дженсен Хуанг на королевском мероприятии в четверг. «Если продукт недостаточно безопасен, нам следует отложить его выпуск».
На шотландском саммите вместе с Джен-Сюнем Хуангом также присутствовали Сара Фрайар, финансовый директор OpenAI, и Демис Хассабис, соучредитель Google DeepMind. Тино Куэльяр, директор по связям с общественностью Anthropic PBC, также принял участие в форуме искусственного интеллекта, проходившем в поместье Дамфрис. Среди других участников были руководители технологических компаний, некоммерческих организаций и образовательных учреждений, в том числе Университета Цинхуа.
«Те из нас в этом мире, кто ценит человечество и его жизненные моральные ценности, с нетерпением ждут ваших заверений – заверений в том, что мы не потеряем контроль над своей судьбой», – сказал Карл III в своей вступительной речи. В заявлении Букингемского дворца говорится, что мероприятие было направлено на обсуждение того, как технология может быть использована на благо общества и мира природы.
Британский король Карл III (слева), Google DeepMind (в центре) и генеральный директор Nvidia Дженсен Хуанг в поместье Дамфрис в Камноке, Шотландия, 17 сентября.
Этот саммит проводится в правильное время. Генеральный директор Anthropic Дарио Амодей на прошлых выходных опубликовал статью, призывающую замедлить разработку передовых моделей, что спровоцировало глобальную дискуссию о растущих рисках ИИ.
«В последнее время было много жарких споров вокруг катастрофических рисков этой технологии», — сказал Хассабис на саммите. Британский ученый недавно ушел с поста руководителя подразделения искусственного интеллекта Google. Он сказал, что у него есть два основных опасения по поводу мощного ИИ: во-первых, автономная система вышла из-под контроля, а во-вторых, «злонамеренные субъекты» используют ИИ, чтобы творить зло. Однако он считает, что отрасль может решить эти проблемы. «Я полностью верю в человеческую изобретательность», — сказал он.
Карл III поднял на саммите два ключевых вопроса: «Во-первых, как нам в полной мере использовать преимущества ИИ, обеспечивая при этом безопасность? Во-вторых, как нам наладить международное сотрудничество и консенсус для достижения этой цели, гарантируя, что ни одна страна не останется позади, и защитив будущее человечества?»
Согласно расписанию, распространенному на мероприятии, во время саммита Карл III также провел переговоры за закрытыми дверями с Хуан Жень-Сюнем, Хассабисом, Куэльяром, Монахом и пятью другими гостями.
Комментарии