Аннотация:
Соучредитель Microsoft Билл Гейтс предупредил, что возможности искусственного интеллекта (ИИ) уже «достаточно мощны», чтобы стать причиной значительной части человеческих смертей. Таким образом, он присоединяется к растущему числу лидеров и практиков технологической отрасли, обращающих внимание на экзистенциальные риски, которые может принести ИИ.
"ИИ, безусловно, достаточно силен, чтобы управлять событиями, которые приводят к гибели, скажем, миллиарда человек", - сказал Гейтс в отрывке из интервью, которое выйдет в эфир на этих выходных. «В истории еще не было такого мощного оружия, как новейшие инструменты искусственного интеллекта, используемые людьми со злыми намерениями».
Поскольку технологии искусственного интеллекта быстро развиваются, в Кремниевой долине становится все больше предупреждений о их потенциально катастрофических последствиях. Сотрудник Anthropic PBC Джейкоб Коксон ушел в отставку в начале этого месяца и обвинил двух своих бывших работодателей, Anthropic и OpenAI, в том, что они «играют своей жизнью», «стремясь к сверхразумному искусственному интеллекту». Другой сотрудник Anthropic заявил, что, по его мнению, вероятность того, что ИИ станет причиной вымирания всего человечества в ближайшие 10 лет, составляет более 10%.
Гейтс заявил в интервью, что одного лишь саморегулирования отрасли недостаточно. Он сказал: "Правоохранительным органам и политикам необходимо участвовать в дискуссиях, чтобы прояснить, какие меры защиты и мониторинга следует принять, и эти меры должны быть обязательными".
Ранее Гейтс отмечал в статье, опубликованной в августе, что преступники могут использовать все более мощные инструменты искусственного интеллекта для запуска кибератак, мошенничества, распространения ложной информации и нанесения других форм крупномасштабного ущерба больницам, финансовым учреждениям, электросетям и государственным системам.
Комментарии