Аннотация:
Пол Криштиану, известный исследователь безопасности искусственного интеллекта и член совета директоров OpenAI Holdings, предупредил о перспективах развития искусственного интеллекта в интервью популярному технологическому подкасту. Он сказал, что вероятность того, что люди полностью потеряют контроль над ИИ в будущем, быстро растет.

Этот подкаст выходит в эфир по понедельникам, его ведет Девакш Патель. "Существует реальная вероятность того, что в ближайшие шесть месяцев может произойти катастрофа, которая приведет к гибели большого количества людей или свержению правительства", - сказал Криштиану в шоу. У подкаста обычно миллионы слушателей, в том числе множество людей из технологической индустрии.
Криштиану сказал, что произойдут ли вышеуказанные события, зависит от скорости итерации технологии искусственного интеллекта. Он также предположил, что благодаря технологии рекурсивного самосовершенствования модели ИИ могут самообновляться, и вероятность развития до опасной критической точки в течение следующего года «довольно высока».
По сравнению с прошлыми публичными выступлениями Криштиану, это заявление представляет собой дальнейшую эскалацию предупреждения. Он также возглавляет Центр исследований выравнивания, некоммерческую организацию, базирующуюся в Беркли, которая занимается исследованиями выравнивания ИИ. Будучи старшим научным сотрудником, давно предупреждавшим о рисках безопасности ИИ, в сентябре он вошел в совет директоров OpenAI Foundation, контролирующего компанию. Криштиану подчеркнул в интервью, что его речь отражает лишь его личную позицию и не отражает точку зрения совета директоров OpenAI.
Когда Криштиану впервые вошел в совет директоров, он опубликовал публичную статью, в которой оценил, что риск катастрофических событий, вызванных потерей людьми контроля над ИИ в следующем году, составляет около 4%.
В интервью в понедельник он сказал, что возможности моделей быстро улучшились за последние несколько месяцев, и теперь он оценивает, что риск того, что ИИ захватит человечество в следующем году, «ближе к 10%, а не к 1%». Он сказал, что если крупные компании не примут дополнительных защитных мер для смягчения рисков, вызванных разработкой ИИ, оценка риска будет «значительно выше».
Комментарии