«Крестный отец ИИ» Хинтон: катастрофа ИИ становится всё ближе и ближе, и 10%-ная вероятность уничтожения человечества — это не паникерское заявление

Аннотация:

11 сентября, по сообщению Business Insider, «Крестный отец ИИ» Джеффри Хинтон заявил:

Трудно оценить вероятность того, что ИИ уничтожит всех людей, но эта вероятность не равна нулю.

10 процентов не кажется возмутительной оценкой, но на самом деле никто не знает, как дать разумную оценку».

Хинтон

Ведущая Newsnight Виктория Дербишир выразила удивление, поскольку Хинтон в основном согласилась с суждением Джейкоба Коксона, ведущего исследователя безопасности искусственного интеллекта в Anthropic. Исследователь заявил:

В ближайшие 10 лет ИИ «с вероятностью более 10 % убьет всех людей»

"Ух ты, - сказал Дербишир, - Боже мой!"

Хинтон сказал, что трудно оценить конкретную вероятность, поскольку человеческое общество никогда не видело технологии, которая «скоро может быть умнее нас».

«Было бы глупо говорить, что вероятность составляет всего 1%», — сказал он. «Никто не знает, как это оценить».

Несомненно, сказал нобелевский лауреат, так это то, что окно, в котором может произойти такая катастрофа, сократилось. "Раньше я думал, что этот срок составляет от 30 до 50 лет, а затем его сократили до 10-20 лет", - сказал он. «Я думаю, что это может занять 10 лет или даже меньше. Другие думают, что это намного быстрее».

Что касается того, как это может произойти, Хинтон назвал риски, варьирующиеся от кибератак до разработки смертельных вирусов искусственным интеллектом. Хотя Хинтон не сказал, почему этот срок был значительно сокращен, ведущие компании в области искусственного интеллекта, включая Anthropic и OpenAI, вложили миллиарды долларов в масштабирование своих моделей, а их недавно выпущенные продукты продемонстрировали значительные улучшения по сравнению с моделями, выпущенными всего несколько месяцев назад.

Комментарии Хинтона прозвучали после того, как исследователь Anthropic Коксон объявил о своей отставке накануне долгожданного IPO компании. Коксон, ранее работавший в OpenAI, сказал, что гиганты ИИ «играют нашей жизнью».

«Те, кто занимается разработкой ИИ, искренне верят, что ИИ может убить нас всех до конца этого десятилетия», — написал Коксон на странице

Хинтон сказал, что люди могут встать на путь самоуничтожения или найти способы «справиться с опасностями, исходящими от ИИ», осознавая при этом потенциал ИИ. Он повторил свой призыв к более жесткому глобальному регулированию, отметив, что, хотя страны могут не прийти к согласию по всем вопросам, все они разделяют общее желание защитить выживание человечества.

"Страны одинаково заинтересованы в том, чтобы ИИ не заменил людей. Поэтому в конечном итоге они будут сотрудничать. Вопрос в том, смогут ли они вовремя принять меры?" - сказал он.