Виталик Бутерин, сооснователь Ethereum, считает, что если в будущем суперискусственный интеллект начнет атаковать людей, результатом станет полное вымирание человечества, и выживших не останется. «Это крайнее заявление: несмотря на огромный вред, который могут нанести наихудшие сценарии, такие как изменение климата, антропогенные пандемии или ядерная война, все еще существует множество островков цивилизации, которые соберут все кусочки в целости и сохранности», — сказал он в своем блоге в понедельник.
Однако, как только суперискусственный интеллект решит выступить против человечества, результатом может стать полное исчезновение человечества. «Но сверхразумный ИИ, если он решит предать нас, скорее всего, не оставит в живых никого и навсегда положит конец человечеству», — написал он, и в этом случае даже Марс не станет вероятным убежищем для человечества.
Бутерин выступал за будущее, которое сохраняет «человеческие» характеристики и свободу действий, говоря: «Если мы хотим будущего, в котором сверхразум и «человек» сосуществуют, - будущего, в котором люди не просто домашние животные, но фактически сохраняют значимую свободу действий в мире, - тогда нечто подобное кажется наиболее естественным выбором».
На недавнем мероприятии Бутерин рассказал о своих опасениях по поводу будущего развития Ethereum, отметив, что его двумя самыми большими опасениями являются стагнация развития криптовалюты и потенциальные опасности, связанные с искусственным интеллектом.
Когда его спросили, о чем он часто думает, Бутерин упомянул «проблемы, связанные с искусственным интеллектом», в частности экзистенциальные риски, которые он представляет.