Эксперт по искусственному интеллекту Стюарт Рассел предупредил в недавней программе:Человечество может стать «следующей гориллой», разработав сверхразумный искусственный интеллект.Его «проблема горилл» указывает на то, что когда вид сталкивается с существами, более разумными, чем он сам, его судьба больше не находится в его собственных руках – точно так же, как человеческая деятельность лишает горилл возможности выжить.Если искусственный интеллект разовьется до стадии, более умной, чем у человека, люди также могут оказаться в столь же пассивной ситуации.
Рассел подчеркнул, что реальный риск заключается не в том, обладает ли искусственный интеллект сознанием, а в том, сможет ли он более эффективно достигать своих целей — в этом и состоит суть интеллекта.
Даже если мы признаем этот потенциальный кризис, людям все равно трудно остановить соответствующие исследования и разработки, потому что искушение, создаваемое общим искусственным интеллектом (AGI), слишком велико.
Стюарт Рассел в настоящее время является профессором кафедры компьютерных наук Калифорнийского университета в Беркли, где он является директором Центра искусственного интеллекта, совместимого с человеком. Он опубликовал более 300 научных работ в области искусственного интеллекта по широкому кругу тем исследований. Его уже давно беспокоит связь между развитием ИИ и будущим человечества.
