На этой неделе была опубликована новая декларация, посвященная «Правам человека в эпоху искусственного интеллекта», которую подписала группа видных деятелей из деловых, религиозных, правительственных и академических кругов с различными политическими позициями, призывая к подходу, ориентированному на человека, поскольку искусственный интеллект быстро развивается. В число подписавшихся входят бывший старший советник администрации Трампа Стив Бэннон, консервативный комментатор Гленн Бек, предприниматель-миллиардер Ричард Брэнсон, а также активист-потребитель Ральф Нейдер, бывший советник администрации Байдена по национальной безопасности Сьюзен Райс и лауреат Нобелевской премии Дарон Аджемоглу.
Документ, получивший название «Декларация в поддержку человеческого искусственного интеллекта», был опубликован в среду и получил поддержку более чем 40 институтов, в которых подчеркивается, что по мере того, как искусственный интеллект становится все более мощным и в некоторых аспектах приближается к «человеческому», важность людей и их ценностей нельзя игнорировать. В преамбуле декларации отмечается, что в настоящее время крупные компании конкурируют за разработку и внедрение систем искусственного интеллекта, а человечество стоит на «развилке дорог»: одна дорога — это «гонка с целью замещения». Человеческие существа заменяются машинами в их ролях творцов, консультантов, опекунов, компаньонов и т. д. и в конечном итоге уступают место алгоритмам на большинстве профессиональных должностей и должностей, связанных с принятием решений, а власть продолжает концентрироваться в руках нескольких ничем не ограниченных институтов и их машин.
Декларация также предлагает «другой, лучший путь» через «надежные и контролируемые инструменты искусственного интеллекта», которые расширяют, а не уменьшают человеческий потенциал, расширяют возможности людей, продвигают человеческое достоинство, защищают индивидуальные свободы, укрепляют семейные и общественные связи, защищают самоуправление и помогают создать беспрецедентное здоровье и процветание. Работа над проектом была предпринята рядом организаций всего политического спектра, включая Конференцию христианских лидеров, Американскую федерацию учителей и Прогрессивных демократов Америки, что отражает широкий политический и социальный охват.
По имеющимся данным, некоммерческая организация «Институт будущего жизни» взяла на себя инициативу по созыву соответствующих сторон и содействию процессу разработки этой декларации. Агентство стремится направлять развитие передовых технологий в направлениях, которые приносят пользу человечеству, избегая при этом крупномасштабных рисков, которые они могут принести. Текст декларации неоднократно дорабатывался в ходе многочисленных офлайн-встреч и был окончательно доработан на более крупной ратификационной встрече, состоявшейся в Новом Орлеане в январе этого года.
Декларация состоит из пяти основных тем, включая «Обеспечение сохранения доминирования человечества» и «Ответственность и подотчетность предприятий, занимающихся искусственным интеллектом». По каждой основной теме также перечислены более подробные предложения, объясняющие концепцию искусственного интеллекта, поддерживающую человека, которую отстаивают подписавшие стороны. Например, в рамках темы «избежания концентрации власти» в декларации предлагались конкретные принципы, такие как «противодействие монополии искусственного интеллекта», «сохранение демократических прав на принятие решений для крупных технологических преобразований» и «разделение процветания», подчеркивая, что контроль над ключевыми технологиями не может быть сосредоточен в руках нескольких технологических гигантов.
Пионер искусственного интеллекта Джошуа Бенджио также входит в число подписавших манифест, что еще раз подчеркивает репрезентативность манифеста в технологическом сообществе. Джо Аллен — старший научный сотрудник Humanity First и бывший технологический редактор подкаста Стива Бэннона «Ситуационная комната» — заявил в интервью, что декларация стала «результатом трудных переговоров между интеллектуалами и активистами, которые годами размышляли об опасностях и негативных последствиях искусственного интеллекта». По его мнению, участники охватили широкую ось: «наверху находятся рациональные технологические оптимисты, а внизу находятся такие люди, как мы, которые немного «антитехнологичны».
Одной из основных инициатив, отстаиваемых в декларации, является соблюдение принципа широкого участия в управлении искусственным интеллектом. Аллен отметил, что, как и свобода слова или сама свобода, «в идеале каждый, включая своих идеологических оппонентов, должен иметь право голоса в том, как реагировать на эту потенциально «античеловеческую» технологию».
В основе декларации лежит «скачковое» улучшение возможностей систем искусственного интеллекта в последние годы. Различные крупные модели за короткий период времени изменили или даже заменили некоторые позиции разработчиков программного обеспечения и постоянно обновляли верхний предел тестов человеческого дизайна в тестах в таких областях, как математика, вызывая широко распространенные проблемы занятости и безопасности. «Технические гиганты соревнуются за создание искусственного интеллекта, который будет умнее человека», — предупредил Брендан Штайнхаузер, директор Альянса за безопасный искусственный интеллект, вашингтонской правозащитной группы, чья миссия состоит в том, чтобы гарантировать, что «люди контролируют искусственный интеллект, а не ИИ контролирует людей». Он подчеркнул, что если мы хотим, чтобы искусственный интеллект действительно принес пользу человечеству, а не только руководителям Кремниевой долины, «мы должны объединиться, чтобы защитить наше будущее».