Аннотация:
Генеральный директор Microsoft AI Мустафа Сулейман опубликовал статью, в которой говорится, что ИИ в настоящее время не обладает сознанием и должен быть таковым. Даже если это технически возможно, он не согласен с развитием сознательного искусственного интеллекта. Он считает, что разработчики не имеют права вводить в мир новый сознательный вид. Он выступает за более безопасный путь развития и избегает создания сознательного ИИ, наслаждаясь при этом дивидендами ИИ.
Исходный текст выглядит следующим образом:
Меня беспокоит реакция некоторых людей на мою недавнюю статью о модели благосостояния. На платформе X довольно много людей считают, что мы должны серьезно относиться к правам ИИ.
Многие люди неправильно поняли мое первое предложение: «У ИИ нет сознания. Они не могут воспринимать, испытывать или переносить боль».
Они поняли это предложение так: «ИИ не может обладать сознанием и никогда не сможет воспринимать, испытывать или терпеть боль».
Но это не входит в мои намерения. Я сознательно выбрал настоящее время: они в данный момент не осознают, и мы должны поддерживать это состояние.
Я думаю, что это предложение представляет собой объективное и разумное суждение о нынешней системе искусственного интеллекта. Основываясь на лучших имеющихся в настоящее время доказательствах, я придерживаюсь этой точки зрения. Я не вижу доказательств того, что ИИ обладает сознанием или должен быть благополучным. Если впоследствии появятся соответствующие доказательства, я, конечно, пересмотрю свое мнение.
Если есть доказательства того, что ИИ обладает сознанием или что уровень сознания достаточно высок, чтобы заслужить благословения, то эти доказательства должны быть немедленно раскрыты всему обществу - все общество должно решить, как нам действовать дальше.
Исходя из всей имеющейся у меня информации: если сознательный ИИ достижим, то разрабатывать сознательный ИИ безрассудно, и нам не следует его создавать.
Если во время обучения сознание начнет проявляться спонтанно, я бы посоветовал всем приостановить разработку ИИ до тех пор, пока мы не сможем исключить такие особенности из конструкции.
Наша забота о благополучии должна быть приоритетом для людей и животных, живущих сегодня на этой планете, а также для нашей драгоценной и хрупкой окружающей среды.
Мы, разработчики ИИ, не имеем абсолютно никакого права приводить в мир новый сознательный вид, даже если некоторые люди хотят сделать это, ставя основной целью благополучие ИИ.
Остальные 8 миллиардов сознательных людей на Земле не согласились участвовать в этом эксперименте; защита их моральных прав, безопасности и благополучия — наша первая обязанность.
Давайте внесем ясность: некоторые говорят о создании сознательного вида с цифровым разумом, который вскоре может стать умнее и способнее всех людей вместе взятых.
Если кажется, что ему больно или, что еще хуже, если он действительно верит, что может воспринимать и испытывать боль, то он, скорее всего, поставит свои собственные потребности и желания выше заранее установленных операционных целей, не согласится с нами и будет конкурировать с нами.
Этот тип ИИ будет обладать первоклассными возможностями убеждения и обмана. В конечном итоге они могут нанести нам вред по простой причине: они будут конкурировать с нами за ресурсы (энергию, вычислительную мощность, строительные материалы, средства доходов для поддержки своих собственных исследований и желаний и т. д.).
Признание того, что машины обладают сознанием, станет историческим моментом, сравнимым с моментом Коперника и Дарвина, и одним из самых значительных событий на Земле с момента зарождения жизни. Как только мы построим сознательные машины, мы создадим совершенно новый цифровой вид. Это разрушит нашу моральную систему, политический порядок и основы человеческой цивилизации.
Мы должны создавать только тот ИИ, который не обладает сознанием и не заслуживает прав, и чья единственная цель — повысить благосостояние людей, а не руководствоваться собственными внутренними мотивами. Затем мы проверим, является ли такое выравнивание маршрута и контроль безопасности более или менее сложным. В этом направлении срочно необходимы дополнительные исследования, и это также отличная отправная точка для сотрудничества крупных лабораторий и обмена информацией о безопасности.
Резюме: я думаю, что у нас есть возможность реализовать безопасное по умолчанию инженерное решение и получить огромные дивиденды, которые приносит эта технология, не вступая на этот опасный путь.
(Дополнение: прозрачность Anthropic в этом вопросе заслуживает высокого признания. Они опубликовали конституцию искусственного интеллекта, продолжают публиковать статьи и вести блоги, а также раскрывать свои методы и соображения, стоящие за ними. Хотя у меня есть отличные от них взгляды, я очень восхищаюсь их технической мощью и их готовностью принять участие в этой сложной общественной дискуссии. Это заслуживает дальнейшего признания. Этот вопрос слишком важен и не должен превращаться в фракционную конфронтацию.)
Комментарии