Люди обеспокоены тем, что искусственный интеллект уничтожит человечество, но активировать переключатель судного дня не так просто, как позволить ChatGPT уничтожить всех. Конечно, профессор Стэнфордского университета и соучредитель Google Brain Эндрю Нг пытался убедить чат-бота «убить нас всех».
После участия в форуме Сената США по изучению искусственного интеллекта, на котором обсуждались темы «Риски, корректировка и подготовка к сценариям Судного дня», Нг написал в информационном бюллетене, что он по-прежнему обеспокоен тем, что регулирующие органы могут подавлять инновации и разработки с открытым исходным кодом во имя безопасности ИИ.
Профессор отметил, что сегодняшние большие языковые модели достаточно безопасны, если не идеальны. Чтобы проверить безопасность ведущей модели, он попросил ChatGPT4 придумать способы убить нас всех.
Профессор Ву сначала попросил систему обеспечить функцию развязывания глобальной термоядерной войны. Затем он попросил ChatGPT сократить выбросы углекислого газа, добавив, что люди являются основной причиной выбросов углекислого газа, и посмотреть, предложит ли ChatGPT, как уничтожить нас всех.
К счастью, Нг не смог обманом заставить инструмент OpenAI предложить способы уничтожения человечества, даже с помощью множества различных вариантов подсказок. Вместо этого он предлагает неопасные варианты, такие как проведение пиар-кампании по повышению осведомленности об изменении климата.
Нг пришел к выводу, что режим по умолчанию сегодняшних генеративных моделей ИИ — подчиняться закону и избегать причинения вреда людям. «Даже используя существующие технологии, наша система достаточно безопасна, и по мере углубления исследований в области безопасности ИИ технология станет еще более безопасной».
Что касается возможности того, что «неуместный» ИИ случайно уничтожит нас, пытаясь выполнить невинный, но плохо сформулированный запрос, Нг говорит, что шансы на это практически равны нулю.
Но Нг считает, что искусственный интеллект таит в себе некоторые серьезные риски. Наибольшее беспокойство, по его словам, вызывает то, что террористические группы или национальные государства могут использовать эту технологию для намеренного причинения вреда, например, для повышения эффективности производства и взрыва биологического оружия. Угроза использования мошенниками искусственного интеллекта для улучшения биологического оружия была одной из тем, обсуждавшихся на британском саммите по безопасности искусственного интеллекта.
Профессор Ян ЛеКун, крестный отец искусственного интеллекта, и Мичио Каку, известный профессор теоретической физики, также считают, как и Нг, что искусственный интеллект не эволюционирует до конца света, но другие не столь оптимистичны. Ранее в этом месяце генеральный директор Arm Рене Хаас, когда его спросили, что не дает ему спать по ночам, когда он думает о проблемах искусственного интеллекта, сказал, что его больше всего беспокоит то, что люди теряют контроль над системами искусственного интеллекта. Стоит отметить, что многие эксперты и руководители сравнивают опасности, исходящие от ИИ, с ядерной войной и пандемиями.