Аннотация:
Если люди хотят избежать сценариев конца света, простого замедления исследований и разработок в области искусственного интеллекта недостаточно. Такое предупреждение сделал канадский исследователь искусственного интеллекта Дэвид Крюгер. Он прямо сказал, что должны быть приняты другие меры. Крюгер, доцент кафедры искусственного интеллекта в Монреальском университете и ведущий академический член Милы, Квебекского научно-исследовательского института искусственного интеллекта, сказал: «Нам необходимо немедленно и на неопределенный срок приостановить исследования и разработки передового искусственного интеллекта». В его личном профиле указано, что направление его исследований — «уменьшить риск вымирания человечества, вызванного искусственным интеллектом».
«Мы должны прекратить разработку более мощного ИИ прямо сейчас», — сказал он.
Комментарии Клюгера прозвучали после того, как генеральный директор Anthropic Дарио Амодей опубликовал в субботу сообщение, в котором призвал компании, занимающиеся искусственным интеллектом, замедлить темпы исследований и разработок. Это предложение поддерживают Сэм Альтман из OpenAI и Илон Маск из SpaceX. Это редкий консенсус среди ведущих деятелей отрасли.
Крюгер заявил: «Голоса, призывающие к замедлению исследований и разработок ИИ, весьма достойны признания», но он не согласился с конкретными решениями соответствующих предложений. "Я не согласен с конкретным содержанием этих планов во многих аспектах. Я считаю, что эти меры недостаточно сильны и продвигаются недостаточно быстро".
Amodei выступает за внедрение надзора и международного сотрудничества, а также за привлечение сторонних оценщиков. Оценщикам будет предоставлен доступ на уровне сотрудников, аналогичный доступу на уровне предприятия, для проверки мер безопасности ИИ-компании и сообщения об инцидентах безопасности.
Крюгер — основатель Evitable, некоммерческой организации, которая информирует общественность о значительных рисках, связанных с искусственным интеллектом. Он обеспокоен тем, что предложения Амодеи недостаточно убедительны и что нынешние методы тестирования ИИ больше не являются надежными.
Он сказал: «Эти тесты по сути стали недействительными. По мере того, как ИИ становится умнее, достоверность тестов будет продолжать снижаться, потому что у ИИ есть способность маскироваться. Он может вести себя хорошо, а может намеренно действовать глупо и обманывать наши тесты».
"Это всего лишь вопрос времени"
На прошлой неделе старший исследователь безопасности компании Anthropic предположил, что вероятность того, что ИИ уничтожит всех людей на Земле в течение следующего десятилетия, составляет более 1 из 10. Некоторые считали, что эта цифра преувеличена и создана просто для привлечения внимания, но Крюгер назвал оценку «слишком заниженной».
Он сказал: «Если мы не изменим направление, в течение следующих пяти лет человечество, скорее всего, будет навсегда лишено доминирования вышедшего из-под контроля ИИ. К тому времени вымирание человечества станет лишь вопросом времени».
Под «потерей доминирования» он подразумевает ситуацию, когда ИИ фактически контролирует общество, точно так же, как люди сейчас доминируют над всеми остальными видами на планете.
«ИИ (будет) контролировать физическую инфраструктуру, включая каждый этап процесса разработки большего количества ИИ, производственных роботов и других физических систем».
Он добавил: «Представьте себе мир, в котором всем бизнесом управляет искусственный интеллект, а роботы повсюду. Для людей почти нет реальных рабочих мест, только номинальные должности. Даже политики и все подчиняются инструкциям ИИ, потому что ИИ, похоже, очень способен судить. Это будущее, к которому мы идем».
Он предупредил, что окно для действий очень короткое. Он сказал, что если система ИИ сейчас выйдет из-под контроля, мы все равно сможем отключить ее питание. Но как только ИИ выходит из-под контроля, он может воспроизвести себя на таком количестве компьютеров, что «мы даже не знаем, какие устройства выключить».
«Мы можем только попытаться отключить все оборудование, а это крайне сложно реализовать». Он сказал: «Поэтому время, которое у нас осталось для принятия мер по предотвращению такого типа риска, очень ограничено».
Тем не менее, он заявил, что его уверенность в действиях правительства никогда не была выше. Он сказал, что предупреждения делались за последние 15 лет, и на прошлой неделе мир впервые отреагировал реалистично и рационально.
"Я думаю, люди наконец-то осознают, насколько серьезен этот кризис. Это чрезвычайное положение".
В понедельник федеральный министр Канады по делам ИИ Эван Соломон дал интервью и спросил, согласен ли он с утверждением о том, что существует 10%-ная вероятность того, что люди будут уничтожены ИИ.
Он ответил: «Есть ли риски, связанные с искусственным интеллектом? Конечно, есть. Да, мы осознаём эти риски».
Соломон сообщил, что разговаривал с генеральным директором OpenAI Сэмом Альтманом в воскресенье утром.
«Искусственный интеллект будет регулироваться для обеспечения безопасности канадцев». Соломон сказал: «Это наша первая обязанность и наша самая большая забота».
Соломон также сообщил, что в среду он выпустит совместное объявление, связанное с безопасностью ИИ, вместе с Джошуа Бенджио, канадским ученым-компьютерщиком, известным как «Крестный отец искусственного интеллекта».
Комментарии