Крестный отец искусственного интеллекта Хинтон: в этом или следующем году в сфере искусственного интеллекта могут произойти аварии чернобыльского уровня

Аннотация:

Джеффри Хинтон, известный как «Крестный отец искусственного интеллекта» и лауреат Нобелевской премии, сделал серьезное предупреждение в интервью Guardian.

Он считает, что в этом или следующем году в сфере искусственного интеллекта может произойти крупная авария масштаба Чернобыля

Хинтон сравнил вторжение агента OpenAI этим летом на платформу Hugging Face с аварией на Три-Майл-Айленде в истории ядерной безопасности. Это был опасный сигнал раннего предупреждения, но это не была настоящая катастрофа.

Так называемый «Чернобыль» в мире ИИ заключается не в том, что ИИ самостоятельно восстает и уничтожает человечество в научно-фантастических фильмах, а в том, что ИИ используется хакерами для проведения кибератак на критически важную инфраструктуру. Самый типичный сценарий — вызвать масштабное и долговременное отключение электроэнергии или парализовать мировую финансовую систему на неделю, что напрямую повлияет на порядок жизнедеятельности людей

В интервью Хинтон прямо заявил, что не испытывает оптимизма в отношении отношения к риску руководства ведущих ИИ-компаний, и раскритиковал Альтмана из OpenAI, Цукерберга из Meta, Маска и других.

Хинтон сказал, что они осознавали огромные скрытые опасности, стоящие за ИИ, но перед лицом деловой конкуренции и интересов не уделяли должного внимания. Каждая компания сосредоточилась только на борьбе за возможности модели и захвате рынка.

Следует отметить, что Хинтон не против ИИ.

Он считает, что ИИ — это палка о двух концах. Он признает, что оно имеет огромную положительную ценность и может принести человечеству светлое будущее. Однако, как только происходит крупная авария, люди могут пожалеть, что им вообще не следовало изобретать эту технологию

По его мнению, следующие десять лет станут критическим периодом для человечества. Человечество в конечном итоге проверит, сможет ли оно контролировать риски, связанные с ИИ.

Как же предотвратить риски? Решение, предложенное Хинтоном, также очень ясно:

Для передовых крупных моделей необходимо проводить обязательное тестирование безопасности и независимую оценку третьей стороны, чтобы способствовать установлению единых стандартов безопасности ИИ во всех странах и использовать нормативные ограничения для разгула.