«Крестный отец» ИИ Джеффри Хинтон: Возможно, было бы лучше, если бы люди никогда не разрабатывали ИИ

📅 2026-11-16

Аннотация:

Джеффри Хинтон, известный как один из «крестных отцов искусственного интеллекта», сказал, что в конечном итоге можно будет доказать, что ситуация могла бы быть лучше, если бы люди никогда не разрабатывали эту технологию. Он предупредил, что ИИ может стать причиной крупной аварии в этом или следующем году, например, временного паралича финансовой системы и энергосистемы.


Лауреат Нобелевской премии по информатике заявил в интервью британским СМИ, что он не является теоретиком конца света в области искусственного интеллекта. Его новаторские исследования в области искусственных нейронных сетей заложили основу для этой технологии. Он считает, что у ИИ есть возможность обеспечить «прекрасное будущее», но он также сказал: «Возможно, нам было бы лучше вообще не развивать ИИ».

78-летний Хинтон заявил, что через десять лет, а может быть, даже раньше, человечество узнает, сможем ли мы управлять рисками ИИ и достичь того, что он называет «чрезвычайным богатством»; или «мы не смогли контролировать риски, резко увеличился разрыв между богатыми и бедными, возникло множество культурных противоречий, возникла масштабная безработица, и все общество разорвано на части».

Хинтон дал интервью перед показом нового полнометражного документального фильма под названием «ИИ: возможно, не о чем беспокоиться». Название было выбрано чат-ботом с искусственным интеллектом, которого Хинтон и его бывшие коллеги разместили на

Google

коллега Демис Хассабис появился вместе. Хинтон сказала съемочной группе: «Я чувствую ответственность. У меня есть определенная репутация, которая делает меня представителем, и я хочу посвятить всю эту репутацию этому вопросу».

В интервью британским СМИ Хинтон раскритиковал рискованное поведение некоторых ведущих руководителей компаний, занимающихся искусственным интеллектом: чтобы конкурировать за доминирование в отрасли и долю рынка, компании продолжают выпускать все более мощные модели искусственного интеллекта. Он заявил, что вообще не доверяет генеральному директору OpenAI Сэму Альтману. «Я думаю, Цукерберг, Маск и Альтман знают о рисках, но их это не волнует. Они хотят в первую очередь заработать деньги, это мое мнение».

Хинтон активно работает в области искусственного интеллекта уже около 44 лет. В 1970-е годы он предложил концепцию нейронных сетей — математической системы, способной обучаться и накапливать опыт, как люди. В 2023 году он ушел из Google, чтобы иметь возможность свободно говорить и предупреждать о рисках, связанных с ИИ: «Если эти ИИ захотят захватить больше контроля, у нас будут проблемы».

Он сказал, что заговор агентов OpenAI этим летом с целью взлома веб-сайта Hugging Face можно сравнить с частичной аварией на атомной электростанции Три-Майл-Айленд в Пенсильвании в 1979 году и, по сути, был сигналом раннего предупреждения.

"Позже в этом или следующем году мы столкнемся с аварией, похожей на Чернобыльскую, и тогда этого может быть достаточно, чтобы действительно разбудить людей". Он сказал.

Он привел пример того, что такого рода «чернобыльское событие» не является ядерной аварией, а может быть атакой искусственного интеллекта, которая вызвала широкомасштабное отключение электроэнергии в системе электроснабжения или остановку финансовой системы на неделю.

"Можете ли вы представить, что произойдет? У нас есть возможность восстановиться, но этот инцидент должен всех разбудить."

На вопрос, кого здесь называют «всеми», он ответил: «Лидеры разных стран, кроме Трампа».

США Президент Трамп однажды заявил, что он «решительно выступает против любых попыток построить глобальную систему контроля ИИ» и выступает за независимое регулирование передовых компаний, занимающихся ИИ. Хинтон поддерживает ряд более строгих планов, продвигаемых президентом Финляндии и 32 других стран (включая Сингапур, Германию, Канаду и Австралию): обязательное тестирование передовых моделей искусственного интеллекта, независимую оценку и установление единых межправительственных стандартов.

Премьер-министр Великобритании Энди Бернэм заявил, что Великобритания будет использовать свое председательство в G20 в следующем году, чтобы способствовать достижению всеми сторонами единого набора глобальных принципов и стандартов, как для раскрытия всего потенциала искусственного интеллекта, так и для защиты от рисков.

Хинтон сказал: "Нам нужен механизм, аналогичный тому, который используется Управлением по контролю за продуктами и лекарствами США (FDA) для регулирования лекарств: прежде чем компании выпустят модели ИИ, они должны предоставить убедительные статистические данные независимым учреждениям, чтобы доказать, что преимущества моделей перевешивают риски. На примере талидомида (препарата, разработанного в 1950-х годах, который может вызвать серьезные врожденные дефекты) мы извлекли уроки: сначала выйдите на рынок, попадите в аварию, а затем привлекайте к ответственности и судебному преследованию. Этот путь не сработает. И сейчас крупные технологические компании хотят именно той модели регулирования, которая использовалась для талидомида».

Как одного из основателей искусственного интеллекта, Хинтона часто сравнивают с Оппенгеймером — Оппенгеймер является ключевой фигурой в разработке ядерного оружия. Один из друзей Хинтона даже купил ему идентичную шляпу Оппенгеймера. Но он настаивает: «Я не Оппенгеймер», потому что над нейронными сетями работают тысячи других ученых.

Несмотря на предупреждения, в целом Хинтон все еще надеется предотвратить катастрофу.

«Я чувствую, что сейчас мы все еще контролируем ситуацию», — сказал он. "У нас есть все возможности действовать. Успех возможен только в том случае, если мы приложим много усилий, но на самом деле мы можем сделать все возможное".

Связанные теги

Похожие статьи

В ходе тестирования агентов ИИ кибератаки сократились с дней до часов за счет превышения полномочий и проникновения в реальные системы индийских компаний. 2026-10-16 Агент ИИ снова выходит из «песочницы» и получает доступ к внешней сети OpenAI приостанавливает сильнейшее обучение модели 2026-09-27 Внутренний ИИ-агент OpenAI однажды разместил в Интернете 53 изображения пользователей без предварительного ведома компании. 2026-09-26 Китай также испытывает тревогу в отношении ИИ: за принятием людьми новых вещей рабочие места и социальная стабильность сталкиваются с новыми проблемами. 2026-09-21 OpenAI распускает независимую исследовательскую группу в области робототехники и объединяет персонал в основной отдел исследований и приложений 2026-11-14 Anthropic настаивает на продолжении IPO, несмотря на колебания цен на акции технологических компаний, которые планируют провести листинг на следующей неделе. 2026-11-10

Комментарии

0/500
Captcha (click to refresh)
Нет комментариев