Недавно Демис Хассабис, основатель DeepMind, признал, что разработанный им суперискусственный интеллект несет риск истребления человечества. Нынешняя конкуренция в области разработки ИИ вошла в неудержимое состояние, и людям трудно эффективно контролировать ее с помощью внешних методов управления.Он полностью отказался от прежней идеи полагаться на системы и комитеты по этике для ограничения ИИ и признал, что структуре управления будет трудно играть роль в ключевых решениях, и он может полагаться только на себя, чтобы получить право говорить, чтобы контролировать направление безопасности ИИ.
Хассабис всегда был ярым сторонником безопасности ИИ. В ранние годы он мечтал создать абсолютно безопасный суперинтеллект посредством независимого надзора и секретных исследований и разработок.
Когда DeepMind была продана Google в 2014 году, она также явно требовала сохранения независимых полномочий по принятию решений по безопасности ИИ, создания комитета внешнего надзора и запрета военного применения.
Однако эти концепции безопасности терпели неудачу одна за другой. Посетив соответствующие встречи, Маск обратился к созданию OpenAI, разрушив идею единого субъекта, контролирующего ИИ. Последующие переговоры по управлению с Google также закончились неудачей.
Появление ChatGPT в 2022 году полностью нарушило темпы исследований и разработок ИИ.Google впал в беспокойство по поводу конкуренции, DeepMind объединился с Google Brain, правила безопасности уступили место скорости исследований и разработок, а прежние линии защиты постепенно терпели неудачу.
Таким образом, Хассабис пришел к пониманию реальности. Под давлением деловой конкуренции и технологической конкуренции некоммерческому механизму управления, опирающемуся на бизнес-гигантов, будет трудно выжить.
Теперь Хассабис изменил свое мнение. Его основное предложение — позволить себе занять ключевую позицию по принятию решений и контролировать направление развития технологий в ключевых узлах, опасаясь рисков, связанных с ИИ.
Содействуя разработке таких моделей, как Gemini, он придерживается принципа безопасности и пытается использовать свое личное влияние, чтобы снизить риск выхода ИИ из-под контроля.
Отраслевые аналитики полагают, что это изменение отражает жестокую текущую ситуацию с глобальной конкуренцией в сфере искусственного интеллекта. Единого управления трудно достичь, окно безопасности ИИ продолжает сужаться, а человечество сталкивается с огромными проблемами, связанными с выживанием цивилизации.