Аннотация:
Согласно отчету британской газеты Financial Times, соучредитель Google DeepMind и главный научный сотрудник AGI Шейн Легг недавно предупредил, что возможности искусственного интеллекта быстро совершенствуются, но развитие возможностей ИИ не должно превышать уровень обеспечения безопасности. Он также опроверг суждения президента OpenAI Грега Брокмана и генерального директора Nvidia Дженсена Хуанга о том, что «AGI наступил».
Легг заявил, что нынешняя скорость развития возможностей искусственного интеллекта «очень, очень быстрая», и отрасль не может допустить, чтобы возможности опережали меры безопасности. Что касается недавнего предложения гендиректора Anthropic Дарио Амодеи замедлить выпуск передовых моделей из соображений безопасности, но не приостанавливать полностью исследования и разработки, Легг считает, что это направление «достойно рассмотрения», однако всем сторонам все равно необходимо серьезно обсудить конкретные методы внедрения.
Легг сделал вышеупомянутое заявление, когда компания DeepMind официально открыла Институт DeepMind для изучения применения общего искусственного интеллекта и его влияния на науку, образование, общество, политику, философию и человеческое благополучие. Согласно определению DeepMind, AGI — это система искусственного интеллекта, обладающая всеми когнитивными возможностями человеческого мозга.
Несмотря на недавнее значительное улучшение возможностей моделей ИИ, Легг считает, что еще слишком рано заявлять о реализации AGI. Он сказал, что по-прежнему придерживается своего предыдущего прогноза о том, что вероятность достижения «минимального AGI» к 2028 году составляет 50%. Легг также был одним из первых авторов термина «AGI».
После того как OpenAI выпустила GPT-6 Astra, Брокман заявил, что «мы вступили в эпоху AGI». Хуан Ренсюнь также сказал, что «AGI прибыл» и основан на возможностях Astra.
Легг сказал, что даже если разные организации имеют разные определения AGI, неясно, соответствует ли Astra собственным стандартам OpenAI. Ранее OpenAI определяла AGI как способный выполнять большинство когнитивных задач, имеющих экономическую ценность. Легг заявил, что эти модели действительно способны выполнять некоторые впечатляющие задачи, но, по его мнению, их возможности еще не достигли определения AGI, данного OpenAI.
Институт DeepMind возглавляют Легг, председатель DeepMind Демис Хассабис и старший вице-президент Google Джеймс Маника. Легг сказал, что теперь необходима более широкая социальная дискуссия, поскольку общественность начинает серьезно относиться к возможности мощного общего интеллекта. Институт преобразует технические исследования DeepMind в более понятный для общественности контент, одновременно приглашая внешних экспертов участвовать в обсуждениях.
Институт опубликовал первые три статьи на такие темы, как безопасность ИИ, экономическая политика и принципы «нового утопизма». Одна из статей, написанная исследователями DeepMind Рохином Шахом и Анкаром Драганом, указала на скорость выпуска GPT-6 Astra.
Два исследователя полагают, что Astra демонстрирует «тревожную тенденцию к снижению» прозрачности процесса рассуждений. Конкурентное давление на компании, занимающиеся искусственным интеллектом, может подорвать их стимулы к большей прозрачности, и регулирование может сыграть свою роль в этом вопросе.
Однако в статье утверждается, что до тех пор, пока на этапе разработки модели добавляются механизмы обеспечения прозрачности, отрасль все равно может продолжать разрабатывать более эффективные модели. Исследователи отметили, что самые продвинутые модели рассуждения в настоящее время могут отображать часть процесса рассуждения так, чтобы люди могли его понять, что дает внешнему миру редкую возможность наблюдать и изучать поведение ИИ.
Маника сказала, что Google надеется принять участие только в одном конкурсе искусственного интеллекта — конкурсе на правильное внедрение этой технологии.
Комментарии