Аннотация:
В связи с экспоненциальным скачком возможностей передовых систем искусственного интеллекта и ускоренным развитием технологии общего искусственного интеллекта (AGI), исследовательская группа Google и ее институт исследований и разработок в области искусственного интеллекта Google DeepMind недавно официально объявили о создании «Института DeepMind». Организация стремится создать глобальную диалоговую платформу, которая объединит междисциплинарные силы и различные точки зрения, чтобы расширить масштаб общественных дискуссий о границах безопасности AGI, механизмах социального управления и инклюзивном распределении дивидендов.
В контексте быстрого развития генеративного ИИ и автономных агентов (ИИ-агентов) дискуссии о том, когда будет реализован ОИИ и как контролировать риски, превратились из академических выводов в ключевые вопросы глобальной научно-технической политики. Однако в течение долгого времени основные дискуссии вокруг общего искусственного интеллекта часто были монополизированы горсткой инженеров, инвесторов и лиц, принимающих решения за закрытыми дверями в ведущих лабораториях Кремниевой долины. Внешнее участие в долгосрочном социальном воздействии технологической эволюции, изменениях в структурах труда и балансе межрегиональных интересов по-прежнему ограничено. Создание Исследовательского института DeepMind призвано разорвать этот закрытый контекст технической элиты и представить более разнообразные глобальные голоса.
Сообщается, что недавно созданный институт совместно возглавляют ряд высокопоставленных руководителей и ведущих ученых, в том числе соучредитель DeepMind и главный ученый AGI Шейн Легг. Будучи одним из ключевых пионеров технологий, которые рано определили концепцию AGI, Легг уже давно выступает за создание перспективной оценки безопасности и этических рамок, одновременно способствуя прорывам в вычислительной мощности и алгоритмах. Новый институт будет основан на междисциплинарных исследованиях, которые не только будут поглощать идеи ученых-компьютерщиков и экспертов по когнитивным наукам, но также будут широко объединять экономистов, социологов, экспертов по праву, политиков и представителей организаций гражданского общества для совместного изучения и оценки системного воздействия, которое может вызвать сверхинтеллект.
Что касается конкретных исследований и действий, исследовательский институт DeepMind планирует сосредоточиться на трех основных областях: во-первых, проверка безопасности AGI и теория контроля с технической точки зрения, изучение механизмов для борьбы с экстремальными сценариями безопасности, такими как сбой автономного агента и сбой выравнивания; во-вторых, инклюзивное и справедливое управление передовыми технологиями, изучение того, как обеспечить будущее ОИИ. Созданная огромная производительность и экономическая ценность могут широко использоваться всем человечеством, а не усугублять географические и классовые различия; в-третьих, содействовать глобальному диалогу в сфере регулирования и помогать государственным органам, принимающим решения в различных странах, в создании основы управления, учитывающей технологические инновации и предотвращение рисков.
Отраслевые аналитики отмечают, что в то время, когда ведущие гиганты ИИ, как правило, ускоряют коммерциализацию передовых больших моделей и гонку вычислительных мощностей, Google DeepMind решила взять на себя инициативу по созданию независимой академической и политической дискуссионной платформы, демонстрируя переосмысление долгосрочной социальной ответственности передового ИИ. Подталкивая дискуссию об AGI от одного технологического увлечения к инклюзивному, рациональному и многомерному диалогу в обществе, агентство, как ожидается, предоставит важные идеологические проекты и поддержку аналитических центров для внедрения соответствия и глобального управления будущими сверхинтеллектуальными технологиями.
Комментарии