Аннотация:
По данным Business Insider,
Google, возможно, приближается к критическому моменту в области искусственного интеллекта: модели самосовершенствования.
В ходе круглого стола, посвященного процессу разработки новой модели Gemini 4 от Google Argon, соучредитель Google Сергей Брин заявил, что процесс разработки ИИ внутри компании ускоряется, и теперь модель начинает помогать строить собственную модель-преемницу.
Брин
Эта концепция называется рекурсивным самосовершенствованием (RSI), где ИИ помогает разрабатывать более совершенные системы ИИ, запуская эффект маховика и формируя постоянно ускоряющийся цикл, который ускоряет разработку новых моделей.
Брин указал на серию моделей Google Flash, выпущенных до выпуска Gemini 4, как на свидетельство того, что эта тенденция имеет место. Он сказал, что компания «начинает вступать в циклический путь с RSI».
Теперь наши исследователи и модели начали совместную работу над созданием следующей версии модели». Об этом он сказал в ходе круглого стола. Google поделился содержанием обсуждения в среду.
Другие сотрудники Google, похоже, согласны с Брином. Вихан Джайн, человек, отвечающий за работу по рекурсивному самосовершенствованию Gemini в Google DeepMind, опубликовал статью о платформе X и рассказал о том, насколько глубоко модель Argon играет роль в ее собственном итеративном процессе эволюции.
Он написал: «Когда ваши потребности после обучения перейдут от подачи заявки на оригинальные чипы к подаче заявки на квоту на использование аргона, вы знаете, что маховик RSI переключился на новую передачу».
Брин все активнее участвует в проекте Google Gemini и использует свое влияние в качестве соучредителя, чтобы направлять ресурсы на проекты, которые, по его мнению, являются наиболее эффективными, в том числе подталкивает компанию уделять больше внимания RSI.
В ходе обсуждения за круглым столом Брин сказал, что его воодушевляет темп, который в настоящее время демонстрируют команды Google, и сказал, что к тому времени, когда люди увидели видео о выпуске Argon, Google фактически перешел к нескольким более поздним моделям.
Anthropic и OpenAI также заявили, что ИИ, возможно, вот-вот вступит в стадию RSI. В новом отчете, опубликованном на этой неделе компанией Gladstone AI, занимающейся искусственным интеллектом, объясняется, как различные компании, занимающиеся искусственным интеллектом, движутся к RSI. Большинство опрошенных для отчета исследователей из таких компаний, как Anthropic, OpenAI и DeepMind, полагают, что рекурсивное самосовершенствование начнется в течение следующих трех-12 месяцев. По их словам, без вмешательства правительства этот процесс мог бы начаться раньше.
В отчете о безопасности, опубликованном для новой модели Argon, компания Google заявила, что некоторые аспекты цикла разработки ИИ автоматизируются. В отчете говорится: «Агенты ИИ теперь стали помощниками, которые могут значительно повысить эффективность, отвечая за написание большей части кода в реальной операционной среде и исправление уязвимостей, но изменения кода по-прежнему необходимо проверять вручную перед отправкой».
Однако RSI находится в центре предупреждений, выпущенных исследователями искусственного интеллекта в прошлом месяце. Они считают, что без адекватных мер безопасности люди могут потерять контроль над технологией.
Комментарии