Аннотация:
По данным Reuters, независимое исследование показало, что модели искусственного интеллекта Anthropic улучшаются почти в два раза быстрее, поскольку искусственный интеллект играет все большую роль в разработке более мощных последующих моделей. Полученные результаты подтверждают недавние предупреждения отрасли о том, что технологии искусственного интеллекта могут развиваться быстрее, чем усилия по оценке рисков.
Антропный
Результаты, опубликованные в четверг некоммерческой организацией METR, занимающейся безопасностью ИИ, представляют собой одно из самых ярких доказательств того, что ИИ ускоряет собственное развитие. Эта тенденция может проложить путь к рекурсивному самосовершенствованию (RSI), при котором системы ИИ разрабатывают более мощные версии самих себя без вмешательства человека.
11-недельная оценка, проводившаяся с августа по октябрь этого года, была основана на конфиденциальных исследованиях, интервью и данных о производительности невыпущенных моделей. Результаты показывают, что с октября 2025 года модель Anthropic улучшила свои возможности в тестах производительности в 1,9 раза быстрее, чем раньше.
«По состоянию на октябрь 2026 года Anthropic, вероятно, будет улучшать возможности своих моделей для решения четко определенных задач почти в два раза быстрее, чем раньше. Предыдущий период сравнения длился с марта 2024 года по октябрь 2025 года». - сказал МЕТР.
METR также добавил: «В этой оценке существует значительная неопределенность. Мы не удивимся, если фактическое ускорение окажется ближе к 1,5 или 2,5 раза к историческому уровню».
В отчете также подчеркивается, что ИИ в настоящее время не может внести очень важный и полностью автономный вклад в наиболее важный этап обучения модели.
Исследователи-антропологи сообщили о значительном повышении производительности благодаря использованию ИИ для программирования и проведения экспериментов. Неофициальные опросы сотрудников предполагают увеличение примерно в 12 раз, но METR предупреждает, что эти цифры ненадежны.
Генеральный директор Anthropic Дарио Амодей призвал в сентябре замедлить развитие передового искусственного интеллекта. В настоящее время компания готовится к публичному размещению и может начать IPO уже в этом месяце. Ожидается, что это станет одним из крупнейших IPO в истории, а также станет важным испытанием энтузиазма инвесторов в отношении инвестиций в компании, занимающиеся искусственным интеллектом. Эти компании инвестируют миллиарды долларов в разработку этой технологии.
В последние месяцы исследователи ИИ предупредили о возможности рекурсивного улучшения ИИ. Они обеспокоены тем, что такие системы могут стать трудными для согласования с человеческими целями, их будет трудно отслеживать и контролировать, и в конечном итоге они могут представлять экзистенциальную угрозу человечеству.
Этот сдвиг может иметь далеко идущие последствия для всей отрасли. Ранее индустрия искусственного интеллекта инвестировала сотни миллиардов долларов в создание вычислительной инфраструктуры для обучения продвинутых моделей. В будущем сам ИИ может стать важной силой, способствующей технологическому прогрессу.
В METR заявили: «Мы убеждены, что это ускорение не вызвано ускоренным расширением вычислительных мощностей для обучения».
Комментарии