Аннотация:
Поскольку споры о безопасности ИИ продолжают нарастать, Маск предложил: пусть конкуренты проверяют друг друга. Он выступает за то, чтобы ведущие компании, занимающиеся искусственным интеллектом, проводили перекрестное тестирование друг друга перед выпуском моделей, и считает, что этот механизм следует продвигать во всем мире как можно скорее, а участие Китая является обязательным.
По сообщениям СМИ от 15 сентября по местному времени, на саммите All-In, организованном известным технологическим подкастом в Лос-Анджелесе с 13 по 15 сентября, генеральный директор SpaceX Илон Маск присутствовал удаленно по видеосвязи.
Он предложил структуру управления вопросами безопасности передовых моделей искусственного интеллекта:
Ведущие компании, занимающиеся искусственным интеллектом, тестируют модели друг друга перед их официальным выпуском, а конкуренты несут ответственность за обнаружение и повышение рисков безопасности.
Маск заявил, что этому механизму «коллегиальной проверки» не нужно ждать принятия нового законодательства, и его можно запустить немедленно.
Маск сказал:
"Все компании, занимающиеся искусственным интеллектом, имеют тестовый набор, который представляет собой серию тестов, используемых для проверки того, поможет ли модель создать биологическое оружие, ядерное оружие или имеет место преднамеренный обман."
«Пусть каждая компания проведет тестирование через чужой инструмент, возможно, это лучшее, что мы можем сделать для обеспечения собственной безопасности, и это следует продвигать как можно скорее».
По его словам, это означает, что компании, занимающиеся искусственным интеллектом, больше не «оценивают свою работу», а, по крайней мере, доверяют ее конкурентам и могут бить тревогу, если будут обнаружены проблемы.
На конкретном оперативном уровне Маск предложил разработчикам моделей предоставлять пирам доступ к API перед публикацией. Если указанные проблемы не будут решены, конкуренты могут публично заявить, что модель небезопасна для выпуска.
По его мнению, этот
публичный допрос приведет к огромному давлению юридической ответственности и, таким образом, сформирует де-факто обязательную силу
.Маск также подчеркнул, что
чтобы эта система была по-настоящему эффективной, необходимо включить в нее Китай
. Он отметил: «Возможно, нам следует достичь соглашения с Китаем, которое будет своего рода экспертной оценкой: ведущие компании, занимающиеся искусственным интеллектом, тестируют модели друг друга, прежде чем выпускать их».Говоря об инвестициях в безопасность различных компаний, он дал относительно положительную оценку Anthropic, крупному разработчику моделей искусственного интеллекта: «В целом,
Я думаю, что Anthropic вложила больше усилий в безопасность, чем разработчик ChatGPT OpenAI.
Но даже Anthropic признает, что у нее есть опасения по поводу своей модели. "Механизм «взаимного тестирования», упомянутый Маском, уже оформился в отрасли. 27 августа 2025 года, согласно сообщениям, опубликованным одновременно на официальных сайтах двух компаний, OpenAI и Anthropic объявили о результатах совместной оценки безопасности.
Обе стороны открыли друг другу разрешения API и ослабили некоторые внешние меры защиты. Они использовали собственную внутреннюю согласованность (то есть, соответствует ли поведение модели человеческим намерениям) и тестирование безопасности для оценки публично выпущенных моделей другой стороны и одновременно объявили результаты. Это считается первым случаем, когда ведущая лаборатория открыла внутренние испытания для прямых конкурентов.
Комментарии