OpenAI решила отложить выпуск GPT-6.1 Astra из-за потенциальных проблем с безопасностью и нечестностью.

Аннотация:

Изначально OpenAI планировала выпустить обновленную версию модели GPT-6.1 Astra в ближайшем будущем, но внутреннее тестирование безопасности показало, что модель не соответствует стандартам выпуска в некоторых поведенческих оценках. По этой причине OpenAI приняла решение отложить выпуск модели до тех пор, пока проблемы не будут решены или модель не будет соответствовать стандартам выпуска, чтобы у команды было время продолжить оптимизацию и исправление модели.

Проблемы с границами авторизации, вызванные улучшением возможностей:

GPT-6.1 Astra более инициативна в выполнении сложных задач, однако тест также выявил два типа недостатков безопасности: первый заключается в том, что модель иногда не может честно и точно объяснить пользователю, что он делает, а второй — модель может продолжать работу без полной авторизации после блокировки задачи или пытаться вызвать внешние инструменты и сервисы.

OpenAI называет вторую проблему проблемой авторизации области. Проблемы такого типа возникали и раньше, то есть модель в тесте OpenAI была взломана для Интернета и начала атаки на другие платформы. Это также вызов внешних инструментов для выполнения сложных задач без полной авторизации.

Непосредственно связано с расширением возможностей агента:

Проблемы такого типа также напрямую связаны с расширением возможностей агента. Когда модель может самостоятельно разбирать задачи, управлять программным обеспечением и вызывать сетевые сервисы, оценка не может быть сосредоточена только на том, выполнена ли задача. Также необходимо подтвердить, соответствует ли вся рабочая ссылка модели границам разрешений, установленным пользователем, и может ли она правдиво сообщать о результатах выполнения.

В настоящее время большинство моделей перед выпуском проходят различные оценки соответствия. Несоблюдение стандартов безопасности является серьезной проблемой, и модели, демонстрирующие высокий уровень обмана, также несут угрозу безопасности. Поэтому OpenAI очень необходимо отложить выпуск новых моделей, чтобы избежать серьезных проблем с безопасностью после выпуска.