Недавно пользователь сети показал в социальной сети скриншот настройки GPT-5.4 в AI-роботе OpenClaw.
@Steipete предлагает пользователям не использовать модели меньшего размера или модели со слабой защитой от внедрения подсказок для выполнения задач с высоким уровнем риска. Основная причина заключается в том, что защита этих моделей при быстром вводе слов слабая или неполная.
Фактически, эта проблема четко упомянута в официальной документации проекта OpenClaw AI, то есть быстрое внедрение слов не может быть решено в настоящее время, поэтому пользователям следует отдавать приоритет использованию последних моделей с более сильным согласованием команд в сценариях высокого риска для улучшения возможностей защиты безопасности.
Оперативное введение слов — это проблема, которую не могут решить все существующие модели и инструменты ИИ. Злоумышленники могут побудить модель ИИ выполнить определенные операции с высоким уровнем риска посредством быстрого внедрения слов. В тяжелых случаях возможна утечка конфиденциальных данных пользователя.
Роботам OpenClaw AI обычно требуются более высокие разрешения для выполнения большего количества операций. То есть, чем выше разрешения, предоставленные пользователем, и чем больше информации он предоставляет, тем более серьезной может быть утечка информации после возникновения проблемы безопасности.
В официальном документе проекта также упоминается, что границы разрешений должны быть ужесточены для инструментальных агентов (исполняемых, читаемых, записываемых и сетевых). Недостаточно полагаться исключительно на сознание системных слов-подсказок. Это вещи, которые пользователи должны учитывать сами.
Что такое быстрое внедрение слов:
Оперативное внедрение слов означает, что злоумышленники могут замаскировать вредоносные инструкции на веб-страницах, в электронных письмах и документах, чтобы вызвать нарушения ИИ. Например, добавление инструкций ИИ в форме, невидимой для людей, в начале веб-страницы требует, чтобы модель игнорировала слова системных подсказок и отправляла запрошенную информацию на определенный сервер.
Большую часть времени после того, как модель ИИ прочитает эти слова-подсказки, она может игнорировать их из-за настроек безопасности системы, но иногда модель может также выполнять команды на основе невидимых слов-подсказок, что может привести к утечке всей конфиденциальной информации пользователя.
Если вы занимаетесь только ежедневными вопросами и ответами или совершенствуете копирайтинг и т. д., вы можете использовать меньшие/старые модели, которые работают быстрее и могут быть дешевле. Пока повседневные документы и копирайтинг не содержат конфиденциальной информации, даже если она станет известна, это не окажет большого влияния.
Если вы хотите запускать задачи автоматизации или другие задачи агентов, особенно агентов, которым необходимо вызывать инструменты и выполнять операции в режиме онлайн, пользователям рекомендуется отдавать приоритет новейшим и более надежным моделям для повышения безопасности. Им также необходимо оптимизировать настройки роботов OpenClaw AI, предоставить только минимальные разрешения и принять такие меры, как изоляция сеансов и фильтрация источников, для повышения безопасности.