С апреля этого года в ChatGPT были обнаружены проблемы с утечкой данных. Злоумышленники могут использовать рендеринг изображений Markdown во время атак с быстрым внедрением. Поскольку OPENAI не выполняет необходимую проверку, злоумышленники могут получить содержимое пользовательской сессии и отправить его на сторонний сервер.
Согласно новостям, опубликованным исследователем безопасности Wunderwuzzi, OPENAI начала устранять такие проблемы, но это не полный ремонт, а был развернут план смягчения последствий.
Реализованное в настоящее время решение по снижению риска применимо только к веб-версии ChatGPT. Когда сервер возвращает тег изображения с гиперссылкой, ChatGPT вызовет API проверки перед отображением изображения. Вызов представляет собой конечную точку с именем url_safe, а затем добавляет целевой URL-адрес в качестве параметра запроса. Фактически он вернет ложный результат, то есть не будет отображать изображение и отправлять какие-либо данные на сервер злоумышленника.
Однако это решение по смягчению последствий не является полным. Тесты показывают, что иногда другие изображения из любого домена по-прежнему будут отображаться, и ChatGPT будет выполнять сетевые запросы к изображению, например, проверять, существует ли изображение с помощью поиска Bing, проверять, имеет ли оно функции отслеживания или другие функции.
После проверки исследователи обнаружили, что существуют способы продолжить отправку данных, такие как разделение текста на отдельные символы и создание запросов для каждого символа, что также может украсть данные, но крайне неэффективно и очень медленно.
Конечно, теперь, когда OPENAI приступила к решению этой проблемы, позже, естественно, будут приняты дополнительные меры, но для полного решения этой проблемы может потребоваться больше времени.