19 мая в официальном аккаунте DeepSeek были опубликованы «Инструкции по ненормальным реакциям, вызываемым символами в модели»: недавно мы заметили отзывы пользователей о том, что после ввода специальных символов, таких как « » в разговоре с моделью DeepSeek, модель иногда возвращает неожиданный контент, что вызывает у некоторых пользователей опасения по поводу «утечки разговора». В ответ на эту проблему после всестороннего расследования наша техническая группа обнаружила:
Ввод таких символов, как " ", вызывает возврат ненормального содержимого, которое представляет собой модельную галлюцинацию, вызванную специальными символами и не связанную с проблемами безопасности или утечкой конфиденциальной информации.
В будущем мы улучшим способность модели распознавать и обрабатывать специальные символы посредством целевого обучения, исправлять связанные известные проблемы и оптимизировать производительность модели в таких сценариях.
DeepSeek всегда придает большое значение безопасности пользовательских данных и удобству работы пользователей. Спасибо за внимание и надзор. Пользователи также могут в любое время задать нам вопросы и предложения по официальным каналам.
18 мая многие пользователи сообщили о наличии функциональной уязвимости в веб-версии DeepSeek. При вводе символа «>» автоматически загружался ответ на определенный вопрос.
В связи с этим репортер провел фактическое тестирование и обнаружил, что при входе в «быстрый режим» DeepSeek, независимо от того, загружены ли две функции глубокого мышления и интеллектуального поиска, пока вводятся вышеуказанные символы, DeepSeek начнет напрямую отвечать, и содержание ответа не имеет ничего общего с содержимым, введенным репортером.
Когда репортер снова набирает: «Какой вопрос я вам только что задал?» DeepSeek повторит вопрос. Некоторые пользователи сообщили, что эти вопросы предположительно были заданы другими пользователями.
Ранее, утром 24 апреля, DeepSeek официально выпустила предварительную версию DeepSeek-V4, новой серии больших моделей, одновременно завершила работу над открытым исходным кодом и открыла официальный веб-сайт, службы вызова приложений и API, что ознаменовало выход возможности сверхдлинного контекста на миллион слов на инклюзивную стадию, привлекая широкое внимание.