Резюме:
Согласно отчету об обратном анализе, опубликованному исследователем безопасности Сюшеном Ли, Microsoft добавит невидимые слепые водяные знаки к сгенерированным искусственным интеллектом изображениям в приложениях Paint и Photo/Album. Идентификатор, используемый слепым водяным знаком, поступает с серверов Microsoft, и этот механизм полностью независим от водяного знака Microsoft Copilot, который пользователи могут включать/выключать самостоятельно, поэтому пользователи не могут полностью отключить слепой водяной знак.
Локальное создание изображений на AI PC по-прежнему требует подключения к серверам Microsoft:
Исследование показало, что, хотя функция создания Paint Приложение может использовать AI PC. Локальная модель Stable Diffusion генерирует изображения, но весь процесс не полностью автономен. Прежде чем начать генерацию, приложение Paint отправит слова подсказки и выбранный стиль, заполненные пользователем, на сервер Microsoft для проверки. Затем сервер вернет измененные слова подсказки, идентификатор создания слова подсказки и идентификатор водяного знака, а затем изображение будет сгенерировано локально на компьютере через блок NPU.
После создания изображения приложение Paint вызовет элемент управления скрытым водяным знаком, чтобы записать 16-байтовые параметры, связанные со скрытым водяным знаком, возвращаемые сервером, в пиксели изображения. Слепой водяной знак сам по себе невидим невооруженным глазом, но Microsoft может определить, было ли изображение создано приложением Paint, с помощью определенных механизмов обнаружения.
Идентификаторы GUID записываются непосредственно в пиксели изображения:
Обратный анализ показывает, что механизм слепых водяных знаков будет 16 Байтовый GUID был расширен до 144-битных данных, а затем внедрен путем внесения небольших изменений в несколько блоков изображения. Для тестирования исследователи использовали изображение размером 512x512 пикселей. После того, как Microsoft добавила слепой водяной знак, более 190 000 пикселей немного изменились.
Что более примечательно, так это то, что в приложении для рисования, если не удается написать механизм слепого водяного знака, задача генерации изображения AI будет напрямую расцениваться как сбой, а не возвращать изображение без водяного знака. Видно, что Microsoft рассматривает этот процесс как необходимое звено в создании ИИ, и ни одно изображение не будет создано, пока не будет завершен слепой водяной знак.
Снимки экрана, обрезка и т. д. не влияют на распознавание Microsoft:
Помимо изменения пикселей приложение Paint также добавит к изображению общеотраслевой сертификат содержимого C2PA. Проверив фактически сгенерированный файл PNG, исследователи обнаружили, что список C2PA не только четко помечает изображение как созданное искусственным интеллектом, но также записывает информацию о слепых водяных знаках Microsoft InvisMark.
Значение водяного знака, сохраненное там, точно такое же, как идентификатор слепого водяного знака, ранее возвращенный сервером и фактически записанный в пиксели изображения. Это означает, что Microsoft фактически использует два уровня подтверждения происхождения: метаданные C2PA + невидимый водяной знак, скрытый в пикселях изображения. Таким образом, даже если пользователи удаляют метаданные C2PA с помощью определенных инструментов, Microsoft все равно сможет идентифицировать водяной знак по пикселям. Например, простые скриншоты, обрезка и т. д. не могут полностью уничтожить слепой водяной знак.
Кроме того, функции создания изображений и преобразования стилей AI в приложении Microsoft Photos/Album также используют механизм слепых водяных знаков. Некоторые различия заключаются в следующем: если приложению Paint не удается записать водяной знак, оно сразу прекращает генерацию изображения, а приложение «Альбом» записывает ошибку и продолжает возвращать сгенерированные результаты.
Комментарии