Аннотация:
В связи с быстрым распространением контента, созданного с использованием искусственного интеллекта, в Интернете становится все более важным определять подлинность цифрового контента. 7 октября компания Google официально запустила общедоступный веб-сайт обнаружения SynthID, позволяющий любому пользователю загружать изображения, видео или аудиофайлы, чтобы проверить, были ли они созданы или отредактированы искусственным интеллектом.
На самом деле этот инструмент еще не дебютирует. Google открыл тестовую версию некоторым журналистам, средствам массовой информации и исследователям еще на прошлогодней конференции разработчиков систем ввода-вывода, а теперь она официально открыта для пользователей по всему миру, надеясь улучшить способность общественности идентифицировать контент ИИ.
SynthID, впервые запущенный в 2023 году, представляет собой набор технологий создания цифровых водяных знаков, разработанных Google. В отличие от традиционных видимых водяных знаков, SynthID встраивает скрытые метки, которые незаметны невооруженным глазом и ухом при создании контента, поэтому контент не будет затронут при обычном использовании и может быть идентифицирован при последующих обнаружениях.
В настоящее время эту технологию используют многие модели и службы искусственного интеллекта Google, в том числе модель изображения Nano Banana, видеомодель Veo, аудиомодель Lyria, а также платформы с функциями генерации контента, такие как Gemini, Flow, ProducerAI и Vids. Весь медиаконтент, созданный с помощью этих инструментов, будет автоматически включать цифровые водяные знаки SynthID.
Платформа обнаружения, запущенная на этот раз, поддерживает широкий спектр форматов файлов. Для изображений он поддерживает форматы JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF и GIF; для видео поддерживается MP4, MOV и WEBM; что касается аудио, он поддерживает основные форматы, такие как WAV, MP3, OGG, FLAC, AAC и M4A.
Помимо собственной экосистемы Google, SynthID постепенно превращается в межотраслевой стандарт. OpenAI, Nvidia и корейская интернет-компания Kakao уже поддерживают эту технологию, и Apple, как сообщается, присоединится к лагерю поддержки в будущем. Это означает, что в будущем пользователи смогут не только идентифицировать контент, созданный Google AI, но и обнаруживать медиафайлы из других партнерских систем.
Google заявила, что обновленная служба обнаружения уже может распознавать цифровые водяные знаки партнеров и больше не ограничивается контентом, созданным по собственной модели Google. В то же время OpenAI также сохраняет собственную платформу обнаружения контента, чтобы предоставить пользователям независимые каналы проверки.
Помимо отдельных веб-сайтов, Google интегрировала возможности обнаружения SynthID в приложение Gemini и браузер Chrome. Согласно официально раскрытым данным, количество запросов на проверку контента, инициируемых пользователями через эти каналы каждый день, достигло примерно 1 миллиона, что свидетельствует о том, что спрос общественности на идентификацию подлинности ИИ-контента быстро растет.
Однако Google также признает, что нынешняя технология обнаружения контента с помощью искусственного интеллекта не является надежной. Решения для цифровых водяных знаков могут идентифицировать только контент, созданный с использованием соответствующих стандартов, и могут быть не в состоянии обнаружить работы ИИ, которые не используют SynthID или другие совместимые стандарты. Кроме того, разные компании до сих пор используют разные системы маркировки и проверки, а в отрасли еще не сформировался единый стандарт.
В то же время такие технологические компании, как Microsoft и Meta, также продвигают свои собственные решения для нанесения цифровых водяных знаков и проверки контента. Однако в отрасли принято считать, что инструменты обнаружения, независимо от того, выпущены ли они Google или другими производителями, по-прежнему имеют определенные ограничения. В некоторых случаях они даже не могут точно идентифицировать контент, созданный их собственными моделями.
Тем не менее, поскольку количество контента, создаваемого искусственным интеллектом, продолжает расти, в том числе дипфейковые видео, изображения искусственного интеллекта и контент с синтезом речи становятся все более распространенными, открытие Google платформы SynthID для публики рассматривается как важный шаг для технологической отрасли по повышению прозрачности контента и борьбе с ложной информацией. В будущем, когда все больше компаний присоединятся к единой экосистеме цифровых водяных знаков, пользователи Интернета смогут получить более надежные инструменты для определения истинного источника онлайн-контента.
Комментарии