Ранним утром 9 февраля компания Film and Television Hurricane Tim выпустила свой последний видеоролик, посвященный видеомодели AI Seedance 2.0, только что выпущенной ByteDance. В видео Тим похвалил результаты генерации модели Seedance2.0 и назвал ее «ИИ, который меняет видеоиндустрию», включая сложность видео, генерируемого моделью, движение камеры, эффект непрерывности раскадровки и согласование аудио и видео.
Первоначально это был обычный функциональный опыт, но из-за неожиданного открытия он прямо сказал, что это «ужасно».
Тим рассказал в видео, что когда он тестировал Seedance 2.0, он случайно обнаружил, что без загрузки каких-либо звуковых файлов, какой-либо информации или соответствующих подсказок, просто загружая фотографию своего лица в модель, система может автоматически генерировать голос, очень похожий на его собственный, и даже может точно соответствовать характеристикам тона.
Кроме того, Тим заявил: «Самое страшное — это не только мой голос. Фотография, которую мы загрузили, — это только фасад здания, но сгенерированную камеру можно перенести на другую сторону здания. Она знает, что находится позади меня, даже если я этого не говорю».
Это явление шокировало его: практически наверняка большое количество видеороликов, выпущенных в прошлом командой по борьбе с ураганами в кино и на телевидении, использовалось ByteDance для обучения и тренировки модели Seedance 2.0.
Он откровенно признался, что не уверен, скрыты ли в пользовательском соглашении платформы соответствующие условия авторизации данных. Он так и не получил денег и с ним не связались для получения разрешения. Это может быть законно с юридической точки зрения.
Тим далее добавил, что они также протестировали соответствующие материалы от других блоггеров (таких как г-н Хе) и обнаружили, что Seedance 2.0 в очень высокой степени восстановил образ персонажа.
Он также посетовал, что Film and Television Hurricane была одной из первых команд, загрузивших в облако большое количество изображений, звуков и другого контента высокой четкости.
Тим сказал, что каждый должен быть начеку: «Теперь вы можете увидеть, что произойдет, если все данные человека попадут в набор данных ИИ. Он может на 100% имитировать любые ваши формы и звуки. Итак, может ли ваша семья сказать, является ли такой контент правдивым или ложным?»