Сегодня новости камер видеонаблюдения разоблачили хаос клонирования голосов ИИ. На определенной социальной платформеБлогер использовал искусственный интеллект, чтобы подделать голос олимпийского чемпиона Цюань Хунчана, чтобы продавать местные яйца.В то же время голоса Сунь Инша и Ван Чуциня также были «клонированы» и использовались для громкой рекламы «Местных яиц Чанбаоцзя».

«Цюаньхунчан», которую подделал AI, сказала в видео, что она принесла товар: «Я ваш Чанбао. Мне нужна ваша помощь сегодня. Чанмей хочет помочь своей матери и сделать жизнь своей семьи лучше. В то же время она поделится местными яйцами из своего родного города со своими поклонниками, чтобы они попробовали. Сегодня она позволит своей матери вывезти 300 местных яиц из ее родного города в качестве блага для всех».

В комментариях выяснилось, что многие пользователи сети ошибочно подумали, что это сам олимпийский чемпион, и разместили заказы на его покупку.

Кроме того, блоггеры «клонируют» голоса актера Джин Донга и других для круглосуточной прямой голосовой трансляции.

Согласно сообщению, расследование репортера установило, чтоВы можете легко найти большое количество руководств и информации о загрузке программного обеспечения для клонирования звуков AI на онлайн-платформах.

Некоторые продавцы даже заявили, что любой голос можно легко «клонировать», если у него есть одна минута материала.

Предполагается, что в целях дальнейшей стандартизации использования контента, созданного искусственным интеллектом, и облегчения пользователям возможности лучше идентифицировать виртуальный контент, Администрация киберпространства Китая и другие четыре ведомства совместно выпустили «Меры по маркировке синтетического контента, генерируемого искусственным интеллектом» (именуемые «Меры по маркировке»), официальное внедрение которых запланировано на 1 сентября 2025 года.

В «Мерах идентификации» разъясняется, что поставщики услуг должны добавлять явную идентификацию к генерируемому синтетическому контенту, такому как текст, аудио, изображения, видео, виртуальные сцены и т. д.При предоставлении таких функций, как загрузка, копирование и экспорт созданного синтетического контента, следует убедиться, что файл содержит явную идентификацию, соответствующую требованиям; неявная идентификация должна быть добавлена ​​к метаданным файла, генерирующего синтетический контент.