Современные инструменты, созданные искусственным интеллектом, способные имитировать настоящие человеческие голоса, одновременно впечатляют и вызывают беспокойство. От фишинга до вмешательства в выборы — в любом развлекательном или полезном приложении есть хотя бы одно вредоносное. Теперь Федеральная торговая комиссия США (FTC) тоже обратила на это внимание и впервые приняла меры. Ранее на этой неделе комитет начал прием заявок на участие в конкурсе по клонированию голоса, сообщает BleepingComputer.
Правительственное агентство надеется получить некоторые полезные идеи для решения проблемы мошеннического или несанкционированного использования систем клонирования голоса на основе искусственного интеллекта. Участники могут внести предложения хотя бы по одному из следующих пунктов вмешательства:
Предотвращение или аутентификация: должен быть предусмотрен метод ограничения использования или применения программного обеспечения для клонирования голоса неавторизованными пользователями;
Обнаружение или мониторинг в режиме реального времени: должны быть предусмотрены методы обнаружения клонированных голосов или использования технологии клонирования голоса; или
Оценка после использования: необходимо предоставить метод проверки того, содержит ли аудиоклип клонированную речь.
По правилам, все подаваемые предложения должны включать краткое текстовое описание предлагаемого предложения и подробное письменное описание.
Судьи конкурса будут оценивать предложения по трем основным направлениям: управляемость и осуществимость исполнения; повышение корпоративной ответственности и снижение потребительской нагрузки; и устойчивость. Это означает, что предлагаемые решения должны быть относительно простыми в применении на практике и максимально перспективными, принимая во внимание практические возможности, доступные разработчикам инструментов ИИ.
Абсолютный победитель конкурса получит бонус в размере 25 000 долларов США, а занявший второе место — бонус в размере 4 000 долларов США. До трех поощрительных упоминаний (по одному на каждое место проведения) получат по 2000 долларов каждый.
Тем не менее, Федеральная торговая комиссия утверждает, что отсутствие результатов — это результат, хотя и тревожный. Если не появится никаких жизнеспособных идей, это означает, что технические проблемы сложнее, чем ожидалось, и должны привести к необходимым законодательным изменениям для разработки политики использования таких инструментов ИИ.
Открытый конкурс продлится до 12 января, а результаты будут объявлены «в начале 2024 года».
узнать больше:
https://www.ftc.gov/news-events/contests/ftc-voice-cloning-challenge