Эксперты недавно предупредили, что технология глубокой подделки голоса в реальном времени достигла зрелости и несет в себе новые риски сетевой безопасности. Благодаря широкой доступности инструментов искусственного интеллекта с открытым исходным кодом и доступному оборудованию злоумышленники могут использовать искусственный интеллект для маскировки и имитации чьего-либо голоса в разговорах в реальном времени, преодолевая предыдущие технические ограничения, которые могут обрабатывать только предварительно записанный контент или требовать длительного времени обработки.
Новое исследование компании NCC Group, занимающейся кибербезопасностью, показывает, что, объединив модель голоса AI с обычным ноутбуком или смартфоном, можно добиться высококачественной имитации голоса в реальном времени с задержкой всего в полсекунды. Операторы могут инициировать клонирование голоса в специальном веб-интерфейсе с помощью простых операций. Этот метод атаки «глубинного голосового фишинга» можно реализовать с помощью видеокарты более низкой конфигурации и даже использовать микрофон обычного устройства для получения достаточно реалистичных эффектов.
Предыдущая технология глубокой подделки голоса обычно требует длительного времени для обучения голосовых данных, может генерировать только заранее записанные клипы и не подходит для взаимодействия в реальном времени. Этот прорыв полностью устраняет паузы и зависание в процессе имитации голоса, значительно повышая эффективность атаки и ее маскировку. Консультанты по безопасности NCC Group в ходе реальных испытаний обнаружили, что в сочетании с подделкой идентификатора вызывающего абонента этот тип атаки может обмануть цель почти каждый раз, и риск подделки голосовой проверки телефона значительно возрастает.
Хотя глубокая подделка голоса в реальном времени становится все более и более реалистичной, все еще существуют технические препятствия на пути к тому же уровню глубокой подделки видео в реальном времени, такие как рассинхронизация выражений лица и голоса, которые легко обнаружить. Например, эксперты заявили, что одна компания даже была обманута с помощью фальшивых видеороликов, созданных искусственным интеллектом, и отправила ноутбуки не на тот адрес, продемонстрировав, что сами по себе аудио- и видеозвонки больше не могут обеспечить безопасность проверки личности.
Поскольку инструменты искусственного интеллекта становятся все более популярными, эксперты призывают к использованию более сложных методов удаленной проверки, таких как добавление уникальных структурированных сигналов или секретных кодов к сообщениям, чтобы предотвратить атаки социальной инженерии, вызванные дипфейками. В противном случае как отдельные лица, так и организации столкнутся с более высоким риском мошенничества с подделками ИИ.