Сервисы генеративного искусственного интеллекта пользуются огромной популярностью как среди интернет-пользователей, так и среди киберпреступников. По данным ФБР, «синтетический» контент все чаще используется для совершения различных мошенничеств. Тем не менее, люди по-прежнему могут эффективно защитить себя в Интернете, если принимают правильные меры предосторожности.
ФБР выпустило предупреждение о преступном использовании технологий искусственного интеллекта. В недавнем публичном заявлении бюро предупредило американцев, что мошенники используют контент, созданный искусственным интеллектом, чтобы сделать свои незаконные схемы более убедительными и эффективными.
По данным ФБР, генеративный искусственный интеллект позволяет преступникам сократить время и усилия, необходимые для обмана целей. Эти инструменты искусственного интеллекта «синтезируют» совершенно новый контент на основе вводимых пользователем подсказок. Они могут даже помочь исправить человеческие ошибки, которые могут вызвать подозрения, особенно в тексте, созданном ИИ.
Создание контента с использованием искусственного интеллекта по своей сути не является незаконным, но становится преступлением, когда этот контент используется для мошенничества или попыток вымогательства. В предупреждении ФБР приводится несколько примеров того, как можно злоупотреблять генеративным искусственным интеллектом, и приводятся практические советы, которые помогут пользователям обеспечить свою безопасность в Интернете.
В кампаниях социальной инженерии или целевого фишинга текст, сгенерированный ИИ, выглядит чрезвычайно убедительно. Мошенники используют технологии, созданные искусственным интеллектом, для создания фейкового контента, создания фейковых профилей в социальных сетях, отправки сообщений и перевода на языки с большей точностью и меньшим количеством грамматических ошибок. Целые мошеннические веб-сайты теперь можно создавать в рекордно короткие сроки, а чат-боты используются для того, чтобы обманом заставить жертв нажимать на вредоносные ссылки.
Нет сомнений в том, что изображения, созданные ИИ, находятся в авангарде современных тенденций, и киберпреступники в полной мере ими пользуются. Мошенники используют визуальные эффекты, созданные с помощью искусственного интеллекта, для улучшения поддельных профилей в социальных сетях и поддельных документов, удостоверяющих личность, для поддержки мошеннической деятельности. По данным ФБР, алгоритмы искусственного интеллекта могут генерировать «реалистичные» изображения, которые используются в кампаниях социальной инженерии, целевом фишинге, мошенничестве и даже «убийстве сковородок».
Аудио- и видеоконтент, созданный искусственным интеллектом, представляет аналогичные риски. Преступники теперь могут выдавать себя за общественных деятелей или даже за самих жертв, запрашивая финансовую помощь или получая доступ к конфиденциальной информации, такой как банковские счета.
ФБР советует пользователям задавать «секретное слово» или фразу среди доверенных родственников и друзей как быстрый способ подтвердить личность. Другие советы по защите от преступлений, связанных с генеративным искусственным интеллектом, включают тщательную проверку изображений и видео на наличие аномалий или несоответствий, а также сведение к минимуму доступности личных изображений или записей в Интернете.
При обработке финансовых запросов ФБР подчеркивает важность проверки их законности посредством прямых телефонных звонков, а не полагаться на текстовые сообщения или электронные письма. Никогда не делитесь конфиденциальной информацией с людьми, с которыми вы познакомились только в Интернете. Хотя это может показаться очевидным, ФБР также повторяет, что отправка денег, подарочных карт или криптовалюты незнакомцам в Интернете очень рискованна и часто приводит к мошенничеству.