Если вы в последнее время были на TikTok, возможно, вы заметили несколько причудливых видеороликов знаменитостей, продвигающих крайне сомнительные продукты, например, Тейлор Свифт, звучащую как робот, обещающую зрителям бесплатный набор кухонной утвари. Все видеоролики являются мистификацией, созданной с использованием технологии генерации искусственного интеллекта — новейшего примера того, как эта технология используется для создания тревожных виртуальных клонов людей без их согласия.
Излишне говорить, что подобные вещи разозлили многих знаменитостей. Теперь Конгресс США представил новое законодательство, направленное на борьбу с дипфейками, созданными искусственным интеллектом, особенно теми, которые связаны с фальшивыми одобрениями знаменитостей и наготой, созданной искусственным интеллектом без согласия, которые стали проблемой в Интернете и в университетских городках. Несмотря на растущую популярность веб-сайтов и приложений, предназначенных для создания дипфейковых изображений, в настоящее время не существует всеобъемлющего закона, запрещающего создание изображений с помощью искусственного интеллекта.
Новый законопроект называется «Закон о запрете мошенничества с использованием ИИ» (NoAIFRAUUDact) и был предложен представителем Флориды Марией Эльвирой Салазар и представителем Пенсильвании Мадлен Дин. Законопроект установит юридическое определение «прав на изображение и права голоса» и фактически запретит использование искусственных искусственных искусственных изображений для непроизвольной имитации других людей, независимо от того, живы они или нет.
Законопроект заявляет, что «каждый имеет право собственности на свое подобие и голос», и приводит несколько недавних инцидентов, в которых люди были превращены в причудливых роботов с искусственным интеллектом. В проекте особо упоминаются недавние вирусные видеоролики с созданными искусственным интеллектом песнями, имитирующими голоса поп-звезд, таких как Джастин Бибер, Bad Bunny, Drake и The Weeknd.
Законопроект также конкретно нацелен на дипфейковое порно с использованием искусственного интеллекта, заявляя, что «любое цифровое описание или цифровое воспроизведение голоса, которое содержит материалы о сексуальном насилии над детьми, является откровенно сексуальным или содержит интимные изображения», соответствует определению вреда, данному в законопроекте.
Предлагаемый законопроект является дополнением к аналогичному законопроекту Сената под названием «Закон о поощрении оригинальности, поощрении искусства и обеспечении безопасности в сфере развлечений» (NOFAKESAt), который был внесен в октябре прошлого года после душевного инцидента с подпеванием губ Дрейку. Новый законопроект был представлен в тот же день, что и еще одна мера, предложенная законодателями штата Теннесси, под названием «Закон об обеспечении безопасности изображений, голосов и изображений» (ELVISact).
Учитывая, что эти законопроекты, по-видимому, полностью или частично являются ответом на вспышки гнева знаменитостей, большой вопрос заключается в том, защитят ли они на практике интеллектуальную собственность обычных людей, а не только поп-звезд с многомиллионными сделками со звукозаписывающими компаниями.
Кэрри Голдберг, юрист, специализирующийся на дипфейках и других делах, связанных с онлайн-преследованием, рассказала Motherboard: «Законопроект действительно был составлен с учетом прав собственности, которые знаменитости и записывающиеся артисты имеют на свои образы и голоса. Однако наша правовая система относится к интеллектуальной собственности знаменитостей иначе, чем к интеллектуальной собственности непубличных деятелей».
Самый распространенный пример, по словам Голдберга, — это фотографии папарацци. Закон допускает некоторые средства правовой защиты для знаменитостей, если их фотографии сделаны без разрешения и используются в коммерческих целях. Но для обычных людей права на их фотографии принадлежат исключительно тому, кто их сделал, и они ничего не могут поделать с копированием их изображений по причинам, не связанным с получением прибыли - если только у них нет денег, которые можно потратить на дорогостоящие и зачастую длительные судебные разбирательства.
Для обычных людей, когда их имидж эксплуатируется, обычно это делается не для коммерческой выгоды, а для того, чтобы поставить их в неловкое положение или запугать; в этом случае правонарушитель редко обладает ресурсами, позволяющими жертве подать иск.
Новый законопроект намерен предусмотреть, что каждый имеет право контролировать свой голос и внешний вид, чтобы предотвратить дипфейк, но положения для лиц, не являющихся знаменитостями, будут во многом зависеть от того, сможет ли жертва доказать, что ей причинен вред. В частности, это означает доказательство того, что «дипфейк» причинил «телесные или телесные повреждения», вызвал «серьезное психическое расстройство» или имел откровенно сексуальный характер.
Конечно, все это — всего лишь попытка нормализовать более крупную проблему, которая заключается в том, что технологические компании используют данные, полученные из Интернета, для создания массивных систем искусственного интеллекта без принятия жестких мер по смягчению ущерба, который эти системы неизбежно причинят. В текущем иске против создателя ChatGPT OpenAI компания недавно заявила, что ее не следует наказывать за использование незаконных и защищенных авторским правом материалов для обучения своих моделей искусственного интеллекта, поскольку без этого «невозможно» создать систему искусственного интеллекта.
Но природа систем искусственного интеллекта «черного ящика», созданных такими компаниями, как OpenAI, Microsoft и Meta, почти гарантирует, что эти плохие вещи произойдут. Недавно исследователи обнаружили более 3000 изображений материалов о сексуальном насилии над детьми в огромном наборе данных, который используется для обучения почти всех основных систем искусственного интеллекта, представленных на рынке. Компании также работают над тем, чтобы их генеративные системы искусственного интеллекта отфильтровывали незаконный контент: дипфейк-порно можно найти в результатах поиска изображений в Google и Bing. Одна из основных проблем заключается в том, что существует множество приложений, созданных небольшими компаниями или отдельными лицами, предназначенных для создания наготы без согласия ИИ, которые рекламируются на основных платформах социальных сетей и продаются в магазинах приложений.
В конечном итоге, по словам Голдберга, эти проблемы можно будет полностью решить только в том случае, если компании, создающие эти системы искусственного интеллекта, будут привлечены к ответственности. : «Что действительно нужно нашему обществу, так это борьба с искусственным интеллектом и дипфейками на системном уровне, а также преследование вредоносных продуктов на основных рынках, таких как App Store и Google Play, которые представлены на рынке с единственной целью — подделать изображения. Нам необходимо оказать давление на поисковые системы, чтобы они не направляли людей на использование этих продуктов или не продвигали веб-сайты, публикующие эти изображения. Нам нужно потребовать от них предоставить жертвам простой процесс удаления контента».