Аннотация:
По данным WIRED, с распространением контента, генерируемого искусственным интеллектом, в издательской индустрии распространяется спор о том, «пишутся ли романы людьми». После того, как было обнаружено, что около 78% содержания романа ужасов, возможно, создано искусственным интеллектом, и издатель впоследствии отозвал свой план публикации, все больше и больше писателей начали беспокоиться: даже если произведение полностью создано ими самими, их могут заподозрить в использовании искусственного интеллекта из-за их стиля письма, и они могут даже столкнуться с бойкотом и репутационными потерями.
В марте этого года в центре скандала оказался роман ужасов «Застенчивая девушка». В социальных сетях было много скептицизма по поводу того, что книгу в основном создал искусственный интеллект. Впоследствии издательство Hachette Book Group отменило план публикации романа в США и прекратило распространение на британском рынке.
Компания по обнаружению искусственного интеллекта Pangram утверждает, что примерно
78% текста в книге было создано искусственным интеллектом
. Однако автор романа Миа Баллард отрицает использование ИИ для письма. Она сказала, что редактор внес изменения с помощью искусственного интеллекта в самоизданную версию книги, и заявила, что подает в суд.Издание Wired отметило, что после этого инцидента аналогичные обвинения стали появляться в издательской сфере. Автора допрашивают после того, как он выиграл награду за рассказ, а другой втянут в спор о написании ИИ после того, как его криминальный роман получил многомиллионное предложение от издателя. Оба мужчины отрицают обвинения.
Еще больше писателя беспокоит то, что на данный момент не существует общепринятого метода доказательства того, что произведение полностью создано человеком.
Автор бестселлеров Андреа Барц рассказала Wired, что после того, как произошел инцидент с «Застенчивой девушкой», она почти сразу поняла, что это может спровоцировать «охоту на ведьм» против писателей.
«Любой может обвинить кого угодно в использовании ИИ».
По ее словам, как только обвинения появятся, даже без веских доказательств, ущерб может быть уже нанесен.Сам Бальц также является одним из ведущих истцов в иске об авторских правах против Anthropic. В иске Anthropic обвиняется в загрузке большого количества книг, защищенных авторским правом, с пиратских веб-сайтов для обучения моделей ИИ. Anthropic согласилась выплатить
1,5 миллиарда долларов
в прошлом году. Достигните поселения.Столкнувшись с растущими сомнениями относительно написания ИИ, группа технологических компаний начала выпускать программное обеспечение, специально разработанное для проверки процесса создания произведений.
Такие инструменты, как Works, Blindproof, Wintertext, Human Ink и ObraVera, утверждают, что могут записывать процесс набора текста автором, историю изменений документа и даже использовать такие технологии, как зашифрованное хеширование и временные метки, для создания цифровых «отпечатков пальцев» для письменных работ, чтобы помочь авторам предоставлять творческие записи при допросе.
Однако эти инструменты не могут достоверно доказать, что в работе не используется ИИ.
Соучредитель и генеральный директор Pangram Макс Сперо отметил, что даже если программное обеспечение может полностью записывать процесс набора текста, пользователи все равно могут дословно вводить контент, сгенерированный искусственным интеллектом, или имитировать процесс письма с помощью программ автоматического набора текста.
Кроме того, писатели часто создают сложные вещи. Они могут переключаться между несколькими документами, неоднократно пересматривать черновики или записывать голосовые заметки через свои мобильные телефоны. Эти процессы сложно полностью записать с помощью одного программного обеспечения.
Разработчики ObraVera также признались, что их технология может доказать, когда тот или иной текст был зарегистрирован и кто его отправил, но не может независимо подтвердить, был ли текст сгенерирован ИИ.
Сами инструменты обнаружения искусственного интеллекта также вызывают споры.
Pangram утверждает, что уровень ложных срабатываний ее инструмента в области творческого письма составляет всего
0,01 %
. Но Мэри Расенбергер, исполнительный директор Гильдии авторов, сказала, что ассоциация слышала о многочисленных случаях, когда люди отправляли на тестирование свои собственные рукописные работы только для того, чтобы было признано, что они были созданы искусственным интеллектом.Раксенберг считает, что требование от писателей предоставить дополнительные доказательства того, что они являются авторами-людьми, само по себе является необоснованным бременем. Она подчеркнула, что ассоциация не поддерживает принуждение писателей к использованию таких инструментов, и напомнила авторам, что не следует с легкостью обвинять своих коллег в использовании ИИ.
Эксперт издательской отрасли Джейн Фридман отмечает, что издатели и литературные агенты вряд ли повсеместно примут системы аутентификации авторства, требующие дополнительных сборов или отнимающие много времени. Даже если будут установлены единые стандарты, все равно трудно избежать подделки или манипулирования сертификационными материалами.
Это недоверие сказалось на рыночной оценке произведения.
Бальц рассказала, что слышала о писателях, получивших много плохих отзывов на сайте рецензий книг Goodreads просто потому, что их произведения «читаются так, как будто их написал искусственный интеллект». Некоторые читатели даже заявили, что не хотят читать произведения, опубликованные после 2022 года, поскольку опасаются, что они будут смешаны с контентом, созданным искусственным интеллектом.
По иронии судьбы, новый роман Балца «Удалить свою учетную запись», который планируется опубликовать в 2027 году, основан на генеративном искусственном интеллекте. В своей книге она намеренно имитировала выражения больших языковых моделей, чтобы создать вымышленные записи чатов ИИ и маркетинговые тексты.
Теперь она начинает беспокоиться, что эти слова, намеренно имитирующие ИИ, вызовут у нее подозрения.
"Что делать, если какой-либо контент будет признан написанным искусственным интеллектом?"
— сказал Бальц."Wired" отмечает, что в условиях постоянного развития инструментов искусственного интеллекта и технологий обнаружения издательская индустрия сталкивается с трудной проблемой, которую необходимо решить:
Когда машины все лучше и лучше имитируют человеческое письмо, а человеческие слова могут быть неправильно оценены машинами, как писатели могут доказать, что их произведения написаны их собственными руками?
Комментарии