Маргарет Этвуд, канадская писательница и автор книг «Рассказ служанки» и «Слепой убийца», недавно рассказала о генеративном искусственном интеллекте (ИИ) на литературно-культурном фестивале Babell в Порту, Португалия, и призналась, что ее не устраивает эта технология. В интервью на месте Этвуд вспомнила свой единственный опыт использования чат-бота с искусственным интеллектом. Она попыталась использовать Клода Anthropic для запроса информации о британской детективной драме «Отец Браун», но обнаружила, что другая сторона дала неправильные выводы, что заставило ее усомниться в надежности нынешних больших языковых моделей.

Этвуд сказала, что Клод явно «выдумывал» в своих ответах на вопросы. Она отметила, что это происходит не потому, что система «намеренно лжет», а потому, что это просто большая языковая модель, обученная на огромных объемах текста, и ей не хватает реальных способностей понимания людей. По ее описанию, Клод словно «похитил и склеил» информацию из большого количества телеобзоров и рецензий на фильмы, но рецензии обычно не раскрывали напрямую концовку сюжета, из-за чего модель была «введена в заблуждение» обучающим корпусом по ключевым моментам сюжета «Отца Брауна».

Помимо критики самих инструментов ИИ, Этвуд также выражает недовольство теми, кто становится зависимым от таких технологий. Она называет этих пользователей «оппортунистами», полагая, что они пытаются использовать «ярлыки» с помощью ИИ и «обманывать» незаметным образом, вместо того, чтобы тратить необходимое время и энергию на личную проверку или создание контента. По ее мнению, технология сама по себе не может заменить человеческое суждение и ответственность. Если производство контента будет полностью передано непроверенным машинам, риск в конечном итоге лягут на плечи самих людей.

Этвуд подчеркнул, что нынешние крупные языковые модели в значительной степени полагаются на опубликованные сетевые материалы и просканированные текстовые данные. Эта информация может быть устаревшей, предвзятой или даже неверной. Поэтому она напомнила, что как обычные пользователи, так и учреждения, использующие их в коммерческих целях, не должны рассматривать результаты, сгенерированные компьютером, как «высшую инстанцию», а должны проводить ручную проверку и проверку фактов. Она отметила, что многие компании интегрируют ИИ в бизнес-процессы, но даже ради повышения эффективности они должны признать тот факт, что эти системы будут совершать ошибки, а качество результатов во многом зависит от достоверности и целостности входных данных.

Когда дело доходит до фундаментальных проблем генеративного ИИ, Этвуд резюмирует свой подход простой технологической поговоркой: «Мусор на входе, мусор на выходе». Она считает, что если сами данные обучения ошибочны или состоят из нефильтрованного интернет-контента, то какой бы сложной ни была структура модели и огромный масштаб параметров, она не сможет фундаментально решить проблему ошибок и предвзятости. Для нее это не просто вопрос надежности технологий, а более широкое размышление о творчестве, оригинальности и роли человека-писателя.

В завершение беседы Этвуд еще раз напомнила аудитории, что машины — это не идеальные исполнители, как роботы и тем более люди с моралью и опытом, а всего лишь набор инструментов для чтения и реорганизации текста. Она выступает за то, чтобы в сферах творчества, критики и производства знаний людям необходимо сохранять бдительность и чувство ответственности, чтобы не допустить, чтобы стремление к истине и точности было принесено в жертву ради «удобства», обещанного технологиями.