Аннотация:
Когда американские избиратели запрашивают у ChatGPT или Microsoft Copilot информацию о кандидате, ответ они могут получить с небольшого веб-сайта, о котором они никогда не слышали. На веб-сайте под названием Ballot Brief собраны профили тысяч кандидатов. Его создатель Бен Торрес Эзрик надеется помочь избирателям легче понять информацию о предвыборной кампании, а также надеется привлечь особый тип посетителей — чат-ботов с искусственным интеллектом.
Тест, проведенный The Washington Post, показал, что ChatGPT цитирует бюллетень для голосования в
22% ответов, связанных с выборами, по сравнению с 75% ответов Microsoft Copilot
. Однако в информации о кандидатах на этом сайте есть много ошибок, одну из которых второй пилот повторил спрашивающему.Поскольку все больше американцев запрашивают у ИИ политическую и предвыборную информацию, в ходе опроса возникает вопрос: когда чат-боты полагаются на веб-сайты, созданные ИИ, как ошибки доходят до избирателей?
Небольшой веб-сайт стал распространенным источником искусственного интеллекта
Эзрик занимал руководящие должности в Google, Zoom и видеоплатформе Rumble. Он обнаружил, что когда избиратели хотят узнать о кандидатах, им часто приходится тратить много времени на поиск между различными веб-сайтами, поэтому он решил создать универсальный веб-сайт, предоставляющий информацию о выборах.
Столкнувшись с информацией тысяч кандидатов, он решил довериться искусственному интеллекту. Он отправил несколько групп цифровых агентов для сбора информации в Интернете, а затем поместил скомпилированный контент в бюллетень для голосования, чтобы люди могли его просмотреть.
Веб-сайты привлекают гораздо больше посетителей, чем просто людей. Эзрик сказал, что данные, которые он показал, показали, что за 30 дней, охватывающих сентябрь и октябрь, система искусственного интеллекта Microsoft процитировала бюллетень более
680 000 раз
.Расследование Washington Post показало, что бюллетень для голосования был лишь одним из них. Это один из трех новых веб-сайтов, которые часто появляются среди источников информации о голосовании, предоставляемой чат-ботами. Основатели трех веб-сайтов заявили, что их команды небольшие и почти полностью полагаются на искусственный интеллект для сбора и обобщения данных.
Возникают проблемы. Изабель Линцер, аналитик выборов в Центре демократии и технологий, считает, что результаты опроса показывают, что информация, размещенная человеком на веб-сайте, созданном искусственным интеллектом, может легко быть принята чат-ботом. По ее словам, это может повлиять на доверие избирателей к информации о выборах.
Ошибку повторил ИИ
The Washington Post обнаружила несколько ошибок в бюллетенях для голосования.
В информации на сайте говорилось, что сенатор-республиканец от Огайо Джон Хастед выступил спонсором законопроекта. Но этот законопроект был принят до того, как он вступил в должность. Второй пилот повторил эту ошибку в ответ на вопросы The Washington Post.
На веб-сайте также были объединены два кандидата от Калифорнии с одинаковым именем, Роберт Гарсия, в один и тот же профиль, а назначения нескольких членов Палаты представителей в комитеты также были указаны неправильно.
Информация некоторых конгрессменов весьма краткая, в ней отсутствуют протоколы голосования, а на веб-сайте неверно указано, что у них, похоже, нет веб-сайта предвыборной кампании.
Эзрик сказал, что он усердно работает над тем, чтобы информация была точной. После того, как газета Washington Post показала ему результаты, он внес ряд изменений в работу сайта.
Цель сайта — предоставить избирателям как можно больше информации, но он не должен быть их единственным источником информации, — сказал он.
Тестирование одновременно охватывает 3100 округов
Чтобы увидеть, как чат-боты отвечают на вопросы выборов, The Washington Post в партнерстве с фирмой по обработке данных Promptwatch протестировала продукты искусственного интеллекта от OpenAI, Anthropic, Google, Microsoft, Amazon и Perplexity.
Исследователи исследовали примерно
3100 округов США
, выберите адрес в каждом округе, задайте чат-боту один и тот же вопрос и попросите его создать на основе этого адреса руководство для избирателей на ноябрь 2026 года, в котором будут перечислены все выборы и позиции кандидатов по основным вопросам.В результате чат-боты часто не могли правильно определить, к какому избирательному округу принадлежит адрес, а иногда просто отказывались отвечать.
Приведенные выше коэффициенты цитирования относятся к этой конкретной проблеме и тестовой среде и не означают, что ChatGPT или Copilot будут цитировать бюллетень с одинаковым соотношением во всех вопросах о выборах.
The Washington Post обнаружила, что во время первого раунда тестирования в сентябре опрос ChatGPT был наиболее часто цитируемым источником ответов на такие вопросы. После того, как газета уведомила OpenAI о результатах на прошлой неделе, доля цитирований сайта ChatGPT упала до
4%
во втором раунде тестирования. .OpenAI заявила, что компания надеется помочь людям участвовать в выборах с помощью надежных и авторитетных источников информации и мер по предотвращению предвзятости и злоупотреблений; когда будут выявлены проблемы, компания примет меры для улучшения ответов модели. The Washington Post сообщила в своем отчете, что газета заключила контент-партнерство с OpenAI.
Бюллетень голосования также является наиболее часто цитируемым источником информации Copilot при тестировании. После публикации отчета Microsoft заявила, что скорректировала инструмент, чтобы расставить приоритеты авторитетным источникам и официальным сайтам государственных выборов, и продолжит тестировать и совершенствовать ответы, связанные с выборами.
Клод из Anthropic в первом раунде тестирования в основном цитировал авторитетные справочники для избирателей, созданные некоммерческими организациями, но во втором раунде тестирования стал чаще ссылаться на бюллетень для голосования. Anthropic не объяснила это изменение, заявив лишь, что компания протестировала модели, усилила меры безопасности и работала над предоставлением надежной и точной информации о голосовании перед промежуточными выборами.
Когда ИИ начинает цитировать контент, написанный ИИ
Поиск в Интернете позволяет чат-ботам получать доступ к более новой информации, чем данные их обучения, а также предоставляет им более широкий доступ к контенту, созданному ИИ, в Интернете.
Исследование Мовафака Аллахама, докторантуры Северо-Западного университета, показало, что **16 %** источников, цитируемых чат-ботами по таким вопросам, как политика, здравоохранение и окружающая среда, сами созданы искусственным интеллектом.
По его словам, то, как эти системы находят, фильтруют и интегрируют информацию, непрозрачно.
Два других исследователя, которые работали над анализом данных для президентской кампании Камалы Харрис в 2024 году, обнаружили, что чат-боты также в значительной степени полагались на веб-сайты, созданные искусственным интеллектом, когда отвечали на вопросы о промежуточных выборах. Их тестирование также показало, что сайт Ballotpedia, который уже давно предоставляет информацию о выборах, ранее заблокировал ChatGPT.
Генеральный директор Ballotpedia Лесли Грейвс заявил, что блокировка была вызвана ошибкой в настройках безопасности и что сайт снял ограничения на прошлой неделе. В Ballotpedia около
90 человек
Команда, Эзрик и другие надеются использовать ИИ для создания огромной базы данных кандидатов в меньшем масштабе.Помимо бюллетеня для голосования, тестирование The Washington Post также показало, что чат-боты часто ссылаются на DecodeTheVote и Smarter.Vote. Первый использует персонажей искусственного интеллекта для представления резюме кандидатов, а второй также пытается предсказать результаты выборов.
Основатель Smarter.Vote Джейкоб Лукота сообщил, что его сайт цитируют боты с искусственным интеллектом
1,7 миллиона раз
, что намного превышает количество посещений людьми. Он считает, что чат-ботам нравится цитировать этот сайт, возможно, потому, что он указывает источник информации.Лукота сказал, что это не было его первоначальным планом, но он считает, что результат понятен и что форма сайта очень подходит для использования чат-ботов с искусственным интеллектом.
Комментарии