После президентских выборов в США в 2024 году большое количество пользователей обратилось к децентрализованной социальной сети Bluesky из-за недовольства партийно-оскорбительными высказываниями платформы X (ранее Twitter). Bluesky не использует алгоритмы для рекомендации контента и на начальном этапе сокращает количество экстремальных высказываний и дезинформации. Но в течение года платформа все еще имела эффект эхо-камеры.
Исследователи из Амстердамского университета с помощью экспериментов по моделированию искусственного интеллекта обнаружили, что даже без сложных алгоритмов социальные сети все равно естественным образом разделятся на замкнутые круги и образуют феномен поляризации, обладающий только базовыми функциями, такими как публикация сообщений, пересылка и подписка. Они создали упрощенную платформу с 500 виртуальными пользователями, установили характеристики пользователей на основе данных Национального исследования выборов в США и использовали большие языковые модели, такие как ChatGPT, Llama и DeepSeek, для моделирования поведения пользователей. После того, как эксперимент длился 10 000 циклов взаимодействия, на платформе возникли три основные проблемы: эхо-камеры, концентрация влияния и экстремальная речь.
Исследователи попробовали шесть вмешательств, таких как показ постов в хронологическом порядке или продвижение противоположных точек зрения, но ни одно из них не решило проблему полностью, а некоторые даже усугубили негативные явления. Учёные из Вашингтонского университета полагают, что этот результат отражает «резонанс между человеческой природой и динамикой внимания социальных сетей» и что даже если алгоритм будет удален, архитектура системы все равно может сохранить токсичность.
Эксперты из Университета Индианы поставили под сомнение, что сами данные обучения ИИ могут содержать токсичность социальных сетей, из-за чего результаты экспериментов по своей сути оказываются смещенными в сторону поляризации. Исследователи из Нью-Йоркского университета считают, что, хотя простого решения не существует, пользователи, публикующие более нейтральный контент, могут помочь смягчить поляризацию.
Это исследование раскрывает основной механизм поляризации социальных сетей и показывает, что проблему трудно искоренить только с помощью технических корректировок, и для ее решения требуется сочетание многопартийных стратегий.