Алгоритм рекомендаций социальной сети X, принадлежащей Илону Маску, сильнее заточен под вовлечение пользователей в конфликты, чем под их реальные ценности. К такому выводу пришли авторы исследования, опубликованного в Proceedings of the National Academy of Sciences (PNAS). Работа под названием «Value misalignment of X’s feed algorithm is a reflection of value tensions in engagement» показала, что лента «Для вас» формируется в первую очередь на основе engagement-метрик, причём решающую роль играют ответы на посты, а не лайки или репосты.
Исследователи из Стэнфордского университета и других научных центров собрали данные 715 активных пользователей X в сентябре и октябре 2024 года. Выборка была репрезентативной по этнической принадлежности, полу и партийной принадлежности. Участники установили браузерное расширение, которое собирало их ленты «Для вас» и «Подписки». Затем учёные сопоставили контент в лентах с ценностями пользователей, которые те декларировали с помощью опросника на основе теории базовых ценностей Шварца — инструмента, измеряющего 19 типов ценностей, от «толерантности» до «доминирования».
Главный вывод: алгоритм X систематически показывает пользователям контент, который противоречит их заявленным ценностям, но при этом вызывает эмоциональную реакцию. «Когда мы смотрим на комментирование, то есть на ответы на посты, мы видим значимое несоответствие между ценностями людей и ценностями контента, на который они отвечают», — пояснил соавтор исследования Зив Эпштейн, постдокторант Стэнфорда. Реплаи составили лишь 6,8% всех взаимодействий, но именно они оказывали наибольшее влияние на алгоритм. «Алгоритм учится на том, что вас раздражает, и продолжает показывать больше такого контента, — добавил Эпштейн. — Это петля обратной связи, подпитывающая ражбейт».
Исследование PNAS с выборкой 715 активных пользователей X показало, что алгоритм чаще показывает ragebait демократам, чем республиканцам.
Особенно ярко этот эффект проявился у пользователей, идентифицирующих себя как демократов. Им алгоритм подсовывал больше контента, вызывающего гнев, чем республиканцам. Авторы предполагают, что это может быть связано с тем, что демократы чаще вступают в дискуссии с неугодными им постами, тем самым давая алгоритму сигнал усиливать подобный контент. «Демократы сталкиваются с обилием контента, не соответствующего их ценностям, и отвечают на него, а алгоритм предпочтительно учится на этих ответах и продолжает кормить их таким контентом», — говорится в исследовании. Впрочем, точная причина такого дисбаланса пока не установлена: возможно, на X в целом больше правоконсервативного контента, или демократы чаще реагируют на то, с чем не согласны.
Исследование носит наблюдательный характер, и авторы не делают окончательных выводов о причинно-следственных связях. Однако они подчёркивают важность проблемы: алгоритмы социальных сетей обладают огромной властью, формируя информационную среду, но их работа остаётся непрозрачной. «Эти алгоритмы имеют огромное влияние на нашу жизнь, они формируют информацию, которую мы потребляем, и у нас очень мало прозрачности в отношении того, как они работают и каковы их последствия», — отметил Эпштейн. По его словам, результаты имеют значение для гражданского общества и борьбы с «технофеодальными» тенденциями платформ, контролирующих алгоритмы.
Работа также поднимает вопрос о том, насколько рекомендательные системы соответствуют интересам пользователей. Если алгоритм X оптимизирован под engagement, а не под удовлетворение потребностей аудитории, это может вести к поляризации и росту конфликтности в обществе. Исследователи призывают к дальнейшему изучению этой динамики и к разработке механизмов, которые позволили бы пользователям лучше понимать, почему они видят тот или иной контент.
