Алгоритм X должен угадывать, что вам интересно. Но исследование показывает: иногда он особенно усердно продвигает посты, которые расходятся с вашими убеждениями. Возможно, причина проста и слегка унизительна для человечества: люди чаще спорят с тем, что их раздражает, а алгоритм принимает этот спор за знак интереса.
Исследование опубликовано в журнале Proceedings of the National Academy of Sciences. Его авторы изучили, как лента X — платформы, прежде известной как Twitter, — соотносится с ценностями пользователей.
Соцсети формируют персональную ленту с помощью автоматических систем ранжирования. Они отбирают публикации из большого массива постов, в том числе от аккаунтов, на которые человек подписан, и решают, что показать выше. Главная цель — удержать внимание: система старается предсказать, какие записи вызовут больше реакций.
В этой логике лайк, репост или комментарий выглядят как голос «хочу ещё». Но есть небольшая загвоздка: человек может активно реагировать не потому, что ему нравится увиденное, а потому, что оно его злит. Алгоритм, который считает все взаимодействия одинаковым признаком интереса, рискует принять возмущение за одобрение. Технология, как выясняется, тоже не всегда различает симпатию и перепалку.
Команда под руководством Зива Эпштейна из Массачусетского технологического института и Майкла С. Бернстайна из Стэнфордского университета решила сравнить ценности, о которых люди заявляют, с теми, что представлены в контенте, продвигаемом алгоритмом.
Для анализа исследователи использовали теорию базовых человеческих ценностей социального психолога Шалома Шварца. Она описывает 19 мотиваций, встречающихся в разных культурах: например, стремление к безопасности и порядку, уважение к традициям, открытость переменам и заботу о других. Если приложить эту схему к публикациям в соцсетях, можно оценить, какие моральные и общественные идеи чаще попадают в поле зрения пользователей.
В исследовании участвовали 715 взрослых жителей США, активно пользовавшихся X. Они установили специальное расширение для браузера, которое фиксировало публикации в двух лентах.
Первая — Following, то есть лента постов от аккаунтов, на которые подписан пользователь, без алгоритмического ранжирования. Вторая — For You, персональная подборка, которую система считает подходящей именно этому человеку.
Затем специальная модель искусственного интеллекта анализировала тексты публикаций и определяла, какие ценности в них выражены. Сравнив исходный поток постов с алгоритмической подборкой, исследователи оценили, какой контент система чаще продвигала, а какой отодвигала.
Сначала всё выглядело довольно логично: пользователи в основном подписывались на аккаунты, чьи ценности совпадали с их собственными. В неранжированной ленте публикации в целом отражали взгляды, о которых участники сообщили в опросах.
А вот после вмешательства алгоритма картина переворачивалась. Исследователи обнаружили отрицательную связь между заявленными ценностями человека и ценностями, которые чаще усиливала лента For You. Иными словами, система в среднем продвигала контент, не совпадавший с убеждениями пользователя.
На общем уровне алгоритм слегка отдавал предпочтение индивидуалистическим ценностям перед коллективистскими. Он чаще усиливал публикации о сохранении порядка и стабильности — например, о соблюдении правил, общественной безопасности и традициях. А посты, связанные с заботой о других, надёжностью и защитой природы, получали меньше поддержки.
Исследователи также сравнили результаты для пользователей с разными политическими взглядами. Несовпадение между ценностями человека и продвигаемым контентом обнаружилось у представителей обеих партийных сторон, но у демократов разрыв был заметнее.
Чтобы понять, откуда берётся эта странная механика, команда отдельно изучила поведение участников в течение 24 часов после первоначального сбора данных. Реакции разделили на лайки, репосты и ответы.
Лайки и репосты чаще относились к публикациям, которые соответствовали ценностям пользователей. Это похоже на обычное одобрение: человек поддержал материал — алгоритм получил достаточно понятный сигнал.
С ответами всё оказалось менее однозначно. Пользователи чаще отвечали на посты, которые хуже совпадали с их убеждениями, — вероятно, вступая в спор или выражая несогласие. Особенно заметно это было у демократов: их ответы в среднем немного расходились с заявленными ценностями.
Алгоритм X придаёт ответам большой вес при выборе публикаций для продвижения. Поэтому авторы исследования предполагают, что возникает замкнутый круг: пользователь спорит с неприятным ему постом, система видит активность и показывает больше похожего. В результате лента начинает подсовывать не то, с чем человек согласен, а то, на что он не может не отреагировать. Удобная схема для удержания внимания — если не считать, что внимание это вовсе не всегда удовольствие.
В заключительной части исследования команда рассмотрела показатели вовлечённости публикаций в целом по платформе. Оказалось, что популярный контент в среднем ближе к ценностям республиканцев. Это может означать, что пользователи с правыми взглядами чаще встречают публикации, соответствующие их убеждениям, и им реже приходится попадать в цикл конфликтных ответов, который, по предположению авторов, сильнее влияет на ленту пользователей с левыми взглядами.
Однако исследование наблюдательное: учёные фиксировали естественное поведение пользователей, но не меняли алгоритм в контролируемом эксперименте. Поэтому оно не доказывает, что именно конфликтные ответы — единственная причина расхождения между ценностями и содержанием ленты. Чтобы установить причинно-следственную связь, нужны эксперименты, а также повторные исследования на более крупных и разнообразных выборках.
И всё же результаты поднимают неудобный вопрос о том, какое поведение соцсети должны поощрять. Если система учится прежде всего на трении и спорах, она будет снова и снова создавать среду, которая раздражает пользователей, — а затем считать их раздражение доказательством успеха.
Исследование Value misalignments in X’s feed algorithm is a reflection of value tensions in engagement подготовили Зив Эпштейн, Фарназ Джаханбахш, Тициано Пиккарди, Аксель Пейтавин, Изабель Гальегос, Шардул Сапкота, Дора Чжао, Йохан Угандер и Майкл С. Бернстайн.