Как алгоритм и дизайн TikTok формируют поведение пользователей

Прочитано: 66 раз(а)


Быстрое восхождение TikTok в высшие эшелоны социальных сетей часто объясняется его алгоритмом рекомендаций, который настолько точно предсказывает предпочтения зрителей, что породил изречение: «Алгоритм TikTok знает меня лучше, чем я знаю себя». Успех платформы был настолько заметен, что, похоже, побудил другие платформы социальных сетей изменить свой дизайн. Когда пользователи просматривают X или Instagram (запрещена в РФ), они теперь видят больше рекомендуемых публикаций из аккаунтов, на которые они не подписаны.

Однако, несмотря на все это влияние, общественность мало знает о том, как работает алгоритм TikTok . Поэтому Франциска Роснер, доцент Школы компьютерных наук и инженерии Пола Аллена Вашингтонского университета, приступила к исследованию того, как персонализируется этот алгоритм и как пользователи TikTok взаимодействуют с платформой на основе этих рекомендаций.

В мае этого года Рознер и его коллеги представят две статьи, в которых будут анализироваться реальные данные, чтобы помочь понять «черный ящик» алгоритма рекомендаций TikTok и его влияние.

Исследователи сначала набрали 347 пользователей TikTok, которые загрузили свои данные из приложения и пожертвовали 9,2 миллиона видеорекомендаций. Используя эти данные, команда сначала посмотрела, как TikTok персонализирует свои рекомендации. Команда обнаружила, что из первых 1000 видеороликов, которые TikTok показал пользователям, от трети до половины видео были показаны на основе прогнозов TikTok о том, что нравится этим пользователям. Исследователи опубликуют первую статью 13 мая в материалах веб-конференции ACM 2024.

Второе исследование , которое команда представит 14 мая на конференции ACM CHI по человеческому фактору в вычислительных системах в Гонолулу, изучало тенденции взаимодействия. Исследователи обнаружили, что за первые 120 дней среднее время пребывания пользователей на платформе увеличилось примерно с 29 минут в первый день до 50 минут в последний.

UW News поговорил с Рознером о том, как TikTok рекомендует видео; влияние, которое оказывает на пользователей; и способы, которыми технологические компании, регулирующие органы и общественность могут смягчить нежелательные последствия.

Что нам важно понять о том, как работает алгоритм TikTok?

У пользователей TikTok часто возникают вопросы типа: «Почему мне показали этот контент? Что TikTok знает обо мне? Как он использует то, что знает обо мне? И так ли это?» Итак, мы рассмотрели, что TikTok показывает людям и по каким критериям. Если мы лучше поймем, как работает алгоритм, мы сможем спросить, нравится ли нам, как он работает.

Например, если алгоритм использует слабости людей в отношении определенных типов контента, если он прогнозирует, что я с большей вероятностью буду восприимчив к определенному типу дезинформации, это может подтолкнуть меня в определенные кроличьи норы, которые могут быть для меня опасными. . Возможно, они вводят меня в заблуждение или усугубляют проблемы с психическим здоровьем или расстройства пищевого поведения. Алгоритм является своего рода черным ящиком для общественности и регулирующих органов. И в какой-то степени, вероятно, это касается самого TikTok. Это не значит, что кто-то пишет код, нацеленный на человека, уязвимого к расстройству пищевого поведения. Алгоритм просто делает прогнозы на основе набора данных. Поэтому мы, как исследователи, заинтересованы в функциях, которые он использует для прогнозирования, потому что мы не можем по-настоящему понять, является ли прогноз проблематичным и почему, не понимая их.

Мы также рассмотрели, как люди взаимодействуют с алгоритмом TikTok, как мы его понимаем. Эти соображения идут рука об руку. Как специалист по безопасности и конфиденциальности, меня всегда очень интересовало, как люди взаимодействуют с технологиями и как их проекты формируют то, что мы читаем, во что верим и чем делимся. Таким образом, исследование человеческого опыта помогает понять влияние алгоритма и конструкции платформы.

Что вы узнали из этих исследований?

Одна вещь, которая меня немного удивила, заключалась в том, что те из нас, кто использует TikTok — а я использую TikTok — вероятно, тратят на него больше времени, чем нам хотелось бы признать. Еще меня немного удивило, что люди досматривают до конца только около 55% видео. Мы спорили, много это или мало. Это часть дизайна платформы: как только вы получите от этого видео все, что хотели, вы двигаетесь дальше? Или это признак того, что даже этот хорошо настроенный алгоритм рекомендаций работает не так хорошо? Я не знаю, что это такое. Но полезно, по крайней мере, иметь базовый уровень, с которым можно сравнивать будущие результаты.

Еще одним важным выводом было изучение того, какие функции влияют на то, какие видео алгоритм показывает вам. Сколько агентства потенциально может отобрать у нас TikTok? Насколько хорошо он предсказывает, что мы, скорее всего, захотим посмотреть? Как эти штуки становятся кроличьими норами?

В ходе исследования мы пометили каждое видео на временной шкале пользователя как «исследовательское видео» или «видео эксплуатации». Исследовательское видео не связано с видео, которые пользователь видел раньше — например, нет похожих хэштегов или авторов. Идея состоит в том, что алгоритм, показывающий вам что-то новое, имеет определенную ценность. Возможно, в том, чтобы не загонять вас в кроличью нору, есть социальная ценность. Вероятно, TikTok также имеет ценность, потому что чем больше вы видите одно и то же, тем больше вам становится скучно. Они хотят бросить спагетти в стену и посмотреть, что прилипнет.

Видео эксплуатации больше похожи на: «Мы знаем, что вам нравится, мы собираемся показать вам больше видео, связанных с этим». В ходе исследования мы посмотрели, какая часть видео носит исследовательский характер, а какая — эксплуататорская. Мы обнаружили, что в первых 1000 видео, просмотренных пользователями, TikTok использовал интересы пользователей в 30–50 % случаев. Затем мы посмотрели, чем отличаются видео и как к ним относится TikTok. Например, если вы подписаны на кого-то, у вас значительно больше шансов увидеть видео от него. Наверное, это неудивительно. Однако, судя по нашим данным, более быстрая прокрутка видео не так сильно влияет на работу алгоритма.

Мы также обнаружили, что люди меньше досматривали видео из аккаунтов, на которые они подписаны, но больше с ними взаимодействовали. Мы предположили, что если кто-то видит видео своего друга, возможно, ему это не так интересно и он не хочет смотреть, но он все равно хочет выразить поддержку, поэтому вовлекается.

В этих статьях вы делаете несколько предложений по смягчению потенциальных негативных последствий дизайна TikTok. Не могли бы вы объяснить некоторые из них?

Мы обнаружили, что предоставленные данные не были достаточно полными, чтобы мы могли ответить на все вопросы, которые у нас были. Таким образом, существует некоторая непрозрачность данных, которые пользователи могут загрузить, и алгоритма в целом. Мы видели это в других исследованиях. Люди ознакомились с раскрытием информации о таргетинге рекламы в Facebook (запрещена в РФ). Если вы спросите, почему вы видите это объявление, оно обычно предлагает самые широкие критерии из всех, которые были включены — например, вам больше 18 лет и вы находитесь в Соединенных Штатах. Да, но еще и потому, что вы вчера посетили этот веб-сайт продукта. Но компания этим не делится. Мне бы хотелось видеть больше прозрачности в использовании данных людей. Изменит ли это поведение человека – другой вопрос. Но я считаю обязанностью платформы помочь нам это понять.

Это также связано с регулированием. Даже если эта информация не меняет поведение человека, жизненно важно иметь возможность проводить исследования, которые показывают, например, как уязвимые группы населения непропорционально подвергаются воздействию определенного типа контента. Такого рода нацеливание не обязательно является преднамеренным, но если вы не знаете, что это происходит, вы не сможете это остановить. Мы не знаем, как эти платформы проводят внутренний аудит, но всегда полезно иметь внешних аудиторов с разными стимулами.

До того, как у нас появились эти платформы, мы лучше понимали, как определенный контент попадает к определенным людям, потому что он появляется в газетах или на рекламных щитах. Сейчас мы имеем ситуацию, когда у каждого есть своя маленькая реальность. Поэтому трудно рассуждать о том, что люди видят, почему и как все это согласуется друг с другом (не говоря уже о том, что с этим делать), если мы даже не можем этого увидеть.

Что людям важно знать о TikTok?

Осведомленность полезна. Помните, что платформа и алгоритм формируют то, как вы смотрите на мир и как взаимодействуете с контентом. Это не всегда плохо, это может быть хорошо. Но дизайн платформы не является нейтральным, и он влияет на то, как долго вы смотрите и что вы смотрите, а также на то, что вас злит или беспокоит. Просто помните, что алгоритм показывает вам вещи во многом потому, что он предсказывает то, что вы, возможно, захотите увидеть. И есть другие вещи, которые вы не видите.

Среди других соавторов статей были Каран Вомбаткере из Бостонского университета; Сепер Мусави, Оливия Немес-Немет, Анжелика Гетцен и Кришна П. Гуммади из Института программных систем Макса Планка; Ошрат Аялон из Хайфского университета и Института программных систем Макса Планка; Саввас Занетту из Делфтского технического университета; и Элисса М. Редмилс из Джорджтаунского университета.

Как алгоритм и дизайн TikTok формируют поведение пользователей



Новости партнеров