Мир-фильтр. Как алгоритмы уплощают культуру - Кайл Чейка

контента. На главной странице этого аккаунта оказались все восемь фильмов франшизы “Форсаж”; по сути, фильмы “Форсаж” рекомендовали всем аккаунтам Пайковича, хотя это не всегда было оправдано – если только не учитывать тот факт, что Netflix платит большие деньги за соответствующую лицензию. Алгоритм “по умолчанию рекомендовал контент с высокой вероятностью вовлеченности пользователей и делал это под видом персонализации”, – написал экспериментатор. Возможно, вам нравятся фильмы “Форсаж”, потому что они нравятся многим людям в целом, но это отлично от ситуации с человеком, для которого “Форсаж” является объектом его конкретных предпочтений. В конечном счете такие рекомендации Netflix направлены не столько на поиск контента, соответствующего предпочтениям пользователя, сколько на предложение того, что уже популярно или доступно – это иллюзия вкуса. В 2023 году Netflix выкладывал для стриминга менее четырех тысяч фильмов – гораздо меньше, чем предлагалось в одном из крупных магазинов сети Blockbuster до ее исчезновения, где часто выставляли до шести тысяч фильмов. Рекомендации создают иллюзию разнообразия и глубины, которой в реальности не существует.

Выхолощенное значение вкуса в эпоху Мира-фильтра имеет нечто общее с тем, как цифровые платформы измеряют вовлеченность: это мгновенное суждение, основанное преимущественно на том, вызывает ли что-то немедленную симпатию или антипатию. Теряется моральный потенциал вкуса, идея того, что он в целом ведет человека в сторону лучшего общества и лучшей культуры. Вместо этого вкус превращается в форму консьюмеризма, когда решающим словом в определении вашей идентичности является то, что вы покупаете или смотрите, и это диктует ваше будущее потребление.

Выдуманные Пайковичем пользователи Netflix – не совсем обычные примеры: мало кто из потребителей настолько сильно концентрируется на определенной категории, и поэтому реальные домашние страницы, скорее всего, окажутся более разнообразными. Однако механизм рекомендаций и адаптация изображений миниатюр служат уплощению нашего восприятия культуры и ограничивают возможности расширения кругозора. Направляя нас в конкретные категории с помощью мягкого принуждения, алгоритм Netflix в итоге определяет наш вкус как нечто фиксированное, становящееся все более жестким при каждом очередном взаимодействии с платформой, все глубже загоняя нас в определенную ячейку. Даже если рекомендации точны, они могут выступать в роли ограничителя. Как пишет Пайкович, “петли обратной связи усиливают уже существующие предпочтения пользователей, ухудшают взаимодействие с разнообразными культурными предложениями и лишают искусство, эстетику и культуру их конфликтной роли в обществе”. Это отсутствие конфликта вызывает беспокойство. Дело не в том, что великое искусство должно быть по своей сути неприятным; просто, когда все соответствует устоявшимся ожиданиям, мы лишаем себя культуры, которая действительно прогрессивна и некомфортна, которая может подрывать существующие категории, а не вписываться в них.

Spotify работает так же, как Netflix, распределяя пользователей по заранее определенным категориям вкуса, и, как и у других платформ, его алгоритм чаще всего ошибочен, предвзят и не отличается нейтральностью. В сентябре 2019 года звезда кантри Мартина Макбрайд попыталась создать на Spotify плейлист кантри-музыки. Эта платформа может автоматически рекомендовать песни для добавления в плейлист. Макбрайд обнаружила, что алгоритм четырнадцать раз подряд предлагал только мужчин, и только потом там появилась первая женщина. Шокированная Макбрайд написала в Инстаграм: “Это лень? Дискриминация? Глухота? Оторванность от жизни?”

Джада Уотсон, профессор Оттавского университета, изучающая эфир кантри-радиостанций, попробовала сделать то же самое и получила аналогичный результат: двенадцать обновлений предлагали исключительно музыкантов-мужчин. Хотя в исследовательских целях Уотсон использует Spotify исключительно для прослушивания женщин, она обнаружила, что “в первые 200 композиций (19 обновлений) входили только 6 песен женщин (3 %) и 5 песен смешанных ансамблей (3 %), причем все они появились после 121 композиции исполнителей-мужчин”. Подобные рекомендации явно не имели ничего общего с остальной музыкой, которую она слушала на Spotify. Макбрайд обнаружила, что функция рекомендации плейлистов базируется вовсе не на предпочтениях пользователя, а на названии плейлиста. Так, согласно алгоритму Spotify, можно предположить, что кантри-музыка ассоциируется с мужчинами, и эта формула сохранялась даже тогда, когда Уотсон составила плейлист под названием “Кантри-музыка, исполняемая музыкантами с вагинами”. Предвзятый алгоритм предвзято определил жанр. Это “очень узкий взгляд на то, чем является музыка кантри”, сказала мне Уотсон. Несмотря на стремление к персонализации, Spotify в данном случае создал вакуум разнообразия.

В 2014 году Кристиан Сандвиг из Microsoft Research (исследовательского подразделения Microsoft) опубликовал в блоге своей организации пост, где ввел термин “недостоверная персонализация”, описывающий такие негодные рекомендации, как манипулятивные изображения-миниатюры для фильмов Netflix и однородные плейлисты Spotify. “Недостоверная персонализация – это процесс, в ходе которого ваше внимание привлекают к интересам, которые не являются вашими собственными”, – отмечал Сандвиг. Подобная система рекомендаций “служит коммерческим интересам, которые часто расходятся с нашими собственными”. В случае с Netflix вводящие в заблуждение изображения и вездесущие предложения “Форсажа”, возможно, используются для повышения вовлеченности пользователей, заставляя людей поверить, что они получают пользу от сервиса, и, соответственно, продлить подписку, способствуя развитию компании.

Другие примеры недостоверной персонализации: Amazon на своем сайте отдает первые позиции собственным брендам, а Google Search считает лучшими источниками информации другие продукты компании – например, Google Maps. Компания получает прибыль, однако пользователь может пострадать, и это ухудшает общую культурную экосистему. Сандвиг писал: “Со временем, если людям достаточно часто предлагают вещи, не соответствующие их интересам, их можно убедить, что именно это они и хотят… Они могут ошибочно поверить, что это и есть их подлинные интересы, и им будет трудно воспринимать мир по-другому”. Интернет все больше превращается в серию “пузырей”, самоусиливающихся пространств, в которых становится все труднее найти разнообразие точек зрения. Эта идея хорошо известна в политике: и либералы, и консерваторы в основном потребляют цифровой контент, отражающий их убеждения, – однако она применима и к культуре. В вопросах личного вкуса сложно понять, что вам нравится, но не менее трудно осознать, что вам что-то не нравится или не нужно, – в то время, когда подобные вещи настойчиво преподносят под маркой For You (“Для вас”). В Мире-фильтре все труднее доверять себе или понимать, кто есть “вы” в восприятии алгоритмических рекомендаций.

В 2011 году писатель и интернет-активист Эли Паризер опубликовал книгу “За стеной фильтров”[33], в которой описал, как алгоритмические рекомендации и другие методы цифровой коммуникации могут изолировать интернет-пользователей, заставляя их встречаться исключительно с идеологией, которая соответствует их собственной. За последующее десятилетие концепция “пузырей фильтров” активно обсуждалась – особенно в контексте политических новостных медиа. Некоторые исследования (например, книга Акселя Брунса “Реальна ли стена фильтров?”, опубликованная в 2019 году[34]) пришли к выводу, что их влияние ограничено. Другие научные работы, как, например, исследование пузырей фильтров, опубликованное в 2016 году в журнале Public Opinion Quarterly,