Власть и прогресс - Саймон Джонсон

термин «информационный пузырь», описывая, как фильтры алгоритма создают искусственный пузырь, в котором люди слышат только те точки зрения, что соответствуют их уже имеющимся политическим взглядам.

Воздействие информационных пузырей пагубно. Пользователям, симпатизирующим правой идеологии, Facebook чаще показывает «правые» материалы, и наоборот. Исследования показали, что в результате информационные пузыри облегчают распространение дезинформации в соцсетях: подборка новостей, которые алгоритм показывает людям, направляет их мысли в определенную сторону и мешает воспринимать критически то, что они видят. Этот эффект информационного пузыря выходит далеко за пределы соцсетей. Недавно было проведено исследование, в котором регулярных зрителей «Фокс ньюс» различными «наградами» поощряли смотреть Си-эн-эн: выяснилось, что знакомство с контентом Си-эн-эн смягчает их взгляды и побуждает скорректировать свою политическую позицию по ряду вопросов. Основная причина такого воздействия, по-видимому, в том, что «Фокс ньюс» преувеличивает одни факты и скрывает другие, подталкивая своих зрителей в «правом» направлении. Существует все больше свидетельств, что в соцсетях этот эффект проявляется еще сильнее.

Хотя роль Facebook в президентских выборах 2016 года вызвала оживленные дискуссии в СМИ и даже слушания в Сенате, к 2020 году почти ничего не изменилось. Дезинформация на платформе росла и множилась; активное участие в этом принял сам президент Дональд Трамп, рассказывавший о манипуляциях с голосованием по почте и о том, что против него голосовали орды иммигрантов, не имеющих гражданства США. Он неоднократно использовал социальные сети для призывов прекратить подсчет голосов.

Во время предвыборной гонки Facebook также оказалась в центре скандала из-за отредактированного видео Нэнси Пелоси, на котором та говорила, растягивая слова, и в целом выглядела нездоровой – создавалось впечатление, что она пьяна или больна. Фальшивое видео перепостили сторонники Трампа, в том числе Руди Джулиани, и хештег DrunkNancy [Пьяная Нэнси – прим. пер.] начал набирать популярность. Скоро видео сделалось вирусным и привлекло более 2 млн просмотров. Спокойно циркулировали в соответствующих информационных пузырях на фейсбуке и самые безумные конспирологические теории из репертуара Кьюанона. Документы, предоставленные в Конгресс США, Федеральную торговую комиссию и Государственную комиссию по ценным бумагам бывшей сотрудницей Facebook Фрэнсис Хауген, показали, что руководство компании во многих случаях было об этом осведомлено.

Под напором общественного давления главный пресс-секретарь Facebook, бывший заместитель британского премьер-министра Ник Клегг, попытался защитить политику компании, заявив, что социальную сеть следует рассматривать как теннисный корт:

«Наша работа – подготовить корт: убедиться, что площадка ровная, разметка на месте, сетка висит на правильной высоте. Но брать ракетку и начинать игру – не наша задача. Как играют спортсмены – вопрос к ним, а не к нам».

Сразу после выборов Facebook ввела чрезвычайные меры, изменив свои алгоритмы таким образом, чтобы остановить распространение правых конспирологических теорий, гласящих, что в действительности выборы выиграл Трамп, однако у него украли голоса фальсификациями и вбросами. Но к концу декабря алгоритм платформы вернулся на круги своя и открыл «корт», чтобы сторонники Трампа попытались взять реванш.

Несколько радикальных правых групп, как и сам Дональд Трамп, продолжали распространять дезинформацию – и 6 января 2021 года в Вашингтоне произошли беспорядки, как мы теперь знаем, организованные отчасти именно на платформах Facebook и других соцсетей. Например, члены крайне правой вооруженной группировки «Хранители присяги» именно в Facebook договаривались, когда и где встречаются; еще несколько экстремистских группировок 6 января обменивались в чатах этой платформы сообщениями в реальном времени. Один из лидеров «Хранителей присяги» Томас Колдуэлл, ворвавшись в Капитолий, постил апдейты о своих действиях, получал с платформы информацию о том, как сориентироваться в здании, и призывал к насилию против полиции и служителей порядка.

Дезинформация и язык вражды беспрепятственно распространяются не только в Facebook. Около 2016 года в один из самых мощных рассадников ультраправой идеологии превратился YouTube. В 2019 году Калеб Кейн, двадцатишестилетний молодой человек с неоконченным высшим образованием, создал видео о YouTube, объясняющее, как платформа радикализировала его взгляды.

«Я начал падать в кроличью нору альт-райтов, – заявил он, – и долетел до самого дна».

Калеб объяснил, как «погружался все глубже и глубже», просматривая все более и более радикальный контент, который рекомендовали ему алгоритмы YouTube. Журналист Роберт Эванс исследовал пути, которыми ультраправые группировки вербуют в свои ряды обычных людей по всей стране, и заключил: сами эти группы на своих сайтах чаще всего упоминают YouTube, и

«15 из 75 фашистских активистов, которых мы изучили, говорят, что видео с YouTube стали для них „красной таблеткой“».

«Красная таблетка» – жаргон, используемый в этих группировках, с отсылкой к фильму «Матрица». Герой фильма, приняв красную таблетку, начал видеть истинное положение вещей; YouTube для крайне правых – такой же инструмент «прозрения» и распространения их «истин».

Что же стало этому причиной? В первую очередь, алгоритмы YouTube и стремление увеличить время, проводимое пользователем на платформе. Чтобы повысить время просмотров, в 2012 году компания модифицировала свой алгоритм так, что он уделял основное внимание уже не просто переходу по ссылкам, а тому, сколько времени пользователь проводит у экрана. В результате преимущество получали видео, к которым люди «приклеивались» и не могли оторваться – в том числе ролики с самым экстремистским, поджигательским содержанием, вроде тех, на которые подсел Калеб Кейн.

В 2015 году платформа привлекла команду исследователей из своей «материнской» организации, Google Brain, чтобы улучшить свой алгоритм. В результате новые алгоритмы привели к еще большей радикализации пользователей – разумеется, заодно с увеличением времени просмотров. Один из сотрудников Google Brain, Минмин Чен, на конференции по ИИ похвалялся тем, что новый алгоритм успешно меняет поведение пользователей:

«Мы не просто рекомендуем пользователям уже знакомый контент – мы можем по-настоящему привести их в иное состояние!»

Идеальный механизм для маргинальных группировок, стремящихся радикализировать свою аудиторию. Это означало, например, что пользователь, просматривавший ролики о событиях 11 сентября 2001 года, быстро начинал получать в рекомендациях ссылки на видео с конспирологическими объяснениями этих событий. Учитывая, что около 70 % всех видео, просматриваемых на этой платформе, исходит из рекомендаций алгоритма, это означало такой объем дезинформации и манипуляций, который и здравомыслящего человека запросто спихнет в «кроличью нору»!

То же можно сказать и о Twitter. Эта социальная сеть, столь любимая бывшим президентом Трампом, сделалась важным средством коммуникации между правыми группировками (впрочем, как и левыми). Антимусульманские твиты Трампа широко распространялись – и порождали не только новые антимусульманские и ксенофобские высказывания на этой же платформе, но и реальные преступления ненависти против мусульман, особенно в тех штатах, где поддержка президента была выше.

Впрочем, самый откровенный язык вражды и самая последовательная пропаганда ненависти концентрировались на других платформах: 4chan, 8chan и Reddit, в том