Власть и прогресс - Саймон Джонсон

А вот и самое важное: ИИ-алгоритмы начали организовывать новостную ленту каждого пользователя так, чтобы привлекать и удерживать его внимание – и, разумеется, самым прибыльным образом располагать в ней рекламу.

Кроме того, Facebook начал предлагать новые инструменты для рекламщиков, часто основанные на базовых ИИ-технологиях. Среди них – возможность выстраивать портрет «типичной аудитории», чтобы затем показывать рекламу людям с определенными демографическими характеристиками и находить схожие аудитории – то, что сама компания описывает так: «Путь вашей рекламы к людям, которых она, скорее всего, заинтересует, поскольку их характеристики схожи с характеристиками ваших актуальных клиентов».

Важнейшее преимущество соцсетей над поисковиками, когда речь идет о рекламе, – вовлеченность аудитории. Люди, когда ищут в поисковике, например в Google, какой-нибудь продукт или магазин, порой обращают внимание на рекламу; но поиск длится очень недолго, соответственно, и объем прибыли от продажи рекламы оказывается ограничен. Чем больше времени люди проводят у экрана, глядя на все, что перед ними выскакивает, тем больше будет прибыль от рекламы. Так что, работая над увеличением под постами количества «лайков» от друзей и знакомых, администрация Facebook работала на себя.

С первых дней для достижения этих целей Facebook играла с психологией пользователей, проводила систематическое тестирование и ставила эксперименты, определяя, какие типы постов и какой способ их подачи вызывают у пользователей наибольшее вовлечение и самую сильную реакцию.

Социальные отношения, особенно внутригрупповые, всегда окрашены чувствами неодобрения, отвержения, зависти. В наше время имеются обильные свидетельства того, что посты на Facebook вызывают не только негодование по поводу разных политических событий, но и сильные отрицательные эмоции в других социальных контекстах. И все эти эмоции используются для того, чтобы побуждать людей проводить на платформе больше времени. Так работают и сенсационные материалы, и тревога. Несколько исследований по социальной психологии показывают, что использование соцсетей тесно сплетено с чувствами зависти, неадекватности и часто провоцирует снижение самооценки.

Например, распространение фейсбука в студенческих кампусах оказало сильное негативное воздействие на психическое здоровье студентов: выяснилось, что Facebook часто становится причиной угнетенного состояния и депрессии. Кроме того, студенты в кампусе, у которых появлялся доступ к этой платформе, демонстрировали значительное ухудшение успеваемости – что указывало на то, что эти эффекты не ограничены внутренним миром, а проявляются и в объективно наблюдаемом поведении. Facebook же успешно монетизировала эти чувства: ведь и тревога, и неуверенность, и желание получить побольше одобрения работают одинаково – увеличивают время, которое человек проводит в соцсети.

Красноречиво сообщает об этом один амбициозный исследовательский проект. Исследователи предложили (подкрепив свое предложение поощрением) группе постоянных пользователей Facebook временно покинуть платформу, а затем сравнили их эмоциональное состояние и то, как они использовали свое время, с контрольной группой пользователей, никуда из Facebook не уходивших. Те, кого побудили бросить Facebook, посвящали больше времени иной социальной активности и в целом чувствовали себя значительно счастливее. Но когда эксперимент был окончен, они – возможно, подчиняясь социальному давлению сверстников или попыткам платформы заманить их обратно, – вернулись в Facebook… и вскоре и психическое состояние, и все остальное у них опустилось на прежний уровень.

Многие новые черты и алгоритмы Facebook, призванные повысить вовлечение пользователей, вводились стремительно, без особых выяснений, как они повлияют на психологию пользователя и на распространение дезинформации на платформе. Общий подход компании и ее инженеров к введению новых характеристик, направленных на вовлечение пользователей, выражается фразой, которую часто используют ее сотрудники: «Пофиг, пляшем!»

Однако речь не только о случайном ущербе, нанесенном в попытках достичь большей вовлеченности. Руководство Facebook вполне сознательно ставит максимизацию вовлечения превыше всего и не позволяет никаким иным соображениям встать у него на пути. Например, в 2012 году Facebook приобрела социальную сеть Instagram – с обещанием, что та останется независимой и будет принимать собственные бизнес-решения, в том числе по дизайну и рекламе. Но затем Сэндберг начала настаивать, чтобы рекламы в Instagram становилось все больше и больше.

Когда после президентских выборов в США в 2020 году Facebook решила изменить свой алгоритм так, чтобы он перестал продвигать лживые байки и сомнительные сайты, результаты оказались поразительными. Прекратилось вирусное распространение дезинформации и излияний вражды. Но через пять дней Facebook откатила назад все перемены и вернулась к прежним методам – главным образом потому, что, когда компания проверила воздействие новой политики на вовлеченность, оказалось, что люди, которых перестали провоцировать, пугать и злить, начали проводить на платформе меньше времени.

Все это время Цукерберг и Сэндберг, а также присоединившийся к ним позже Клегг защищали свои решения, апеллируя к неограниченной свободе слова. В ответ британский юморист Саша Барон Коэн объяснил в двух словах, в чем тут многие видят проблему:

«Свобода-то, оказывается, в том, чтобы собрать в одном месте таких подонков, каких свет не видывал, предоставить им самую мощную в истории платформу и позволить доставать треть планеты!»

Антидемократический поворот

Мы не сможем понять политический хаос, созданный социальными сетями, пока не признаем, что основной мотив их владельцев – выгода от таргетированной рекламы, побуждающая эти компании максимизировать присутствие пользователей и иногда провоцировать их на гнев. А таргетированная реклама, в свою очередь, была бы невозможна без сбора и обработки огромного массива данных.

Но мотив выгоды – не единственный фактор, толкающий развитие технологий в антидемократическом направлении. Не менее важную роль играет и видение, лежащее в основе деятельности этих компаний, – то, что мы назвали «иллюзией ИИ».

Как мы уже обсуждали в главе первой, демократия – это прежде всего множество и разнообразие голосов, в том числе особенно важных здесь голосов простых людей, которые слышны обществу и влияют на принятие политических решений. Понятие «публичной сферы», предложенное немецким философом Юргеном Хабермасом, фиксирует некоторые важнейшие черты здорового демократического дискурса. Хабермас показывает, что в центре демократической политики стоит «публичная сфера», определяемая как форумы, где индивидуумы вступают в новые контакты, образуют сообщества, обсуждают общественные и политические проблемы. Используя в качестве модели британские кофейни и французские салоны XIX века, Хабермас предположил, что важнейшая сторона публичной сферы – способность людей свободно участвовать в дискуссиях, представляющих интерес для всего общества, без жесткой иерархии, связанной с уже заданным статусом. Таким образом, публичная сфера порождает как форум, где можно услышать разнообразные мнения, так и трамплин, позволяющий этим мнениям повлиять на политику. Особенно эффективен форум, на котором люди могут обсуждать целый ряд пересекающихся друг с другом проблем.

В первые годы была надежда, что интернет-коммуникации породят новую публичную сферу – такую, где самые разные люди, не только родственники, соседи или сослуживцы, смогут свободно общаться и обмениваться мнениями.

К несчастью, интернет-демократия