Энциклопедия логических ошибок: Заблуждения, манипуляции, когнитивные искажения и другие враги здравого смысла - Иммануил Толстоевский

Представьте, что вы – полководец, который искренне верит: кто принесет больше жертв богам, тот и выиграет войну. Вы живете в мире, где боги наблюдают за людьми, прислушиваются к ним и даже временами торгуются. Следовательно, твердая вера и щедрые жертвы – возможность убедить более могущественного бога стать вашим союзником. Вопрос: вы выигрывали каждую войну, перед которой приносили жертвы? Нет. Однако вы используете эти данные не для того, чтобы опровергнуть свои убеждения, а для того, чтобы их подтвердить: «Враги сделали более щедрое жертвоприношение, их боги были в лучшей форме. Ладно-ладно, посмотрим, что будет дальше».

А что, если бы вы вместо этого, как истинный ученый, попытались опровергнуть свои теории и предположения? Может, вы и не сразу зареклись бы верить во всякие пустяки, провозгласив: «Покой – в атеизме!», но, вероятно, решили бы, что боги не вмешиваются в людские войны. Внимание, вопрос: эта новая теория усилит чувство единства и сплоченности вашей армии или ослабит его? Разгорится или угаснет ее стремление отправиться в долгий поход, требующий серьезного планирования и огромных расходов?

Похоже, в те времена, когда войны выигрывались не столько технологическим превосходством, сколько силой мышц и силой веры, необходимым условием выживания была хотя бы минимальная предвзятость подтверждения. Впрочем, это относилось и к мирным проектам: как еще организовать тысячи работников, чтобы изменить русло реки или построить порт? Так или иначе, предвзятость подтверждения помогает людям интерпретировать мир и быстрее переходить к совместным действиям.

•••

Однако не забывайте волшебную формулу: «В нормальных условиях». В мире потомков Homo analogus не осталось ничего нормального.

● Ежеминутно публикуется 360 тысяч твитов, ежегодно – целых 200 миллиардов.

● Ежесекундно загружается тысяча изображений в инстаграм.

● Ежесекундно просматривается 80 тысяч видео на ютьюбе{48}.

Это аномальный уровень активности для 1200-граммового антиквариата в нашей черепной коробке. Погружаться в соцсети с мозгом, предназначенным эволюцией для «подтверждения», все равно что идти в супермаркет с телом, предназначенным эволюцией для запасания сахара. На нас обрушивается все больше и больше информации, но это не делает нас ни мудрее, ни восприимчивее. Напротив, наши существующие убеждения «жиреют». И этот темп не замедлится:

● изобретение письменности и появление печатного станка Гутенберга разделяют 4500 лет;

● первые газеты и радио – 300 лет;

● ARPANET и Web – всего 20 лет.

Каждый последующий переворот в мире коммуникаций наступал приблизительно в 15 раз быстрее предыдущего. От эпохи одного телеканала до 1,7 миллиарда веб-страниц мы дошли всего за одно поколение. Сейчас, когда я пишу эту книгу, у фейсбука, которому всего 20 лет и в США ему даже не продадут алкоголь, больше подданных, чем у всех империй в истории. Представляете, с каким количеством логических ошибок вам придется сражаться через несколько лет даже за простейшую идею?

«Промывание мозгов»

В геометрической прогрессии растет не только частота случайных ошибок. Чем больше мы узнаем о закономерностях поведения, тем искуснее и эффективнее становится психологическое манипулирование. Троллинг, маркетинговые приемы, «производство согласия» (по выражению Ноама Хомски), «промывание мозгов» (по выражению вашего друга из кофейни) и т. д. Разные цели и разный бюджет, но мишень общая – наш разум. Манипулирование сознанием как гидра: отрубишь одну голову – вырастет другая.

•••

Скандал с компанией Cambridge Analytica, занимавшейся анализом данных для разработки стратегических коммуникаций, – злободневный пример такой гидры: еще до того, как попасть в новостные заголовки в связи с Брекзитом и предвыборной кампанией Дональда Трампа, она без разрешения обработала и проанализировала целых 87 миллионов профилей Facebook. А затем при помощи рекламной платформы Facebook она предложила пользователям персонализированную предвыборную пропаганду – на основе микротаргетинга{49}. Cambridge Analytica показывала рекламу, которая «выглядела как новости», угадывая, кому нужен позитивный посыл, кто склонен к страху, чей энтузиазм легко погасить… Таким нехитрым образом она сумела охватить ключевых (наиболее критически настроенных) избирателей в нужных местах посредством кампании стоимостью в несколько тысяч долларов – вместо традиционных методов вроде ТВ-рекламы, которая обычно обращается к широкой публике и стоит баснословных денег.

То, что эта услуга уже превратилась в «продукт», который предлагается консалтинговыми компаниями разным политическим силам в разных странах, дает нам намек на будущее демократии.

•••

Самое опасное, что соцсети не просто нейтральный «сервис», предлагающий нам все больше и больше информации (пропаганды, логических уловок…). Нет, само устройство соцсетей облегчает эксплуатацию когнитивных искажений – предвзятости подтверждения и не только. Мы больше не сортируем информацию, поступающую в сознание («Так, это мне полезно, а это бесполезно»), потому что можем напрямую фильтровать источники информации.

•••

Спросите себя, в очередной раз листая ленту в соцсетях: насколько вы терпимы к идеям, которые вас бесят? Много ли среди ваших сетевых «друзей» тех, кто придерживается другой идеологии или другого образа жизни? Допустим, вы готовы внимать чужим идеям – но ведь так легко заблокировать кого-то нажатием одной кнопки, заглушить его голос и даже попросить соцсеть: «Фильтруй не только этот пост, но и весь подобный контент». А те аккаунты, которые вы забанили в тот день, когда у вас было плохое настроение, – назавтра вы их разбаните?

Как бы мы ни сопротивлялись, алгоритмы соцсетей не дремлют, они возятся с нами 24 часа в сутки, без выходных. Контент, который нам подсовывают с пометкой «вам может это понравиться», делает нас пленниками эхо-камер, где мы слышим только голос единомышленников. Результат?

● «Жителей Турции стерилизуют при помощи продуктов с ГМО» – 59 % согласны;

● «Немцы завидуют Третьему аэропорту[109]» – 48 % согласны;

● «Миром управляют пять семей» – 48 % согласны.

«Люди настолько зажаты в тисках собственной идентичности, что не способны мыслить разумно… У них нарушена связь с реальностью»[110].

•••

Противоположные взгляды попадают в эти эхо-камеры только для того, чтобы высмеивать их, извращая, или изрыгать ненависть по их поводу. Например, в среднестатистической левой среде едва ли станут обсуждать аккуратно сформулированные мысли либеральных экономистов. Но стоит им сказать глупость (или стоит кому-то подать сказанное ими как «глупость») – их поднимут на вилы. Со временем посты про либерализм, которые вы видите в своем окружении, будут в лучшем случае карикатурами, а ваши взгляды закостенеют окончательно. Впрочем, в либеральных кругах то же самое происходит с левыми идеями.

Я хочу сказать, что основной вред эхо-камер не в том, что они скрывают реальность путем цензуры, а в том, что они создают альтернативную реальность, и мы совершенно добровольно обрекаем себя на заточение в ней.

В системе, где число коммуникаций многократно увеличивается, часть этих связей профессионально «спроектирована», почти все, кого вы слышите, – ваши единомышленники, а противники представлены карикатурами и ограничены 280 символами твита, вы не сможете познать ни жизнь, ни самих себя.

•••

Опоздав с адаптацией к этому дивному новому миру, мы, как та рыба, которая не знала, что такое «вода», поскольку всю жизнь провела в море, забудем о самом существовании логических ошибок и уловок – ведь эта среда стала для нас естественной.

Опасность в том, что поверхностное знакомство с когнитивными искажениями, такими как предвзятость подтверждения, может усилить поляризацию, вместо того чтобы ее ослабить. К лагерям, существующим в нашем восприятии, добавится еще одно разделение: на тех, кто подвержен когнитивным искажениям, и тех, кто не подвержен. Люди, которые искренне верят, что способны заметить это воздействие в любой ситуации, потому что читали о нем в книгах, а заметив, контролировать его, склонны считать себя выше других. Следовательно, если вы не трансформируете сам процесс получения и обработки информации, то единственное, что вас ждет, – продолжение прежней борьбы при помощи нового, все более и более разрушительного оружия.

Пока мы исследуем собственные когнитивные искажения, пока пытаемся защититься от контента, который нами манипулирует, и (самое главное) пока не относимся к себе слишком серьезно и не считаем себя лучше окружающих, знание о логических несообразностях будет для нас надежным путеводителем по этому шумному миру.

Пришло время