Рациональность. Что это, почему нам ее не хватает и чем она важна - Стивен Пинкер

Есть и более высокая цель — справедливость. Нельзя формировать отношение к человеку, опираясь на его расу, гендер или национальность, нельзя судить о нем не по его личным качествам, а по цвету кожи или набору хромосом. Каждый из нас хочет к себе непредвзятого отношения, и согласно логике беспристрастности (глава 2) мы должны признавать это право и за всеми остальными.

Более того, только если общественное устройство воспринимается как справедливое — если люди знают, что получат равные возможности, что их не будут оценивать по биологическим или историческим характеристикам, над которыми они не властны, — только тогда оно завоюет доверие граждан. А иначе зачем играть по правилам, если общество все равно выбросит тебя на помойку, потому что ты не вышел цветом кожи, или полом, или вероисповеданием?

Еще одна наша цель — избежать самосбывающихся пророчеств. Если некая этническая группа или определенный пол в прошлом страдал от угнетения, в настоящем его представители могут столкнуться с препятствием в виде отличающихся средних показателей. Если эти базовые оценки подставлять в прогностические формулы, которые определяют судьбу таких людей в будущем, мы обречем их на вечное отставание. Сегодня, когда эти формулы спрятаны в недрах нейросетей глубокого обучения с их недоступными нашему пониманию промежуточными слоями (глава 3), проблема стоит еще острее. Желание общества остановить этот круговорот несправедливости, пусть и ценой точности прогнозов, вполне рационально.

И наконец, управленческие решения — это сигналы. Запрещая использование этнических, гендерных, расовых или религиозных базовых оценок, общество демонстрирует приверженность идеям равенства и справедливости, которая определяет отнюдь не только алгоритмы, допустимые при исполнении чиновниками своих обязанностей. Тем самым провозглашается, что немыслима любая предвзятость, а предвзятость, в основе которой лежат неприязнь и невежество, особенно предосудительна.

Таким образом, запрет на использование базовых оценок имеет солидное рациональное основание. Но теорема есть теорема, и если точностью прогнозов мы с охотой жертвуем ради равного отношения органов власти к отдельным гражданам, в других сферах эта жертва может оказаться неоправданной. Одна из таких сфер — страховое дело. Если страховая компания будет неверно оценивать риски для различных групп населения, выплаты по страховым случаям превысят страховые премии, и вся система обрушится. Страховая компания Liberty Mutual дискриминирует юношей, которые чаще становятся виновниками ДТП, рассчитывая им стоимость страховки по повышенной базовой оценке, потому что, если страховщики не будут этого делать, лихачество парней придется оплачивать законопослушным взрослым женщинам. Но даже здесь закон запрещает страховым компаниям использовать при расчете ставок определенные критерии, прежде всего расу и в некоторых случаях пол.

Вторая сфера, где неразумно запрещать базовые оценки, — это понимание природы общественных явлений. Если процентная доля мужчин и женщин в определенной области деятельности различается, доказывает ли это, что «стражи у ворот» не допускают в эту область женщин, или, быть может, все дело в базовой оценке числа женщин, которые пытаются в упомянутые ворота войти? Если ипотечные операторы чаще отклоняют заявки претендентов из числа меньшинств, они расисты? Или, может, они, подобно гипотетическому сотруднику страховой компании в исследовании Тетлока, учитывают базовые оценки неплатежей по кредитам в разных районах города, которые, так уж случилось, коррелируют с расовым составом населения этих районов? Усилия социологов, которые стараются найти ответы на эти вопросы, зачастую вознаграждаются лишь обвинениями в расизме и сексизме. Но, запрещая социологам и журналистам интересоваться базовыми оценками, мы только мешаем им выискивать сохраняющуюся дискриминацию и отличать ее от последствий имевших место в прошлом экономических, культурных или юридических различий между разными группами населения.

Раса, пол, национальность, религия и сексуальная ориентация превратились в зоны активных боевых действий на поле интеллектуальной жизни, и это несмотря на то, что открытая дискриминация всех сортов значительно сократилась[235]. По-моему, это во многом происходит из-за отсутствия четкого понимания базовых оценок — неумения определить, когда имеется веская причина запрещать их, а когда таких причин нет[236]. Но в том-то и беда с любым табу. Это похоже на запрет думать о белом медведе: само обсуждение табу — уже табу.

И все-таки мы — последователи Байеса

Но, несмотря на все эти табу, стереотипы и запреты, было бы ошибкой списать наш вид в утиль как безнадежно неспособный к байесовскому мышлению. (Представители племени сан, например, вполне себе последователи Байеса: прежде чем решить, что след оставлен животным редкого вида, они считают необходимым удостовериться, что аргументы в пользу этого неоспоримы.) Гигеренцер отмечает, что обычные люди, формально нарушающие правило Байеса, зачастую имеют на то серьезные математические основания[237]. Математики сами жалуются на социологов, которые нередко используют статистические формулы бездумно: подставляют числа, подбивают итог и считают, что получили верный результат. Но на самом деле любая статистическая формула хороша настолько, насколько хороши стоящие за ней предположения. Обычные люди могут чувствовать качество таких предположений, и порой, нарушая, на первый взгляд, правило Байеса, они как раз и проявляют ту самую осторожность, к которой призывают математики.

Начать с того, что априорная вероятность и базовая оценка — это не одно и то же, несмотря на то что в контрольных работах в качестве «верного» априорного предположения чаще всего предполагается использовать именно базовую оценку. Весь вопрос в том, какую базовую оценку. Допустим, я получил положительный результат анализа на простат-специфический антиген и хочу оценить апостериорную вероятность того, что у меня рак простаты. Какую базовую оценку распространенности рака простаты в популяции я должен взять в качестве априорной вероятности? Среди белых американцев? Евреев-ашкенази? Евреев-ашкенази старше 65 лет? Евреев-ашкенази старше 65 лет, которые занимаются спортом и не имеют семейной истории заболевания? Эти оценки могут сильно отличаться. Конечно, чем ýже референтная группа, тем лучше — но чем она ýже, тем меньше выборка, на которой основана оценка, и тем сильнее эта оценка искажена. Лучшая референтная группа та, которую составляют люди, в точности похожие на меня; а именно я один — максимально подходящий и максимально бесполезный образец для сравнения. Определяя подходящую априорную вероятность, мы вынуждены искать баланс между специфичностью и надежностью и не должны безоговорочно соглашаться на базовую оценку для населения в целом, которая подразумевается по умолчанию.

Использование базовой оценки в качестве априорной вероятности таит в себе и другую опасность: базовые оценки меняются, и порой быстро. Сорок лет назад девушки составляли около 10 % от числа студентов ветеринарных школ; сегодня их почти 90 %[238]. В последние несколько десятилетий, подставляя в формулу Байеса чуть ли не любую исторически сложившуюся базовую оценку, получаешь результат настолько