Radical Uncertainty: Decision-Making Beyond the Numbers Kindle Edition - John Kay

ложноотрицательных результатов) и значимость (уязвимость к ложноположительным результатам) своих процедур и пытается их измерить - см. критику Гигеренцером маммографии в Главе 4. Почему юристы сопротивляются подобной количественной оценке?

Одно из объяснений, которому отдают предпочтение многие экономисты и статистики, заключается в том, что юристам просто не хватает адекватного понимания или знания статистических методов. И в этом есть доля правды. Суды часто с трудом разрешают удовлетворительно дела, в которых статистические доказательства играют важную роль, как показывают дела Кларка и Симпсона. Часто, как и в этих случаях, представленные статистические доказательства сами по себе запутаны и сбивают с толку. Судьи не обладают статистическими знаниями, а от присяжных, конечно, нельзя ожидать их наличия. Но те, кто осуждает неумение юристов считать, не признают веских причин, по которым вероятностные аргументы играют лишь ограниченную роль в вынесении правовых решений.

Английская и американская системы предоставляют как обвинению или истцу, так и защите возможность представить свои аргументы, но они не определяют результат, ссылаясь на соотношение вероятностей: относительные вероятности истинности альтернативных утверждений. Проблема родео", поставленная оксфордским философом Джонатаном Коэном в 1977 году, или аналогичная проблема "синего автобуса", описанная американским ученым-юристом Лоуренсом Трайбом, ставит вопрос следующим образом. На родео есть 1000 мест, и 499 билетов продано. Но в ограждении есть дыра, и арена переполнена. Организатор родео подает в суд на каждого из 1000 участников и выигрывает все дела по соотношению вероятностей.

Но ни один суд не вынесет такого решения, и, как мы полагаем, мало кто верит, что он должен это сделать - хотя ученые-юристы дебатируют по этому вопросу уже сорок лет. Как заметил Коэн, "продвижение истины в долгосрочной перспективе не обязательно то же самое, что отправление правосудия в каждом отдельном случае. Это тяжело для отдельного человека, например, неиграющего на родео, если он должен проиграть свой конкретный иск, чтобы сохранить стохастическую вероятность успеха для системы в целом. Таким образом, если система существует для блага отдельных граждан, а не наоборот, то ... аргумент не работает". Трайб высказывает аналогичную мысль: "терпимость к системе, в которой, возможно, один невиновный человек из ста осуждается ошибочно, несмотря на попытки каждого присяжного сделать как можно меньше ошибок, в этом отношении значительно отличается от указания присяжным нацелиться на 1% (или даже 0,1%) ошибочных приговоров". 23

 

Пределы статистических рассуждений

Проблема, обозначенная Коэном и Трайбом, имеет более широкое значение, чем ее - важное - применение к судебному процессу. Статистическая дискриминация" - это термин, используемый для описания практики суждения людей по общим характеристикам группы, к которой они принадлежат. Например, некогда распространенная практика redlining - взимание большей платы за услуги, такие как кредит, с людей, проживающих в определенном районе, без учета их конкретной кредитной истории - была запрещена в США Законом о реинвестировании в жизнь общества 1977 года.

Несправедливость по отношению к отдельным лицам присуща любому применению статистической дискриминации. Даже если это правда, что в районе "красной черты" более высокий уровень неплатежей, чем среди населения в целом, на некоторых, возможно, многих людей, проживающих там, можно положиться в том, что они выплатят свои долги. Более того, "красная черта", безусловно, имела эффект, а возможно, и намерение, дискриминации в отношении афроамериканцев. Статистическая дискриминация на практике может быть механизмом косвенного осуществления политики, которая в случае открытого внедрения была бы незаконной или неприемлемой. Мы можем желать, чтобы полиция была более эффективной в раскрытии преступлений, но не хотим, чтобы она делала это, "собирая обычных подозреваемых. Цивилизованная судебная система относится к людям как к личностям, а не как к рисункам из статистического распределения.

Доступность больших данных, которые позволяют нам узнать гораздо больше о корреляциях - хотя и не обязательно о причинно-следственных связях - создает новые возможности для статистической дискриминации и новые опасности от ее использования. Аналогичные проблемы возникают в связи с развитием машинного обучения - компьютеры, обученные на исторических данных, будут разрабатывать алгоритмы, отражающие прошлые модели отбора, которые могут больше не быть ни уместными, ни приемлемыми. Даже если явное использование такой информации, как пол или раса, запрещено, алгоритмы могут иметь такие последствия - без сознательного намерения такой дискриминации со стороны кого бы то ни было.

И все же отказаться от статистической дискриминации было бы невозможно. Работодателям приходится отбирать кандидатов на работу из сотен заявок; университеты выбирают студентов из тысяч желающих. Они определяют резюме на основе критериев, которые в прошлом коррелировали с успехом. Работодатели ищут соответствующий опыт, университеты - высокие оценки за экзамены. Профилирование и методы остановки и обыска в работе полиции имеют нежелательные последствия, но никто не может разумно спорить с необходимостью сосредоточить ресурсы полиции на местах вероятного совершения преступлений.

Один из нас вспоминает, как слушал жалобу, поданную, разумеется, в университете, о том, что объявление о вакансии квалифицированного бухгалтера является дискриминационным. Было несложно добиться согласия с предложением о том, что люди с бухгалтерской квалификацией с большей вероятностью обладают соответствующими навыками для работы бухгалтером, чем люди, не имеющие такой квалификации, несмотря на то, что некоторые квалифицированные бухгалтеры некомпетентны, и есть люди без бухгалтерской квалификации, которые, тем не менее, разбираются в бухгалтерии. Большинство из нас предпочитает обратиться к квалифицированному врачу, а не опрашивать случайную выборку людей для оценки их медицинских знаний. Мы выигрываем от предварительного отбора людей, которые лучше нас самих квалифицированы для проведения теста на профессиональные знания и компетентность, хотя в этом случае возникает вопрос, как отбираются люди, которые проводят эти тесты. Дискриминация неизбежна, и вопрос заключается в том, как предотвратить неуместную дискриминацию. Но что является и что не является уместным - вопрос спорный и может меняться с течением времени.

Поэтому оказалось труднее справиться с аргументом, что люди с бухгалтерской квалификацией не представляют население в целом в отношении пола, этнической принадлежности, возраста и других характеристик. Это не так, и существует история, теперь уже в основном позади, неуместной дискриминации при отборе тех, кто проходил обучение , чтобы стать квалифицированными бухгалтерами. Но опускать то, что должно было быть бесспорным требованием для должности бухгалтера, означало бы тратить время тех, кто назначает на должность, и многих неудачливых претендентов. И намерение исключить представителей меньшинств не было даже отдаленно похоже на намерение тех, кто составлял объявление. Существует мало альтернатив прагматичному подходу, который оценивает дела по существу. Статистическая информация и вероятностные рассуждения часто имеют отношение к существу дела, но они не освобождают нас от главного требования: спросить "Что здесь происходит?". Мы вернемся к