Гарри Поттер и методы рационального мышления - Элиезер Юдковский

Это несправедливо, просто несправедливо. Стоило ему на долю секунды забыть о рациональности, как его мозг за эту долю секунды решил, что аргументы «за» для него комфортней, чем аргументы «против».

С высоты, откуда деревья сливались в одно пятно, Гарри смотрел на лес.

Он не хотел признаться в содеянном и тем самым навеки уничтожить свою репутацию. Не хотел, чтобы все разозлились на него, и не хотел погибнуть от руки Тёмного Лорда. Уж лучше оказаться запертым в Хогвартсе на шесть лет. И облегчением была возможность вцепиться в единственный решающий фактор: если он сознается, то профессор Квиррелл окажется в Азкабане и там и умрёт.

(У Гарри перехватило дыхание.)

Если говорить об этом так... что ж, можно даже сделать вид, что ты герой, а не трус.

Гарри оторвал взгляд от Запретного леса и посмотрел в голубое запретное небо.

Сквозь стекло он смотрел на большое яркое пылающее нечто, на пушистые штуки, на таинственную бесконечную синеву, в которой они располагались. Странное, новое, неизвестное место.

Его проблемы — ничто по сравнению с заключением в Азкабане. Он это понял, и... ему стало легче. Намного легче. В мире есть люди, которые по-настоящему в беде, и Гарри Поттер не в их числе.

Как он поступит с Азкабаном?

Как он поступит с магической Британией?

...на чьей он теперь стороне?

В ярком свете дня то, что говорил Альбус Дамблдор, звучало гораздо разумней, чем доводы профессора Квиррелла. Светлей и лучше, этичнее, убедительнее. Было бы замечательно, если бы его слова оказались правдой. Но нужно помнить: Дамблдор верит в то, что хорошо звучит, но здравым смыслом из них двоих обладает именно профессор Квиррелл.

(У Гарри опять перехватило дыхание — как и всякий раз, когда он думал о профессоре Квиррелле.)

Тем не менее, если что-то хорошо звучит, это ещё не значит, что оно неверно.

Если и есть изъян в рациональности профессора Защиты, то заключается он в том, что его взгляд на жизнь слишком негативен.

Правда? — осведомилась та часть Гарри, которая читала о восемнадцати миллионах экспериментальных результатов, утверждающих, что люди слишком оптимистичны и слишком самоуверенны. — Профессор Квиррелл излишне пессимистичен? Настолько пессимистичен, что реальность регулярно превосходит его ожидания? Сделай из него чучело и отправь в музей, он уникален. Кто из вас двоих спланировал идеальное преступление и при этом заложил в него такой запас прочности — просто на случай, если идеальное преступление пойдёт не так, — что это в итоге спасло твою задницу? Подсказка: его зовут не Гарри Поттер.

Но слово «пессимистичный» не совсем описывало проблему профессора Квиррелла — если, конечно, это вообще была проблема, а не недосягаемая мудрость, приобретённая с опытом. Гарри казалось, что профессор Квиррелл постоянно воспринимает всё в самом худшем свете. Если дать ему стакан, на 90% полный, он скажет, что пустые 10% подтверждают, что никому вообще нет дела до воды.

Гарри подумал, что это очень хорошая аналогия. Не вся магическая Британия похожа на Азкабан, этот стакан полон гораздо больше, чем наполовину...

Он смотрел в яркое синее небо.

...хотя, продолжая аналогию, если Азкабан существует, то это, возможно, доказывает, что 90% хорошего существует по другим причинам, например, потому что люди хотят продемонстрировать доброту, как выразился профессор Квиррелл. Ведь если бы они были по-настоящему добры, они бы не построили Азкабан, они бы взяли крепость штурмом и разрушили бы её... правда же?

Гарри смотрел в яркое синее небо. Желающий стать рационалистом обязан прочесть ужасно много статей о недостатках человеческой натуры. Некоторые из этих недостатков приводят к невинным логическим ошибкам, но другие выглядят гораздо мрачнее.

Гарри смотрел в яркое синее небо и думал об эксперименте Милгрэма.

Стэнли Милгрэм поставил его, чтобы изучить причины второй мировой войны, чтобы попытаться понять, почему жители Германии подчинялись Гитлеру.

Он разработал эксперимент для изучения подчинения. Милгрэм хотел выяснить, не были ли немцы по каким-то причинам более склонны подчиняться преступным приказам от авторитетных лиц.

Сперва Милгрэм провёл пробную версию эксперимента на американцах в качестве контрольной.

И после этого счёл излишним ехать в Германию.

Экспериментальная установка: группа из тридцати переключателей с пометками, начинающимися от «15 вольт» и заканчивающихся на «450 вольт». Переключатели разбиты на группы по четыре, и каждая группа подписана дополнительно: например, первая группа из четырёх переключателей подписана как «Слабый удар», шестая — «Крайне интенсивный удар», седьмая — «Опасно: труднопереносимый удар». Последние два переключателя помечены просто как «ХХХ».

Экспериментатору помогал актёр, изображавший, что он такой же участник эксперимента, как и настоящий испытуемый - как будто он откликнулся на то же объявление о поиске участников эксперимента. Актёр проигрывал (подстроенную) лотерею и оказывался привязанным к стулу с электродами. Настоящему испытуемому давали слабый удар током, чтобы он убедился, что установка работает.

Настоящему испытуемому говорили, что эксперимент изучает воздействие наказания на обучаемость и память, и эта часть эксперимента проверяет, имеет ли значение, какой человек производит наказание. Говорили, что человек, привязанный к стулу, будет пытаться запоминать наборы из пар слов, и каждый раз, когда «обучаемый» даёт неправильный ответ, «учитель» должен применять всё более сильный удар током.

На 300 вольтах актёр прекращал попытки отвечать на вопросы и начинал стучать в стену, после чего экспериментатор говорил испытуемым, чтобы они трактовали отсутствие ответа как неправильный ответ и продолжали.

На 315 вольтах удары в стену продолжались.

При дальнейшем увеличении силы тока звуки за стеной прекращались.

Если испытуемый возражал или отказывался нажимать переключатель, экспериментатор в сером лабораторном халате невозмутимо говорил: «Пожалуйста, продолжайте», если это не помогало: «Эксперимент требует, чтобы вы продолжали», затем: «Совершено необходимо, чтобы вы продолжали», затем: «У вас нет другого выбора, вы должны продолжить». Если после четырёх понуканий испытуемый по-прежнему отказывался, эксперимент прекращали.

Прежде чем начать эксперимент, Милгрэм описал его четырнадцати психологам и попросил их оценить, какой процент испытуемых, на их взгляд, доведёт дело до 450-вольтового переключателя, какой процент испытуемых нажмёт на два последних переключателя с надписями «ХХХ», уже после того, как жертва перестанет реагировать.