Гарри Поттер и методы рационального мышления - Элиезер Юдковский

Где-то в глубинах его сознания затаилась мысль, что если твой таинственный учитель предлагает тебе первую миссию, первый шанс поучаствовать в приключении, и ты ответишь «нет», то таинственный учитель с отвращением отвернётся, и у тебя никогда больше не будет шанса стать героем…

…да, всё так и было. Сейчас это очевидно. Он начал мыслить в режиме «Моя жизнь идёт по сценарию, и я подошёл к очередной сюжетной развилке», а не, скажем, в режиме «Ага, вот тут у нас поступило предложение освободить Беллатрису Блэк из Азкабана». Вот истинная, первоначальная причина его решения в ту секунду, когда он его принял. Его мозг распознал сюжет, в котором слово «нет» прозвучало бы диссонансом. И если подумать, то понятно, что это нерациональный путь принятия решений. По сравнению с этим скрытый мотив профессора Квиррелла — заполучить остатки утраченного наследия Слизерина, пока Беллатриса жива — выглядит впечатляюще разумным. В его случае выгода была соизмерима с риском, казавшимся тогда небольшим.

Это несправедливо, просто несправедливо. Стоило ему на долю секунды забыть о рациональности, как его мозг за эту долю секунды решил, что аргументы «за» для него комфортней, чем аргументы «против».

С высоты, откуда деревья сливались в одно пятно, Гарри смотрел на лес.

Он не хотел признаться в содеянном и тем самым навеки уничтожить свою репутацию. Не хотел, чтобы все разозлились на него, и не хотел погибнуть от руки Тёмного Лорда. Уж лучше оказаться запертым в Хогвартсе на шесть лет. И облегчением была возможность вцепиться в единственный решающий фактор: если он сознается, то профессор Квиррелл окажется в Азкабане и там и умрёт.

(У Гарри перехватило дыхание.)

Если говорить об этом так… что ж, можно даже сделать вид, что ты герой, а не трус.

Гарри оторвал взгляд от Запретного леса и посмотрел в голубое запретное небо.

Сквозь стекло он смотрел на большое яркое пылающее нечто, на пушистые штуки, на таинственную бесконечную синеву, в которой они располагались. Странное, новое, неизвестное место.

Его проблемы — ничто по сравнению с заключением в Азкабане. Он это понял, и… ему стало легче. Намного легче. В мире есть люди, которые по-настоящему в беде, и Гарри Поттер не в их числе.

Как он поступит с Азкабаном?

Как он поступит с магической Британией?

…на чьей он теперь стороне?

В ярком свете дня то, что говорил Альбус Дамблдор, звучало гораздо разумней, чем доводы профессора Квиррелла. Светлей и лучше, этичнее, убедительнее. Было бы замечательно, если бы его слова оказались правдой. Но нужно помнить: Дамблдор верит в то, что хорошо звучит, но здравым смыслом из них двоих обладает именно профессор Квиррелл.

(У Гарри опять перехватило дыхание — как и всякий раз, когда он думал о профессоре Квиррелле.)

Тем не менее, если что-то хорошо звучит, это ещё не значит, что оно неверно.

Если и есть изъян в рациональности профессора Защиты, то заключается он в том, что его взгляд на жизнь слишком негативен.

Правда? — осведомилась та часть Гарри, которая читала о восемнадцати миллионах экспериментальных результатов, утверждающих, что люди слишком оптимистичны и слишком самоуверенны. — Профессор Квиррелл излишне пессимистичен? Настолько пессимистичен, что реальность регулярно превосходит его ожидания? Сделай из него чучело и отправь в музей, он уникален. Кто из вас двоих спланировал идеальное преступление и при этом заложил в него такой запас прочности — просто на случай, если идеальное преступление пойдёт не так, — что это в итоге спасло твою задницу? Подсказка: его зовут не Гарри Поттер.

Но слово «пессимистичный» не совсем описывало проблему профессора Квиррелла — если, конечно, это вообще была проблема, а не недосягаемая мудрость, приобретённая с опытом. Гарри казалось, что профессор Квиррелл постоянно воспринимает всё в самом худшем свете. Если дать ему стакан, на 90% полный, он скажет, что пустые 10% подтверждают, что никому вообще нет дела до воды.

Гарри подумал, что это очень хорошая аналогия. Не вся магическая Британия похожа на Азкабан, этот стакан полон гораздо больше, чем наполовину…

Он смотрел в яркое синее небо.

…хотя, продолжая аналогию, если Азкабан существует, то это, возможно, доказывает, что 90% хорошего существует по другим причинам, например, потому что люди хотят продемонстрировать доброту, как выразился профессор Квиррелл. Ведь если бы они были по-настоящему добры, они бы не построили Азкабан, они бы взяли крепость штурмом и разрушили бы её… правда же?

Гарри смотрел в яркое синее небо. Желающий стать рационалистом обязан прочесть ужасно много статей о недостатках человеческой натуры. Некоторые из этих недостатков приводят к невинным логическим ошибкам, но другие выглядят гораздо мрачнее.

Гарри смотрел в яркое синее небо и думал об эксперименте Милгрэма.

Стэнли Милгрэм поставил его, чтобы изучить причины второй мировой войны, чтобы попытаться понять, почему жители Германии подчинялись Гитлеру.

Он разработал эксперимент для изучения подчинения. Милгрэм хотел выяснить, не были ли немцы по каким-то причинам более склонны подчиняться преступным приказам от авторитетных лиц.

Сперва Милгрэм провёл пробную версию эксперимента на американцах в качестве контрольной.

И после этого счёл излишним ехать в Германию.

Экспериментальная установка: группа из тридцати переключателей с пометками, начинающимися от «15 вольт» и заканчивающихся на «450 вольт». Переключатели разбиты на группы по четыре, и каждая группа подписана дополнительно: например, первая группа из четырёх переключателей подписана как «Слабый удар», шестая — «Крайне интенсивный удар», седьмая — «Опасно: труднопереносимый удар». Последние два переключателя помечены просто как «ХХХ».

Экспериментатору помогал актёр, изображавший, что он такой же участник эксперимента, как и настоящий испытуемый - как будто он откликнулся на то же объявление о поиске участников эксперимента. Актёр проигрывал (подстроенную) лотерею и оказывался привязанным к стулу с электродами. Настоящему испытуемому давали слабый удар током, чтобы он убедился, что установка работает.

Настоящему испытуемому говорили, что эксперимент изучает воздействие наказания на обучаемость и память, и эта часть эксперимента проверяет, имеет ли значение, какой человек производит наказание. Говорили, что человек, привязанный к стулу, будет пытаться запоминать наборы из пар слов, и каждый раз, когда «обучаемый» даёт неправильный ответ, «учитель» должен применять всё более сильный удар током.