Гарри Поттер и методы рационального мышления - Элиезер Юдковский

Что неудивительно, поскольку Драко и Гарри договорились о встрече заранее.

А ещё это был не вечер, но Драко уже знал, что такие фразы проще пропускать мимо ушей.

— Генерал Поттер, — Драко попытался вложить в свою речь как можно больше достоинства, — вы ведь знаете, что нашим армиям нужно действовать вместе, чтобы кто-нибудь из нас смог выиграть исполнение желания от профессора Квиррелла?

— Ес-стес-с-ственно, — прошипел Гарри, как будто считал себя змееустом. — Мы должны объединиться, чтобы уничтожить Солнечных, и только потом сражаться между собой. Но если один из нас предаст другого раньше, он может получить преимущество в дальнейшей схватке. И генерал Солнечных, которая знает всё это, попробует заставить нас думать, что один из нас предал другого. И у нас обоих, так как мы знаем об этом, будет искушение предать другого и изобразить, что это трюк Грейнджер. И об этом Грейнджер тоже знает.

Драко кивнул. Сказанное было очевидным.

— И... мы оба тем не менее хотим выиграть, и нет никого третьего, кто бы наказал одного из нас за предательство.

— Именно, — уже серьёзно ответил Гарри Поттер. — Мы столкнулись с классической дилеммой заключённого.

Ранее, на одном из их занятий, Гарри про неё уже рассказывал. Дилемма заключённого состоит в следующем: двое заключённых заперты в отдельных камерах. Против каждого из них есть улики, не слишком серьёзные, но достаточные, чтобы посадить их в тюрьму на два года. Каждый узник может выбрать сотрудничество с властями: предать другого и свидетельствовать против него в суде, в этом случае сам он получит только год тюрьмы, а другой получит на два года больше. Или узник может хранить молчание. Таким образом, если оба узника свидетельствуют друг против друга, оба получают по три года тюрьмы, если оба молчат — оба получают по два года. Но если один соглашается сотрудничать с властями, а второй молчит, то первый получает один год, а второй — четыре.

И оба заключённых должны принять решение, не зная, что сделает другой, и изменить решение в дальнейшем нельзя.

Драко тогда заметил, что будь заключённые Пожирателями Смерти времён Войны Волшебников, Тёмный Лорд убил бы предателя.

Гарри кивнул и сказал, что это один из способов решить дилемму заключённого. И, в сущности, оба Пожирателя Смерти именно по этой причине хотели бы присутствия в этой задаче Тёмного Лорда.

(Драко попросил Гарри сделать паузу и дать ему немного подумать. Сказанное очень хорошо объясняло, почему отец и его друзья соглашались служить Тёмному Лорду, который зачастую обходился с ними довольно грубо...)

На самом деле, сказал Гарри, во многом именно из-за этого и существуют правительства — тебе может быть лучше, если ты у кого-то украдёшь, как и любому из заключённых по отдельности будет лучше, если он предаст другого заключённого. Но если так будет думать каждый, в стране наступит анархия и всем будет хуже, как и в случае, если предательство совершат оба узника. Поэтому люди и позволяют правительствам собой управлять, поэтому Пожиратели Смерти и позволяли Тёмному Лорду иметь над собой власть.

(Драко снова попросил Гарри остановиться. Драко всегда считал само собой разумеющимся, что честолюбивые волшебники стремятся к власти потому, что хотят власти, а прочие люди позволяют над собой властвовать потому, что они пугливые пуффендуйчики. Поразмыслив, Драко решил, что так всё и есть, но точка зрения Гарри весьма занимательна, даже если и не верна.)

Но, продолжил Гарри, страх перед наказанием от третьих лиц — не единственный способ разрешить дилемму заключённого.

Предположим, сказал Гарри, что ты играешь в эту игру с точной волшебной копией самого себя.

Драко сказал, что если бы существовало два Драко, то ни один из них, несомненно, не пожелал бы зла другому, не говоря уже о том, что ни один Малфой не захочет прослыть предателем.

Гарри снова кивнул, заметив, что это ещё одно решение дилеммы заключённого: люди могут выбрать молчание либо потому, что хорошо друг к другу относятся, либо из благородных побуждений, либо из-за желания не портить себе репутацию. На самом деле, объяснил Гарри, классическую дилемму заключённого соорудить не так просто — в реальной жизни людям обычно или не наплевать на других людей, или они заботятся об общественном мнении, или боятся наказания Тёмного Лорда. Словом, их беспокоит не только срок заключения. Но если взять копию человека абсолютно эгоистичного...

(в качестве примера они использовали Панси Паркинсон)

…тогда обе Панси будут беспокоиться только о том, что случится с ней самой, а не с другой Панси.

Учитывая, что больше Панси ничего не заботит... и что Тёмного Лорда нет... и что Панси плевать на репутацию... и что у Панси либо отсутствует благородство, либо она не считает себя ничем обязанной другому заключённому... каким тогда будет самый рациональный поступок с точки зрения Панси — молчать или предать?

Некоторые, сказал Гарри, утверждают, будто самый рациональный поступок для Панси — предать свою копию, но Гарри, плюс некто по имени Дуглас Хофштадтер, считают иначе. Ведь если Панси предаст — не из-за какой-нибудь случайности, а целенаправленно, потому что считает это разумным, — тогда и другая Панси сделает точно так же. Две идентичных копии не могут прийти к разным выводам. Поэтому Панси делает выбор между миром, где обе Панси решат молчать, и миром, где обе Панси предадут, и ей будет лучше, если обе Панси будут молчать. К тому же, если бы Гарри думал, что «рациональные» люди и в самом деле предают в дилемме заключённого, он бы и пальцем не пошевелил, чтобы распространять подобную «рациональность», потому что стране или заговору, в котором полно таких «рациональных» людей, суждено распасться. Своим врагам нужно рассказывать о подобной «рациональности».

Это прозвучало убедительно тогда, но сейчас у Драко появилась мысль, что...

— Ты сказал, — начал Драко, — что рациональное решение дилеммы заключённого — молчать. Но тебе же выгодно, чтобы я так думал, правда?

И если Гарри удастся одурачить Драко, то Гарри потом скажет: «Ха-ха, снова тебя предал!» — и посмеётся над ним, и будет прав.

— На наших уроках я никогда не лгу, — серьёзно ответил Гарри. — Но вынужден напомнить: я не говорил, что ты обязан без раздумий выбирать молчание. Не в классической дилемме заключённого вроде этой. Я сказал, что когда ты делаешь выбор, не следует думать, что ты решаешь только за себя, или что ты решаешь за всех. Нужно думать, что ты решаешь за всех тех, кто достаточно похож на тебя, чтобы скорее всего сделать такой же выбор по таким же причинам. А также — что ты решаешь, какие предположения будут делать те, кто тебя достаточно хорошо знает, чтобы правильно предсказывать твои поступки. Тогда тебе никогда не придётся сожалеть о том, что ты рационален, из-за правильных предположений, которые делают другие люди — напомни когда-нибудь рассказать про Парадокс Ньюкома. Итак, вот какой вопрос ты себе должен задать, Драко: достаточно ли мы схожи, чтобы сделать одинаковый выбор, каким бы он ни был, по схожим причинам? И знаем ли мы друг друга достаточно хорошо, чтобы делать правильные предсказания — смогу ли я предсказать, поможешь ты или предашь, и сможешь ли ты предсказать, что я решил сделать то, что, по моему предположению, будешь делать ты, так как я знаю, что ты можешь предсказать это моё решение?