Сомнительная полночь - Эдмунд Купер

Ему нужны были образы, а не понятия. Ему нужно было какое-то связующее звено, которое помогло бы ему все понять и сказать: "Вот природа жизни. Вот основа всего сущего".

Образы были четкими и ясными, но некий общий элемент - Х-Фактор оказался, когда он пытался постичь его, еще более ускользающим, чем тайна музыки, и таким же близким и недосягаемым, как секрет поэзии.

В сопоставлении он представил Будду и отдельную бактерию, Леонардо да Винчи и зерно пшеницы, секвойю и грибную спору. Он подумал о малыше Джонни и Саре. И все-таки Х-Фактор ускользал. Затем наконец ему на ум пришел двойной образ. Образ, который представил проблему во всей полноте и простоте. Он подумал о Кэйти и Марион-А.

Кэйти была живой, хотя теперь она давно умерла. Марион-А была смоделирована так, чтобы походить на нее. Но она не была Кэйти, она не была и женщиной. Только машиной.

Только машиной?

Несмотря на все усилия, Маркхэм опять оказался там, откуда начал.

Кэйти была рождена, Марион-А - сконструирована. Кэйти получила образование, Марион-А - программу. Программирование было сложным, ловким и, самое главное, поддавалось адаптации. Но насколько? Это вызывало следующий вопрос: можно ли дать Марион-А программу жизни?

Конечно. В этом и заключалась основная проблема, и она усложнялась тем, что жизнь так и не поддавалась определению, он мог только распознать жизнь.

Марион-А обладала всей информацией, необходимой для успешного выполнения функций, для которых она была создана. Но дело не закончилось тем, что ее электронный микромозг выпустили из отдела кодирования и проверки в центре производства андроидов. Она была устроена так, что ее основная программа могла совершенствоваться, изменяться по мере приобретенного опыта. У нее была синтетическая память, и она могла накапливать опыт. Теоретически, решил Маркхэм, она может быть способна принимать решения, не предусмотренные ее создателями, если только ее не снабдили встроенным набором запретов, чтобы при любых обстоятельствах ее поведение согласовывалось с ограничениями, заложенными в первоначальную программу. Но в живых существах запреты могут быть нарушены, как могут быть созданы и новые. Маркхэм раздумывал, возможно ли нарушить запреты, заложенные в Марион-А, и если это возможно, то удастся ли не создавать новые вместо старых.

Неожиданно он понял, что ставит себе задачу. Нечто вроде теста. Вряд ли это приблизит решение вопроса - можно ли рассматривать андроидов как живых существ, - но хотя бы даст некоторое представление о том, что стоит против него и всего остального человечества.

Марион-А была запрограммирована служить ему до тех пор, пока его поведение соответствует неким принятым стандартам. Другими словами, она запрограммирована действовать в первую очередь в интересах республики и уж потом в интересах самого Джона Маркхэма.

Но вдруг эта очередность может быть изменена? - пришла ему фантастическая и соблазнительная мысль.

С каждым днем Маркхэм все больше и больше времени уделял Марион-А. Во-первых, он решил исследовать пределы ее знаний и был поражен, если не унижен, результатами. Он обнаружил, что она просто ходячая энциклопедия. Однако, если дело не касалось фактов, а области возможностей в нематериальном мире теней и символов, она отставала по чутью и воображению от любого развитого ребенка.

Она знала все о скорости света, общей мировой истории, эволюции жизни, Вселенной, волновой механике или экологии растений. И все же, хотя она знала, что роза, музыка или солнечный закат могут казаться прекрасными человеку, она не понимала - почему; она не имела представления о природе красоты, счастья или любви.

Маркхэм не вынашивал планов исследования "умственных позиций" Марион-А и последующей атаки на ее программу в логическом или ярко сформулированном виде. Он сам себе дал преимущество, о котором сначала и не подозревал, действовать по стечению обстоятельств. Он хотел, чтобы в программе Марион-А осуществился какой-то неясный, воображаемый скачок от философского созерцания спиральной туманности к поэтическому описанию звезды, что может сделать только человек. Его беседа переходила от обсуждения поведения к рассмотрению вопросов о романтической любви в одном предложении, и от кибернетики - к сравнительной религии - по подсказке спонтанной мысли.

Он играл в шахматы с Марион-А, он рассказывал ей о Кэйти, детях и о жизни в двадцатом веке. Он заставлял ее слушать музыку и спрашивал ее мнение о том, почему определенный отрывок вызвал в нем радость, грусть или интеллектуальный подъем. Он пытался помочь ей понять трагедию Гамлета, загадку Моны Лизы, величие Баха, полотна Блейка, высокопарность Марлоу, мелодии Чайковского.

И день за днем, постепенно Марион-А поддавалась. Ее программа не была подготовлена к такой концентрированной атаке. Симптомы сперва были слабые почти незаметные.

Она начала забывать кое-какие вещи, вещи, ставившие ее в тупик, вещи, которые были необъяснимыми рационально. Мысли, которые казались важными, но абсурдными. Она начала делать ошибки. Она больше не была монотонно-работоспособной.

А иногда, когда Маркхэм безжалостно насмехался над какой-нибудь ее погрешностью, она вдруг стала проявлять симптомы того чувства, которое у человека можно было бы назвать страданием.

Она была запрограммирована так, чтобы принимать свою собственную программу без вопросов. Безжалостными усилиями Маркхэм заставлял ее задавать себе эти вопросы, вопросы о себе самой и о роли андроидов в обществе.

Она не выглядела усталой, потому что андроид устать не может. Тем не менее ее движения стали медленней, в них не было прежней уверенности. Она не могла быть несчастной, потому что андроиды не программируются ни на счастье, ни на несчастье - только на работоспособность. Однако время от времени она стала просить оставить ее одну, или спрашивала разрешения взять геликар для бесцельного полета, или хотела пройтись по улицам Лондона без определенной цели.

Маркхэм замечал все это и не упускал случая дать Марион-А понять, что он видит происходящие в ней изменения. И все время он убеждал себя, что единственным мотивом этого эксперимента является интеллектуальное любопытство.

Если бы она была человеком, эту игру можно было бы смягчить сочувствием, даже состраданием. Но каждый раз, когда у него появлялось искушение ослабить давление, он напоминал себе, что просто проводит приватный и неортодоксальный эксперимент, связанный с программированием; что машина, с которой он работает, безусловно, ведет себя непредсказуемо, но страдать она не может.

В своем стремлении решить философскую задачу Маркхэм не учел свои собственные психологические пределы, свой личный интерес к результатам опыта, и поневоле подсознательно тоже был вовлечен в него.