Три закона роботехники - Айзек Азимов

– Нет, - она медленно приближалась к ним, - с ним все в порядке. Все дело в нас.

Она неожиданно повернулась к роботу и пронзительно крикнула:

– Убирайся отсюда! Иди на другой конец комнаты, чтобы я тебя не видела!

Эрби съежился под ее яростным взглядом и, громыхая, рысью бросился прочь.

– Что это значит, доктор Кэлвин? - враждебно спросил Лэннинг.

Она саркастически заговорила:

– Вы, конечно, знаете Первый Закон Роботехники?

– Конечно, - раздраженно сказал Богерт. - “Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред”.

– Как изящно выражено, - насмешливо продолжала Кэлвин. - А какой вред?

– Ну - любой.

– Вот именно! Любой! А как насчет разочарования? А поколебленная уверенность в себе? А крушение надежд? Это вредно?

Лэннинг нахмурился!

– Откуда роботу знать…

Он вдруг осекся.

– Теперь и до вас дошло? Этот робот читает мысли. Вы думаете, он не знает, как можно задеть человека? Думаете, если задать ему вопрос, он не ответит именно то, что вы хотите услышать в ответ? Разве любой другой ответ не будет нам неприятен, и разве Эрби этого не знает?

– Боже мой, - пробормотал Богерт.

Кэлвин с усмешкой взглянула на него.

– Я полагаю, что вы спросили его, ушел ли Лэннинг в отставку? Вы хотели услышать “да”, и Эрби ответил именно так.

– И, вероятно, поэтому, - сказал Лэннинг голосом, лишенным всякого выражения, - он ничего не ответил нам только что. Он не мог дать ответа, который не задел бы одного из нас.

Наступила короткая пауза. Мужчины задумчиво смотрели на робота, забившегося в свое кресло у шкафа с книгами и опустившего голову на руки.

Сьюзен Кэлвин упорно глядела в пол.

– Он все это знал. Этот… этот дьявол знает все - и даже то, что случилось с ним при сборке.

Лэннинг взглянул на нее.

– Здесь вы ошибаетесь, доктор Кэлвин. Он не знает, что случилось. Я спрашивал.

– Ну и что? - вскричала Кэлвин. - Вы просто не хотели, чтобы он подсказал вам решение. Если бы машина сделала то, что вы сделать не смогли, это уронило бы вас в собственных глазах. А вы спрашивали его? - бросила она Богерту.

– Некоторым образом… - Богерт кашлянул и покраснел. Он сказал, что не силен в математике.

Лэннинг негромко засмеялся, а Кэлвин язвительно усмехнулась. Она сказала:

– Я спрошу его! Меня его ответ не заденет.

Громким, повелительным голосом она произнесла:

– Иди сюда!

Эрби встал и нерешительно приблизился.

– Я полагаю, ты знаешь, в какой именно момент сборки появился посторонний фактор или был пропущен один из необходимых?

– Да, - еле слышно произнес Эрби.

– Постойте, - сердито вмешался Богерт. - Это не обязательно правда. Вы просто хотите это услышать, и все.

– Не будьте ослом, - ответила Кэлвин. - Он знает математику, во всяком случае, не хуже, чем мы вместе с Лэннингом, раз уж он может читать мысли. Не мешайте.

Математик умолк, и Кэлвин продолжала:

– Ну, Эрби, давай! Мы ждем! Господа, вы готовы?

Но Эрби хранил молчание. В голосе психолога прозвучало торжество.

– Почему ты не отвечаешь, Эрби?

Робот неожиданно выпалил:

– Я не могу. Вы знаете, что я не могу! Доктор Богерт и доктор Лэннинг не хотят!

– Они хотят узнать решение.

– Но не от меня.

Лэннинг медленно и отчетливо произнес:

– Не глупи, Эрби. Мы хотим, чтобы ты сказал.

Богерт коротко кивнул.

В голосе Эрби послышалось отчаяние:

– Зачем так говорить? Неужели вы не понимаете, что я вижу глубже, чем поверхность вашего мозга? Там, в глубине, вы не хотите. Я - машина, которой придают подобие жизни только позитронные взаимодействия в моем мозгу, изготовленном человеком. Вы не можете оказаться слабее меня и не почувствовать унижения. Это лежит глубоко в вашем мозгу и не может быть стерто. Я не могу подсказать вам решение.

– Мы уйдем, - сказал Лэннинг. - Скажи, Кэлвин.

– Все равно, - вскричал Эрби, - вы ведь будете знать, что ответ исходил от меня.

– Но ты понимаешь, Эрби, - вмешалась Кэлвин, - что, несмотря на это, доктор Лэннинг и доктор Богерт хотят решить проблему?

– Но сами! - настаивал Эрби.

– Но они хотят этого, и то, что ты знаешь решение и не говоришь его, тоже их задевает. Ты это понимаешь?

– Да! Да!

– А если ты скажешь, им тоже будет неприятно.

– Да! Да!

Эрби медленно пятился назад, и шаг за шагом за ним шла Сьюзен Кэлвин. Мужчины, остолбенев от изумления молча смотрели на них.

– Ты не можешь сказать, - медленно повторяла Кэлвин, потому что это обидит их, а ты не должен их обидеть. Но если ты не скажешь, это тоже причинит им неприятность, так что ты должен сказать. А если ты скажешь, они будут обижены, а ты не должен, так что ты не можешь сказать; но если ты не скажешь, ты причиняешь им вред, так что ты должен; но если ты скажешь, ты причиняешь вред, так что ты не должен; но если ты не скажешь, ты…

Эрби прижался спиной к стене, потом тяжело упал на колени.

– Не надо! - завопил он. - Спрячьте ваши мысли! Они полны боли, унижения, ненависти! Я не хотел этого! Я хотел помочь! Я говорил то, что вы хотели! Я должен был!…

Но Кэлвин не обращала на него внимания.

– Ты должен сказать, но если ты скажешь, ты причинишь вред, так что ты не должен; но если ты не скажешь, ты причинишь вред, так что…

Эрби испустил страшный вопль. Этот вопль был похож на усиленный во много раз звук флейты-пикколо. Он становился все резче и резче, выше и выше, в нем слышалось отчаяние погибшей души. Пронзительный звук заполнял всю комнату…

Когда вопль утих, Эрби свалился на пол бесформенной кучей неподвижного металла. В лице Богерта не было ни кровинки.

– Он мертв!

– Нет. - Сьюзен Кэлвин разразилась судорожным, диким хохотом. - Не мертв! Просто безумен. Я поставила перед ним неразрешимую дилемму, и он не выдержал. Можете сдать его в лом - он больше никогда ничего не скажет.

Лэннинг склонился над тем, что раньше называлось Эрби. Он дотронулся до холодного, неподвижного металлического тела и содрогнулся.

– Вы сделали это намеренно.

Он встал и повернул к ней искаженное лицо.

– А что, если и так? Теперь уже ничего не поделаешь. С внезапной горечью она добавила: - Он это заслужил.

Директор взял за руку застывшего на месте Богерта.

– Какая разница! Пойдемте, Питер. - Он вздохнул. - Все равно от такого робота нет никакого толка.

Его глаза казались усталыми. Он повторил:

– Пойдемте, Питер!

Не скоро после того как они вышли, доктор Сьюзен Кэлвин обрела душевное равновесие Ее взгляд остановился на Эрби, и на лице ее снова появилось напряженное выражение. Долго смотрела она на него. Наконец торжество сменилось беспомощностью и разочарованием. И все обуревавшие ее мысли вылились лишь в одно бесконечно горькое слово, слетевшее с ее губ: