Стальные пещеры - Айзек Азимов

— Продолжайте, прошу вас.

— Этот робот, как гласит сказание, умел читать мысли. И когда ему задавали вопросы, он читал мысли спрашивающего и говорил именно то, что спрашивающему хотелось услышать. Первый Закон ясно и недвусмысленно запрещает роботу причинять вред человеку или бездействием допустить, чтобы человеку был причинен вред. Обычный робот понимает этот вред как физический. Робот же, способный читать мысли, несомненно, решил бы, что разочарование, гнев или любое другое тягостное чувство делают человека, их испытывающего, несчастным, и вызвать их — значит причинить ему вред. А потому, предполагая, что правда может огорчить или рассердить спрашивающего, пробудить в нём зависть, сделать его несчастным, робот-телепат подменил бы истину приятной ложью. Понимаете?

— Конечно.

— И робот лгал даже самой Сьюзен Кэлвин. Долго так продолжаться не могло, поскольку разным людям говорились разные вещи, не только не согласующиеся друг с другом, но и не подкрепляемые объективной реальностью. Сьюзен Кэлвин обнаружила, что робот ей лгал и что из-за его лжи она попала в крайне тягостное положение. То, что вначале причинило бы ей лишь некоторое разочарование, теперь из-за ложных надежд обернулось нестерпимой болью… Вы действительно не знаете эту историю?

— Даю вам слово.

— Поразительно! Однако родилась она не на Авроре, поскольку бытует на всех космомирах… Как бы то ни было, Кэлвин отомстила. Она указала роботу, что, скажет ли он правду или солжет, человеку, с которым он разговаривает, неизбежно будет причинен вред. И любое его действие окажется нарушением Первого Закона. Осознав это, робот укрылся от неразрешимой дилеммы в полном бездействии. Его позитронные связи, если вам нравится цветистость, мгновенно испепелились. В его мозгу произошло необратимое разрушение.

Согласно легенде, последним словом Сьюзен Кэлвин, обращенным к роботу, было «Лжец!».

— Если я понял правильно, — сказал Бейли, — что-то подобное произошло и с Джендером Пэнеллом. Он столкнулся с неразрешимым противоречием, и его мозг испепелился?

— Да, впечатление создаётся именно такое. Однако теперь поставить робота в подобное положение далеко не так просто, как в дни Сьюзен Кэлвин. Робопсихологи (возможно, из-за этой легенды) всегда принимали самые тщательные меры, чтобы подобное противоречие не могло возникнуть. Теория позитронного мозга развивается, модели его всё более усложняются, а параллельно создаются всё более надежные системы защиты, рассчитанные на то, чтобы в любой ситуации противодействующие факторы не уравновешивались, оставляя возможность для какого-то действия, которое можно было бы истолковать как выполнение Первого Закона.

— Следовательно, испепелить мозг робота невозможно. Вы это хотите сказать? Но тогда что произошло с Джендером?

— Нет, этого я сказать не хочу! Всё более надежные системы, о которых я говорю, абсолютной надёжности не гарантируют и не могут гарантировать. Каким бы сложным и тонко мыслящим ни стал мозг, всегда найдётся способ создать неразрешимое противоречие. Это математическая истина. Никогда не удастся создать настолько тонко мыслящий и защищенный мозг, чтобы свести возможность противоречия к нулю. К очень малой степени — да, но не к полному нулю. Однако системы настолько приближаются к нулю, что создание условий для умственной заморозки требует глубочайшего понимания конкретного позитронного мозга. А для этого необходим очень умный теоретик.

— Вроде вас, доктор Фастольф?

— Вроде меня. А если речь идёт о человекоподобном роботе, так есть только я один.

— Или вообще нет никого, — заметил Бейли с тяжеловесной иронией.

— Или вообще никого. Вот именно, — ответил Фастольф, словно не заметив иронии. — Человекоподобные роботы обладают мозгом, да и телом, могу я прибавить, сформированными сознательно по образцу человеческих. Позитронный мозг — чрезвычайно тонкий механизм и, естественно, в определённой мере обладает хрупкостью человеческого мозга. Как у человека может произойти инсульт в результате какого-то внутреннего процесса и без всякого внешнего воздействия, так и человекоподобный мозг может по чистой случайности — непроизвольного дрейфа позитронов — впасть в умственную заморозку.

— Вы можете доказать это, доктор Фастольф?

— Могу продемонстрировать это математически, но отнюдь не все из тех, кто способен разобраться в формулах, согласятся с ходом моих рассуждений. В них включены некоторые мои предположения, которые не согласуются с общепринятыми положениями робопсихологии.

— Насколько вероятна самопроизвольная умственная заморозка?

— Если взять большое количество человекоподобных роботов, например сто тысяч, то почти наверное у одного из них на протяжении среднего срока жизни аврорианца произойдёт самопроизвольная заморозка. Но произойти это может и много раньше, вот как с Джендером, хотя вероятность будет несравненно меньше.

— Послушайте, доктор Фастольф! Даже если вы сумеете неопровержимо доказать, что робот в принципе может пострадать от самопроизвольной заморозки, отсюда ещё не следует, что именно это произошло конкретно с Джендером конкретно в этот момент.

— Да, — признал Фастольф. — Вы совершенно правы.

— Вы, величайший эксперт в области робопсихологии, не можете доказать, что Джендер оказался жертвой именно такой случайности.

— Опять-таки вы совершенно правы.

— Так как же вы можете требовать этого от меня, когда я ничего не смыслю в робопсихологии?

— Но ведь доказывать ничего не надо. Разве не достаточно выдвинуть хитроумное предположение, которое убедит широкую публику в возможности самопроизвольной заморозки?

— Например?

— Я не знаю.

— Вы уверены, что не знаете, доктор Фастольф? — резко спросил Бейли.

— Как это? Я же только что сказал вам, что не знаю.

— Разрешите, я укажу вам кое на что. Полагаю, аврорианцам в целом известно, что я прилетел на планету для разрешения загадки. Было бы трудно привезти меня втайне, учитывая, что я землянин, а это Аврора.

— Бесспорно. И я не делал из этого никакой тайны. Я посоветовался с председателем Законодательного собрания и добился от него разрешения привезти вас сюда. Именно таким образом мне удалось настоять на отсрочке разбирательства. Вам дают возможность найти разгадку, прежде чем я предстану перед судом. Сомневаюсь, что они дадут мне много времени.

— Так я повторю: аврорианцы в целом знают, что я здесь, и, полагаю, совершенно точно знают, для чего. Чтобы разгадать загадку смерти Джендера.