Проект «Виртуальность» - Савелий Свиридов

— Несмотря ни на что, я думаю, никто из нас не хотел бы переселиться в мрачные времена Средневековья.

— А как же благородные рыцари и прекрасные дамы?

— Увы, по большей части не более чем легенды, так же как великие волшебники, эльфы и единороги. Слишком красивая сказка, чтобы от нее отказаться. Заметь — прошлое всегда идеализируется, даже то, что пережил лично ты. Чувство ностальгии, я думаю, знакомо каждому из нас.

— Есть поверие, что подобные чувства отражают тоску людей по Золотому Веку. Впервые о нем упоминалось в мифах Древней Греции, и уже тогда он представлялся как давно и безвозвратно ушедший. Наверное, у всех народов есть предания о Добром Старом Времени, когда люди жили долго и счастливо, и все у них было хорошо.

— Мне кажется, что здесь отражается вековечная тоска по утерянному раю, и подсознательные поиски путей туда. Но, увы, нет туда дороги, как нельзя вернуться в прошлое.

— Да, а на Земле между тем продолжается Железный Век, и не видно ему ни конца, ни краю.

— Хотя и не настолько суровый, как раньше. Возможно, человечество все же прогрессирует, пусть медленно и зигзагами. Вот мы, например, сумели же построить в Виртуальности свой если и не Золотой, то хотя бы Серебряный Век. Разве раньше такое стало бы возможно?

— Чтобы утверждать на все сто процентов, пришлось бы изобретать компьютер еще в античные времена. Но в целом, я думаю, ты прав.

— Возвращаясь к идее «оживления» Марса, можно предложить прислать сюда достаточное количество роботов, которые построят здесь фабрики по производству воздуха и воды, а потом населят растения и разведут животных.

— И не боишься, что вместо этого понастроят ракеты с атомными боеголовками и пошлют их в сторону Земли? Или просто не пустят потом сюда землян, приняв свою Декларацию о Независимости?

— Трудно сказать что-либо определенное. Подобная тема является одной из излюбленных в фантастических экшенах, как в свое время была популярной у фантастов. А вот насколько возможно в действительности — я думаю, точно не знает никто.

— А давайте спросим у представителя, так сказать, другой стороны. Джоана, а ты как считаешь, возможно ли восстание машин, или это и вправду из области фантастики?

Лара еле заметно усмехнулась уголками губ.

— Подобные идеи отражают бессознательный страх людей перед машинами, которые сами же и создают. Страх порождает агрессию, направляемую на источник беспокойства. Если помните историю, первым наиболее крупным актом подобной агрессии стало движение английских рабочих в начале XIX века, по имени своего предводителя Лудда получивших название луддитов. Они уничтожали мануфактурные станки, на которых работали, свято веря в то, что именно они виноваты во всех тяготах их жизни. По человеческим стандартам насилие должно порождать чувство мести, поэтому-то люди и боятся, что наступит миг, когда машины, «вспомнив» все прежние обиды, объявят войну человеческой цивилизации. Но исходная посылка здесь неверна — в отличие от людей машинам не присущи эмоции, так же как стремление к выгоде или инстинкт самосохранения. Отсутствие подобных стимулов делает подобный сценарий невозможным.

— А что насчет киборгов?

— Здесь ситуация посложнее. Киборги, как вы знаете, элита машинного мира, и ближе всего к человеку, как по строению, так и по интеллекту. Им в определенной степени присущ инстинкт самосохранения — стоимость каждого из нас достаточно велика, и тем выше, чем больше функций призван исполнять данный кибернетический организм. Если при создании последнего применены уникальные технологии, то такой штучный товар будет стоить целое состояние. Например, себестоимость вот этого тела, — она дотронулась до коленки сидящей рядом Элизабет, — примерно двадцать пять миллионов.

— Ничего себе! Получается, каждый из нас — ходячее сокровище!

— Так вот, продолжу. Высокий уровень интеллекта, особенно при наличии программы самообучения, способствует развитию любопытства. Поэтому первые кибернетические конструкции в массовом порядке попадали в разнообразные переделки. Кто чистого интереса ради разбирал находящиеся под током электроприборы, кто забирался погреться в топки и муфельные печи, кто, проверяя закон свободного тяготения, выпрыгивал из окон небоскребов, разбивая всю начинку. Это поставило перед инженерами-биоконструкторами сложнейшую задачу — смоделировать ситуации, могущие представлять для нас опасность. О том, как она решалась, можно рассказывать часами, — оказалось необходимым предусмотреть массу деталей, далеко не очевидных на первый взгляд. Например, с какой высоты киборг может упасть без ущерба для себя? Разные конструкции предполагают разную устойчивость. Но если здесь ситуацию можно упростить, задав ограничение по максимально возможной высоте для наиболее хрупких конструкций, то куда сложнее оказалось с определением термочувствительности. Принцип «стало горячо — уходи», использовавшийся вначале, привел к тому, что рабочие конструкции отказывались находиться в горячих цехах. Да и как можно заранее предусмотреть все опасные и травмирующие ситуации? После инцидента, когда один из киборгов-остолопов выпил растворитель, пришлось предусмотреть ограничения и на потребляемые средства энергетической подпитки. Спустя некоторое время разработали целый комплекс диетпитания, с указаниями для каждого продукта — годится он для андроида в пищу, или лучше воздержаться, а также перечень вещей, категорически запрещенных к приему внутрь. Список последних непрерывно расширялся, учитывая экзотические пристрастия некоторых из моих собратьев — вроде медного купороса или красной кровяной соли. Конечно, самым простым выходом из положения было бы все запретить, но тогда киборг ничему и не научится, и по сути мало чем будет отличаться от обычного примитивного автомата.

— Здесь есть что-то общее с методами воспитания детей, — задумчиво произнесла Мириам, ни к кому конкретно не обращаясь, — однако тогда андроид будет постепенно приобретать отдельные черты индивидуальности, становясь самостоятельной личностью.

— И это тоже есть, но вначале доскажу свою мысль. Стремление избежать опасности логически порождает желание ее упредить. Если киборг сочтет, что распоряжение со стороны человека, не обоснованное насущной необходимостью, приведет к повреждению его функциональной целостности, он может отказаться выполнить приказ, приведя причины отказа. Правда, мы устроены таким образом, что повторение распоряжения хозяином киборга приведет последнего в состояние безусловного подчинения — даже если то будет приказ сунуть руку под бензопилу или голову в атомный реактор.

— Какой ужас! — воскликнула Янка. — Неужели такое возможно?

— Бывало и не такое; фантазия человека, особенно при наличии у него солидной суммы денег, поистине безгранична. Если же программа безусловного подчинения даст сбой, киборг скорей всего вообще откажется делать что-либо. Но для того, чтобы он напал на человека, необходимо выключение совсем другой программы, налагающей на подобное действие категорический запрет. Такая программа обычно дублируется; попытки вывести ее из строя извне приведут к уничтожению всей вложенной информации. Таким образом, как нетрудно сделать вывод, вероятность такой агрессии, хоть и не является строго нулевой, практически ничтожно мала.

— Однако, насколько я знаю, — вступил в разговор Родриго, — время от времени в средствах массовой информации проскальзывают сообщения о преступлениях, совершаемых при участии андроидов.

— Так-то оно так, однако кто является организаторами подобных злодеяний? Разве киборги? Они — лишь орудия в руках преступника, такие же, как пистолет в его кармане или элькар, на котором он скроется с места преступления. К сожалению, бывает и так, что приобретенных легальным путем киборгов перепрограммируют, снимая ряд ограничений. И вот тут уже действительно страшно — получившийся монстр выполнит любую, подчеркиваю: любую команду своего хозяина. Ведь угрызения совести нам неведомы, это удел живых существ. Конечно, наказания за подобные деяния очень суровы: модифицированным киборгам немедленно стирают всю информацию, а хакерам и их работодателям в лучшем случае светит одиночное заключение лет примерно на двадцать как минимум, а в худшем — пожизненные исправительные работы на каких-нибудь урановых или ртутных рудниках. Но подпольный бизнес их производства не умирает — слишком высоки ставки.

— Значит, можно сделать вывод, что машинный бунт в обозримом будущем нам не грозит?

— Только если не будет в том интереса кого-нибудь из ваших соотечественников.

Воцарилось молчание, каждый по-своему обдумывал услышанное. Первым его нарушила Джессика:

— Джоана, расскажи, а что вообще умеют делать киборги и какими они бывают?