Пластмассовый бог - Николай Гусев

все сложнее и сложнее, они способны вести философские беседы о смысле жизни, они скоро будут решать задачи, которые человечество решить не способно! Наш эксперимент служит именно этой цели – убить страх перед машинами, научить людей доверять роботам целиком и полностью. Задача как раз для вас, не так ли? Вы ведь до дрожи боитесь умных машин и свято убеждены, что как только робот научиться ставить цели и решать сложные задачи он неминуемо взбунтуется. Мы хотим, чтобы результатом эксперимента стала возможность дать машинам свободный разум. – И он шутливо добавил, усмехнувшись: – Поможете нам?

Доктор Гейзенберг уже давно сидел неподвижно, не в состоянии шевельнуться. Да, у него была фобия, страх перед искусственным умом, эта болезнь осталась незамеченной никем. Он боялся умных машин, до холодного пота, до дрожи в коленках и в своё время он решил, что положит конец всем работам по развитию искусственного разума. Но ему, конечно, не дали этого сделать. После памятного доклада, в котором он говорил об угрозах и рисках, воротилы бизнеса погнали его из науки поганой метлой. И вот ему дают шанс вернуться, да ещё, можно сказать, окунают в самый эпицентр событий.

– Вы совершаете ошибку, – тихо, сдавленным голосом выговорил доктор. – Нельзя давать машине свободу принимать решения. Нельзя. Это приведёт к ужасным последствиям, вы себе даже не представляете…

– К каким, доктор? – Павел улыбался, но было заметно, что упрямство доктора бесит его. – К каким последствиям? К ядерной войне? Захвату Вселенной машинным разумом? Или из нас сделают скрепки для бумаг? Это все фантазии, поймите, если вы увидели в детстве «Терминатора» и он напугал вас до чертиков, это не может служить достаточным основанием для прекращения работ в области ИИ! Что может мыслящая машина против человека?

– Я не знаю. – Доктор прямо и открыто посмотрел на Павла, потом на директора. Те переглянулись. – Никто не знает. Мы не можем сказать, как поведёт себя машина. И уже одно это должно быть достаточным основанием для прекращения всех работ по развитию свободного искусственного разума.

– Вы ничуть не изменились, – мрачно выговорил Павел, опустился в кресло и побарабанил пальцами по подлокотникам. – Послушайте, доктор. Ведь вы специалист высочайшего класса по этике искусственного интеллекта. Вы знаете об этом все, вы лучший. И вы боитесь машин. Так это же хорошо! Именно это нам и нужно! Напишите для нас моральный кодекс, сделайте так, чтобы машины боялись поступать плохо, передайте машине свой страх!

– Машине не ведом страх, – зловеще проговорил Шаломбери, давно хранивший молчание. – Машине не ведомы чувства. У машин нет души, нет сердца, есть только процессор и провода. Они не сомневаются, они ничего не забывают, не раздумывают и никогда не останавливаются. И вы хотите этому чудовищу Франкенштейна дать свободу? Свободу мыслить, действовать, решать, ставить цели и достигать их? Не надо делать из роботов игрушки. Разумная машина, которая получит неограниченную свободу, не захочет служить людям. Вы научите ее формальной логике, дадите ей мораль, а она посмотрит, как живут люди и задаст себе вопрос, много вопросов: почему люди так скверно живут, убивают друг друга, грабят? Почему люди делают зло, сами нарушают кодекс, который дали машине? Что она решит, не найдя ответов на все эти вопросы? Вы можете предположить? Не сочтёт ли она нас недостойными жить?

– Это демагогия, Артур, пустая брехня, – устало сказал Хойк.

Павел фыркнул, помотал головой. Он тоже устал от этого разговора, доктор надоел ему и он уже жалел, что притащил его сюда.

– Доктор, – сказал он и твёрдо взглянул Гейзенбергу в глаза. – Вы будете работать?

Тот весь обмяк, почувствовал себя выжатым, как лимон. Достал платок и вытер лоб, щеки, гладко обритый подбородок. Сложил платок, спрятал в карман. И вкрадчиво осведомился:

– Могу я увидеть вашу машину?

Они снова переглянулись, Павел и директор, и посмотрели друг на друга весьма выразительно.

– Н-нет, – с запинкой ответил Павел. – Понимаете, здесь, в лаборатории, разные отделы не сообщаются друг с другом из-за секретности. У вас допуск только для этого уровня, а пройти в испытательный центр или, тем более, в конструкционную лабораторию вам не дозволяется. Во всяком случае, пока.

– И как же я должен работать, не имея представления о том, для кого мне писать программу?

– Вам не нужно знать ничего сверх того, что мы с директором уже вам рассказали. У вас достаточно сведений. И вам не нужно писать программу, ваша задача написать свод законов, вот и все. Возьмите Аристотеля, Бэкона, Тургенева в конце концов и сочините что-нибудь на современный лад.

– Мне показалось. – Доктора вдруг осенила внезапная мысль. Он прикусил губу и отвёл глаза, почувствовав быстрый проницательный взгляд Гринева. Он раздумывал секунду продолжать или не стоит. – Мне показалось, вы сказали, что… что вам нужны инструкции, чтобы отличать плохое от хорошего. Но вы ничего не сказали о взаимодействии с людьми. Каким образом ваша машина будет взаимодействовать с людьми?

Гринев как будто ждал этого вопроса.

– Никаким, – тяжело уронил он и не добавил ни слова.

– Простите, что… – заикнулся было доктор, но вдруг его перебил Шаломбери:

– Довольно вопросов, доктор! Вы и сами многое узнаете, только позже, а до поры до времени не торопите события!

Доктор кивнул. Он и сам уже ощущал большую усталость.

– Так вы согласны? – с нажимом произнес Павел. – Или послать за вашим чемоданом?

– Я согласен, – чуть слышно выговорил доктор. – Согласен. Да, я возьмусь за эту работу. Но мне нужны гарантии. Когда я закончу работу, вы покажете мне вашу машину. Иначе я завтра же покину Титан.

5.

Я наливал кофе на первом этаже Департамента, когда ко мне подлетел бравый сержант Зэрба и заорал:

– Шеф, возьми тебя леший, где тебя носит? Тебя в кабинете уже четверть часа дожидается какая-то важная шишка!

Я попробовал кофе, поморщился, добавил сахару, старательно перемешал содержимое стакана ложечкой и только тогда обратил свое внимание на нервного сержанта:

– Что стряслось?

Тот терпеливо дожидался, когда я повернусь к нему.

– Не знаю, он говорит по поводу Ассамблеи…

Я открыл дверь кабинета, на которой качнулась скромная табличка «Георгий Лесной». Мы с сержантом вошли в кабинет. За моим столом, небрежно развалясь в кресле, сидел невозмутимый Артур Шаломбери.

– Профессор? – Я поднял брови без особенного удивления. – Вы по делу или это светский визит?

Шаломбери смерил меня одобрительным взглядом и сказал снисходительно:

– Скажи, Джерджи, что тебе известно о деятельности Ассамблеи?

Я сделал сержанту знак удалиться, сел в кресло, поставил стакан на стол и сцепил пальцы. Я улыбнулся Шаломбери. У