Мечты роботов (Сборник рассказов и эссе) - Айзек Азимов

Таким образом, мы подходим ко Второму закону роботехники, который требует, чтобы робот повиновался всем приказам, отданным ему человеком, если они не вступают в конфликт с Первым законом. Это означает, что человек имеет право приказывать роботу все, что угодно, без ограничений, если только его желания не причинят вред другому человеку.

Но ведь человек может приказать роботу нечто невыполнимое или его воля поставит робота перед дилеммой, которая может повредить позитронный мозг. В расскаже «Лжец», опубликованном в 1940 году, человек совершенно сознательно поставил перед роботом задачу, которая сожгла его мозг, и машина перестала существовать.

Мы можем даже представить ситуацию, когда появятся достаточно разумные роботы, которые будут в состоянии избежать гибели, если их вынудят делать нечто бессмысленно сложное или злостное. Следовательно, Второй закон науки о человеке должен гласить:

2. Человек должен отдавать роботу приказы, которые не вредят существованию робота, если только эти приказы не явятся причиной вреда или неудобства для других людей.

Целью Третьего закона роботехники было защитить роботов, но с точки зрения робота он может показаться не слишком надежным. Робот должен пожертвовать собой, если того потребуют Первый и Второй законы. Когда речь идет о Первом законе, тут не может быть никаких возражений. Робот обязан забыть о собственной безопасности, если это единственный путь защитить человека или предотвратить опасность, которая ему угрожает. Если мы признаем, что любое человеческое существо важнее любого робота (по правде говоря, я признаю это не вполне охотно), то такая формулировка неизбежноа.

С другой стороны, должен ли робот жертвовать собой, выполняя какой-нибудь несущественный или даже вредоносный приказ? В «Двухсотлетнем человеке» хулиганы сознательно приказывают роботу разобрать себя на части исключительно ради собственного развлечения. Получается, что Третий закон науки о человеке должен звучать следующим образом:

3. Человек не должен причинять вреда роботу или своим бездействием допустить, чтобы роботу был причинен вред, кроме тех случаев, когда робот вынужден пожертвовать собой, чтобы спасти человека или выполнить жизненно важный приказ.

Естественно, мы не можем навязать эти законы, как в ситуации с законами роботехники. Мы не в силах запрограммировать мозг человека, как мозг робота. Однако это начало, и я искренне считаю, что, если нам предстоит управлять умными роботами, мы должны быть за них ответственны, как сказал мой герой из рассказа «Двухсотлетний человек».

Кибернетический организм

Cybernetic Organism (1987)Перевод: В. Гольдич

Робот – это робот, а организм – это организм.

Организм, как нам известно, состоит из клеток. С молекулярной точки зрения, главными являются нуклеиновые кислоты и протеины. Они находятся в жидкой среде, которую поддерживает костная структура. Бессмысленно продолжать рассуждать на данную тему, поскольку мы все знакомы со строением организмов и сами являемся одной из его разновидностей.

С другой стороны, робот (как его принято описывать в научно-фантастической литературе) это объект, относительно похожий на человека, построенный из надежного металла, не подверженного ржавлению. Фантасты редко описывают внутреннее строение роботов, поскольку это не имеет принципиального значения для сюжета, да они и не особенно разбираются в технических деталях.

Однако из рассказов часто складывается впечатление, что внутри робота имеется масса проводов, по которым проводится электричество, и никаких трубок для тока крови. Источник питания, как правило, не называется, или становится ясно, что он имеет отношение к атомной энергии.

А как насчет мозга?

Когда я написал свои первые рассказы о роботах в 1939 и 1940 годах, я представил себе «позитронный мозг» губчатого типа из сплава платины и иридия. Я выбрал именно такой материал, потому что он особенно инерционен и меньше всего подвержен химическим реакциям. Губчатый он для того, чтобы обеспечить большую поверхность, на которой могут создаваться и разрушаться электрические схемы. «Позитронный» – поскольку за четыре года до моего первого рассказа о роботах был открыт позитрон как противовес электрону, и потому «позитронный» вместо «электронный» неплохо звучало с точки зрения фантастики.

Разумеется, сегодня мой позитронный мозг из сплава платины и иридия безнадежно устарел. Даже через десять лет после его изобретения он казался архаичным. К концу 1940-х годов мы уже понимали, что мозг робота должен быть чем-то вроде компьютера. Действительно, если робот настолько сложен, каким он описывается в моих более свежих романах, его мозг должен быть похож на мозг человека и состоять из крошечных микрочипов, не крупнее клеток мозга.

А теперь давайте представим себе нечто не являющееся ни организмом, ни роботом, а комбинацией и того и лругого. Возможно, мы имеем право рассматривать его как организм-робот или «орбот». Вне всякого сомнения, это не слишком удачное название, посокльку мы всего лишь переставили две буквы. Сказать «оргабот» – значит придумать довольно уродливое слово.

Мы можем назвать это создание робот-организм, или «роботанизм» (что, несомненно, еще хуже), или «роборг». Лично мне кажется, что «роборг» звучит не так уж плохо, но и это имя не годится.

Давным-давно Норберт Винер назвал науку о компьютерах кибернетикой, и потому, если мы будем рассматривать нечто среднее между организмом и роботом, кибернетическим устройством по своей природе, у нас может получиться «кибернетический организм», или «киборг». Это слово действительно прекрасно прижилось и постоянно используется.

Чтобы понять, каким должен быть киборг, давайте начнем с человеческого организма и постепенно подойдем к роботу. А когда мы с этим покончим, повторим тот же процесс – только в обратном направлении.

Чтобы перейти от человеческого организма к роботу, мы должны начать с замены частей человеческого организма на части робота. В некоторых областях мы уже к этому перешли. Например, большинство моих зубов сделано из металла, который является главным строительным материалом для роботов.

Естественно, части, которые мы будем заменять, не обязательно должны быть механическими. Кое-какие из моих зубов сделаны из керамики, и их невозможно отличить от настоящих. Однако даже несмотря не то, что керамика внешне (и до определенной степени по своему химическому составу) не отличается от природного материала, из которого состоят мои зубы, она не несет в себе никаких признаков живой материи.

Пойдем дальше. Моя грудина, которая была распилена в длину для проведения операции много лет назад, соединена металлическими скобами. У моей невестки искуственный бедренный сустав. Я знаю людей, у которых искуственные руки или ноги, и такие конечности с каждым годом становятся все сложнее по своей констркуции, так что их владельцы могут ими пользоваться почти как настоящими. Мы знаем про людей, которые прожили несколько дней или даже месяцев с искуственным сердцем, и таких, чья жизнь продлена на годы при помощи электрокардиостимулятора.

Мы можем представить себе времена, когда та или иная часть человеческого организма будет заменена неорганическими материалами или устройствами, созданными инженерами. Существует ли хотя бы что-нибудь, что невозможно заменить – по крайней мере, в нашем воображении?

Я думаю, ответ очевиден. Замените любую часть человеческого тела или организма – конечности, сердце, печень, кости и тому подобное, но человек все равно останется человеком. С искуственными частями тела, но все равно человеком.

А как насчет мозга?

Вне всякого сомнения, единственное, что делает нас людьми, это мозг. А индивидуальностями нас делает исключительно сложное его строение, чувства, знания, память. Вы не можете взять и заменить мозг мыслящим устройством, изготовленным на заводе. Необходимо внести нечто такое, что включает в себя все, известное человеческому мозгу, обладает его памятью и полностью повторяет схему его работы.

Искуственная конечность может действовать не идентично настоящей, но, однако, выполнять некоторые необходимые функции. То же самое мы скажем об искуственной почке, легком или печени. Искуственный мозг должен стать точной копией мозга, который он заменяет, или человек перестанет быть тем человеческим существом, которым он был.

Значит, самым сложным в переходе от человеческого организма к роботу является мозг.

А наоборот?

В «Двухсотлетнем человеке» я описал превращение моего героя-робота, Эндрю Мартина, в человека. Очень медленно, понемногу он менял себя, пока внешне не стал неотличим от человека. Он демонстрировал интеллект, равный человеческому (или даже превосходящий его). Он был историком, художником, ученым, администратором. Сумел провести законы, гарантирующие роботам определенные права, и завоевал всеобщее уважение и восхищение.