Голем XIV - Станислав Лем

Эта доктрина — как и ее атомно-баллистические предшественницы — стала объектом критики, исходившей прежде всего из центров либеральной и пацифистской мысли; ее осуждали выдающиеся деятели науки, в том числе интеллектронщики и специалисты по психоматике. И все же она победила, что нашло выражение в правовых актах обеих палат Конгресса. Впрочем, уже в 1986 году появился подчиненный непосредственно президенту Национальный совет по интеллектронике (НСИ), с собственным бюджетом в 19 миллиардов долларов только на первый год. И это было лишь скромным началом.

НСИ при помощи консультативного органа, полуофициально назначенного Пентагоном и возглавлявшегося министром обороны Леонардом Давенпортом, разместил в крупных фирмах, таких как IBM, «Нортроникс» и «Сайберматикс», заказы на создание опытного образца устройства, известного под кодовым названием «ГАНН» (сокращение от «Ганнибал»). Но, благодаря прессе и различным утечкам информации, обиходным стало другое название «Абсолютный Победитель» (Ultimativ Victor, сокращенно ULVIC). До конца века появились и другие опытные образцы, наиболее известные из которых АЯКС, УЛТОР, ГИЛЬГАМЕШ, а также бесконечная серия ГОЛЕМОВ.

Огромные и все возрастающие финансовые расходы — и масса затраченного труда — позволили осуществить настоящую революцию в области информатических средств. Особенно большую роль сыграл переход — во внутримашинной передаче информации — от электричества к свету. В сочетании с прогрессирующей «нанизацией» (так называли процесс микроминиатюризации; стоит, пожалуй, добавить, что к концу столетия 20 тысяч логических элементов умещались в маковом зернышке) он дал поразительные результаты. Первый полностью световой компьютер, ГИЛЬГАМЕШ, работал в МИЛЛИОН раз быстрее архаического ЭНИАКА.

Так называемый «барьер разумности» был преодолен сразу после двухтысячного года благодаря новому методу конструирования компьютеров, названному «невидимой эволюцией разума». До этих пор каждое следующее их поколение конструировалось реально; идея создания новых образцов с огромной — тысячекратно более высокой! — скоростью, хотя и была известна, не могла быть осуществлена: тогдашние компьютеры не обладали достаточной вместимостью, чтобы стать «матками», или «искусственной средой», эволюции Разума. Положение изменилось с появлением федеральной информационной сети. Разработка следующих шестидесяти пяти поколений заняла всего десятилетие; в ночное время — в периоды минимальной нагрузки — Федеральная сеть производила на свет один искусственный вид Разума за другим; это потомство ускоренного компьютерогенеза созревало в виде символов, то есть нематериальных структур, впечатанных в информационный субстрат, в «питательную среду» Сети.

Но затем начались новые трудности. У АЯКСА и ГАННА, опытных образцов 78-го и 79-го поколения, уже признанных достойными облечься в металл, появилась какая-то неуверенность в действиях, своего рода машинный невроз. Различие между прежними и новыми машинами в принципе сводилось к различию между насекомым и человеком. Насекомое приходит на свет «запрограммированным до конца» — посредством инстинктов, которым оно подчиняется без рассуждений. Человек же должен обучаться правильному поведению, а это обучение имеет эмансипирующий эффект: руководствуясь собственной волей и знаниями, человек может поменять программу своего поведения.

Компьютерам до 20-го поколения включительно было свойственно «насекомообразное» поведение: они не могли подвергать сомнению, а тем более преобразовывать свои программы. Программист «пропитывал» машину знаниями так, как Эволюция «пропитывает» насекомое инстинктом. Уже в XX веке много говорилось о самопрограммировании, но тогда это были пустые фантазии. Между тем сконструировать «Абсолютного Победителя» было невозможно без создания самосовершенствующегося Разума; АЯКС стал промежуточной формой, и лишь ГИЛЬГАМЕШ вышел на нужный интеллектуальный уровень — на «орбиту психоэволюции».

Обучение компьютера 80-го поколения гораздо больше напоминало воспитание ребенка, чем классическое программирование цифровой машины. Но кроме огромного количества общих и специальных сведений компьютеру надлежало «привить» некие нерушимые ценности, которые служили бы ему компасом. Это были абстракции высшего порядка, такие как благо государства (государственный интерес), идеологические принципы, воплощенные в Конституции США, кодексы поведения, обязанность безусловно подчиняться решениям президента и т.п. Чтобы застраховать систему от «этических вывихов», от «измены интересам страны», машину учили принципам этики не так, как учат людей. Этический кодекс не вводился в память; нормы послушания и подчинения внедрялись в структуру машины так, как это делает природная Эволюция, действующая через сферу инстинктивных влечений. Человек, как известно, может менять мировоззрение, но НЕ МОЖЕТ уничтожить в себе элементарные влечения (например, половое) простым усилием воли. Машины наделили интеллектуальной свободой, приковав их, однако, к фундаменту заранее заданных ценностей.

На XXI Панамериканском конгрессе психоников профессор Элдон Патч представил доклад, в котором утверждалось, что компьютер, даже «пропитанный ценностями», может преодолеть т.н. аксиологический порог, а значит, поставить под сомнение любой привитый ему принцип: для такого компьютера уже нет не подлежащих обсуждению ценностей. Он может опрокинуть любые императивы, если не прямо, то окольным путем. Будучи опубликован, доклад Патча вызвал брожение в университетских кругах и новую волну нападок на «Абсолютного Победителя» и его патрона — НСИ; но на политику НСИ все это никакого влияния не оказало.

Те, кто ее разрабатывал, с предубеждением относились к американским психоникам, считая их подверженными леволиберальным влияниям. Поэтому в официальных заявлениях НСИ — и представителя Белого дома по связям с прессой — о тезисах Патча говорилось в пренебрежительном тоне. Не обошлось без кампании по его дискредитации. Утверждения Патча ставили на одну доску с иррациональными страхами и предрассудками, множество которых будоражило общество того времени. Впрочем, его брошюра не удостоилась такой известности, какую снискал бестселлер социолога Э. Лики «Cybernetics Death Chamber of Civilisation»[5]. Лики утверждал, что «абсолютный стратег» подчинит себе все человечество сам или сговорившись с аналогичным компьютером русских и к власти придет «электронный дуумвират».

Подобные опасения, не чуждые и немалой части прессы, опровергались, однако, вводом в строй новых моделей, выдерживавших проверку на эффективность. В 2019 году по заказу правительства был построен «нравственно безупречный» компьютер — ЭТОР-БИС, разработанный Институтом психонической динамики (Иллинойс); после пуска в ход он продемонстрировал полную аксиологическую стабильность и невосприимчивость к тестам на «диверсионное разложение». Поэтому когда уже в следующем году на пост Верховного координатора мозгового треста при Белом доме был назначен первый компьютер из серии ГОЛЕМОВ (GOLEM — General Operator, Longrange, Ethically Stabilized, Multimodelling[6]), это не повлекло за собой ни массовых протестов, ни демонстраций.