Фиаско - Станислав Лем

Часом позже он пошел к Герберту. Его каюта, удаленная от других, находилась в конце второго межпалубного отсека. Врач выбрал ее за простор и окно во всю стену, выходившее в оранжерею. В ней росли только мхи, трава и бирючина, а по обе стороны гидропонического бассейна зеленели волосатые, с серым отливом шары кактусов. Деревьев не было, только кусты орешника, потому что их прутья могли переносить большие перегрузки во время полета. Герберт ценил эту зелень за окном и называл ее своим садом. Из коридора можно было войти туда и прогуляться по дорожкам – конечно, только при гравитации; к тому же недавняя встряска, вызванная ночной атакой, произвела там немалые опустошения. Герберт, Темпе и Гаррах спасали потом что могли из поломанных кустов.

Согласно решению, принятому экспертами SETI во время подготовки экспедиции, GOD наблюдал за поведением всех людей на «Гермесе», чтобы определять их психическое состояние, и это ни для кого не было тайной.

Необходимо было знать, не наступят ли при долговременном стрессе, которому будут подвергаться предоставленные самим себе люди, отклонения от нормы, типичные для психодинамики групп, годами отрезанных от обычных семейных и социальных связей. В подобной изоляции может поддаться нарушениям даже личность, ранее абсолютно уравновешенная и защищенная от душевных травм. Фрустрация переходит в депрессию или в агрессивность, а те, с кем это происходит, почти никогда не отдают себе в этом отчета.

Присутствие на борту врача, хорошо разбирающегося в психологии и нарушениях психики, не гарантирует выявления патологических явлений, поскольку он также может поддаться стрессам, непосильным для самого мужественного характера. Врачи ведь тоже люди. Машинная же программа, напротив, отличается устойчивостью и будет полезна как объективный диагност и невозмутимый наблюдатель, даже если произойдет катастрофа и корабль должен будет погибнуть.

Правда, эта защита разведчиков от коллективного сумасшествия несла в себе угрозу непреодолимого противоречия. GOD все-таки должен был выполнять функции одновременно подчиненного и руководителя команды, выполнять приказы и следить за психическим состоянием приказывающих. Тем самым он получал статус послушного орудия и категоричного начальника. От его постоянного надзора не освобождался даже командир. Вся загвоздка была в том, что осознание того факта, что существует наблюдение, которое обязано вовремя обнаружить психические травмы, само было своеобразной травмой. Но от этого средств уже не было. Если бы GOD выполнял эту функцию втайне от людей, он вынужден был бы раскрыть ее, уведомив их о выявленной аберрации, и такое сообщение стало бы не психотерапией, а шоком. Этот порочный круг как будто удалось разорвать, создав перекрестную обратную связь между ответственностью людей и компьютера. Он передавал свои диагнозы, когда считал это необходимым, в первую очередь командиру и Герберту, не проявляя в дальнейшем никакой инициативы. Ясное дело, никто не встретил этого компромисса с энтузиазмом, но никто также, включая и духоведческие машины, не нашел лучшего выхода из дилеммы. GOD, компьютер последнего поколения, не был подвержен эмоциям; он был поднятым до уровня величайшей мощи экстрактом рационального действия, без примеси аффектов или инстинкта самосохранения; он не был развитым при помощи электроники человеческим мозгом, не имел никаких черт, которые принято называть личностными, характерологическими, никаких страстей, если не считать страстью стремление к получению максимума информации – но не власти. Первые изобретатели машин, усиливающих мощь не мускулов, но мысли, поддались иллюзии, которая одних притягивала, а других ужасала: они-де вступают на путь такого увеличения разумности в мертвых автоматах, что те сначала уподобятся человеку, а затем, также на человечий манер, превзойдут его. Потребовалось несколько десятков лет, чтобы их последователи убедились, что отцы кибернетики и информатики слишком увлеклись антропоцентрической фикцией: ведь человеческий мозг есть дух в машине, которая не является машиной. Составляя с телом неразрывную систему, мозг одновременно служит ему и им же обслуживается. Если бы кому-то захотелось так очеловечить автомат, чтобы он в психическом отношении ничем не отличался от людей, то успех при всем его совершенстве оказался бы абсурдом. По мере неизбежных доработок и усовершенствований очередные образцы в действительности станут все более похожи на людей и одновременно сделаются все более бесполезными, от них все меньше можно будет добиться той пользы, какую приносят, к примеру, гига– или терабитовые компьютеры высших поколений. Единственной разницей между человеком, рожденным от отца и матери, и максимально очеловеченной машиной будет только строительный материал – в первом случае живой, а во втором – мертвый. Очеловеченный автомат будет таким же сообразительным, но и таким же ненадежным, ущербным и руководимым в своем интеллекте эмоциональными мотивами, как человек. В качестве виртуозного подражания естественной эволюции, увенчанной антропогенезом, это будет превосходным достижением инженерной мысли и вместе с тем – курьезом, с которым неизвестно, что делать. Это будет выполненная из небиологического сырья великолепная подделка под живое существо типа позвоночных, класса млекопитающих, отряда приматов, живородящего, двуногого, с двуполушарным мозгом, потому что именно путем симметрии в формировании позвоночных пошла эволюция на Земле. Неизвестно, однако, какую выгоду из этого гениального плагиата могло бы извлечь человечество. Как заметил один из историков науки, это напоминало бы ситуацию, в которой удалось бы при колоссальных капиталовложениях и теоретических разработках построить фабрику, вырабатывающую шпинат или артишоки, способные к фотосинтезу, как все растения, и ничем не отличающиеся от настоящего шпината или артишоков, кроме того что они несъедобны. Такой шпинат можно было бы показывать на выставках и похваляться мастерством синтеза, но нельзя было бы съесть, и тем самым весь труд, вложенный в его производство, оказался бы поистине безумной затеей. Первые проектировщики и сторонники «машинного разума» сами, вероятно, не знали, к чему они стремятся и на что надеются. Разве дело в том, чтобы можно было разговаривать с машиной, как с посредственным или даже с очень умным человеком? Это можно сделать, но неужели тогда, когда численность человечества достигла четырнадцати миллиардов, самой срочной потребностью оказалось искусственное производство умственно человекообразных машин? Короче говоря, компьютерный разум все отчетливее расходился с людским, помогал ему, продолжал, дополнял его, содействовал в решении задач, непосильных для человека, и поэтому не имитировал его и не повторял. Пути решительно разошлись.