«Если», 1993 № 04 - Дорис Писерчиа

Однако компьютеры, несмотря на все свое быстродействие, на растущий объем памяти, на увеличивающуюся сложность программ, появление так называемых когнитивных систем (например, систем когнитивной компьютерной графики), остаются лишь помощниками человека, и увы, далеко не такими «сообразительными», какими бы хотелось их видеть. Впереди еще очень большие возможности для освобождения человека от многих тяжелых, часто неинтересных работ. Уже существуют, например, компьютерные системы эффективной обработки символьной информации, существенно облегчающие труд ученых.

Неосновательность опасений «захвата власти» компьютерами, с моей точки зрения, связана еще и с тем, что компьютеры, несмотря на все большее их совершенство так же далеки от того, чтобы рассматриваться в качестве субъектов, как и их «предки»-арифмометры. Они не приобретают никаких потребностей, не имеют желаний, настроений. В отличие от них даже собака или кошка обладают самостоятельной волей. Но поскольку наука и сегодня не может дать точное и полное описание (и объяснение) причин и механизмов творческой деятельности человека (хотя по многим параметрам он значительно уступает современным ЭВМ), это приводит к необходимости вести исследования в области искусственного интеллекта по самому широкому спектру направлений. И в первую очередь добиваться от компьютера эффективных операций с наглядными образами, а чем человек наиболее силен, а также моделирования эмоциональной и волевой сфер человека, не ограничиваясь рационально-логической моделью. Иначе говоря, чтобы компьютер лучше решал многие задачи, он должен как можно точнее имитировать различные особенности человека. Помимо этого, такие исследования позволят более глубоко понять многие механизмы человеческого сознания, психики. Иначе говоря, они идут в русле задачи, выдвинутой еще в античности: «Познай самого себя».

Что же случится на длительных интервалах времени — другой вопрос. Может быть, человечество просто устанет. Может быть, придет к выводу, что биологические системы недостаточно подходящи для дальнейшей эволюции.

Другой вопрос, что компьютеры сегодня очень сложны; сложна структура их внутренних электронных связей, программного обеспечения, и человек не в состоянии обозреть большие компьютерные программы. Это самые сложные и объемные интеллектуальные продукты, когда-либо создававшиеся человеком. Они сложнее, чем научные теории, занимающие целые тома. Но книги человек может прочесть, здесь же необозримое море. Германский ученый В. Циммерли даже сформулировал парадокс, носящий его имя: «Надежность контроля систем обработки информации постоянно снижается, несмотря на использование все более совершенных контролирующих систем». Эта проблема действительно существует: сложные компьютерные системы все больше «отдаляются», «замыкаются» на себе; уменьшается степень контроля над ними. Однако и парадокс Циммерли разрешим: ведь программы, которые нельзя прочесть, функционируют, дают какой-то результат. Этот результат проверяем, человек способен проконтролировать, соответствует ли он целям, которые ставились при программировании. И насколько мне известно, нет случая, чтобы компьютеры выходили в область свободного поиска или проявляли собственную волю. У них не существует побудительных импульсов, потребностей, контактов с окружающей средой, которые могли бы переводить их на какие-то другие области деятельности. Правда, можно предположить, что все больше исследований будет вестись в области вероятностного программирования. Тем самым в программах будет задаваться все больше неопределенностей. Вот тогда, возможно, у компьютера появятся какие-то иные способности. Но пока я даже теоретически не вижу, как эти способности могут вылиться в некую автоэволюцию. Разве в какой-то особой среде, на какой-то изолированной планете будут размещены роботы с открытой программой, способной к эволюции, — хотя и в этом случае нельзя сказать, смогут ли они реально приспособиться к длительной и радикальной эволюции. Возможно, в них могут быть заложены блоки, связанные с усложнением каких-то потребностей и т. п. — и тогда люди, которые посетят эту планету через несколько сот лет, удивятся, увидев изменения, которые не были предусмотрены создателями первоначальных программ. Помните «Непобедимый» Станислава Лема и его «мушек» на планете Регис-3? Кстати, на меня большое впечатление произвел прочитанный в юности рассказ Лема «Формула Лимфатера», где заложена идея о том, что биологическая эволюция — лишь предыстория, предпосылка к эволюции разума более высокого, чем у человека, типа. Это и опасность, и одновременно закономерность эволюции в более широком смысле, которая обусловлена действиями самого человека.

Лимфатер сокрушает им же созданный сверхразум, уничтожает его как опасность для всего человечества (правда, этим, по мысли автора, он лишь несколько отодвигает неизбежное). А представляет ли общественную опасность сегодняшняя компьютеризация? Не ждет ли нас повторение луддитских движений? Я считаю, что это маловероятно. Во- первых, появление безлюдных, гибких автоматизированных производств — это отнюдь не стремительный процесс. Да и идет он далеко не везде, затрагивая пока лишь немногие страны, проявляясь в основном в Японии и США. Собственно, полностью безлюдное производство — это особый случай, а в большинстве речь идет о частичном замещении человека в производствах, где велика вредность, монотонность, шум и т. д. Или, скажем, там, где требуется особая точность, которую человек не может обеспечить (в качестве примера укажу на процесс изготовления микросхем, где все надо делать на микроуровне). Так что существует множество причин для появления роботизированных или полностью автоматизированных производств, но из-за малой скорости процесса вряд ли высвобождение рабочей силы, которое при этом происходит, вызовет большие социальные потрясения. Японцы, работая над своим проектом создания ЭВМ пятого поколения и строя автоматизированные предприятия, стараются находить социальные амортизаторы, и это не какие-то сложнейшие системы мероприятий, а относительно простые: сокращение продолжительности рабочего дня, внедрение систем переобучения, переквалификации, прогнозирование новых рабочих мест. Дело в том, что сама компьютерная революция не только забирает рабочие места, но и создает новые. Кроме того, все время увеличиваются потребности человека — например в отдыхе, туризме, досуге — и таким образом новые рабочие места в одной отрасли компенсируются их появлением в другой.