10 ЗАПОВЕДЕЙ НЕСТАБИЛЬНОСТИ. ЗАМЕЧАТЕЛЬНЫЕ ИДЕИ XX ВЕКА - Чарльз Флауэрс

Двоичная система оказалась исключительно удобной для применения в компьютерах. Собственно говоря, сама идея использования последовательности ответов типа да/нет для выражения любой человеческой мысли принадлежит английскому математику Джорджу Булю, который еще в середине XIX века сформулировал свои так называемые «законы мышления». Очень упрощенно идеи Буля сводились к тому, что любая мысль (независимо от ее сложности или глубины) может быть выражена наборами всего лишь двух категорий, а именно: «истинно» или «всё» (эту категорию можно обозначить через 1) и «ложно» или «ничто» (обозначаемое через 0).

Известный философ Людвиг Виттгенштейн, глубоко понимавший идеи Гёделя и других великих ученых XX века, в своем знаменитом «Логико-философском трактате», опубликованном в 1921 году, писал: «…то, что нельзя описать словами, должно быть преодолено молчанием», подразумевая под этим, что очень многое в мире не может быть выражено средствами человеческого языка, а может быть представлено лишь в виде некоторых картин или образов. Степень осознания или «понимания» в этом случае обусловлена совпадением создаваемых нашим мозгом картин с «отражаемыми» образами внешнего мира.

Идеи такого рода в значительной степени повлияли на знаменитого математика Джона фон Неймана, который в начале 40-х годов предложил концепцию вычислительной машины с хранимой программой {stored program computer), что стало выдающимся достижением в истории кибернетики и позволило компьютерам «отражать действительность». Фон Нейман также показал, что упомянутая выше бинарная логика может быть объединена с обычной арифметической и использована для создания так называемой оперативной памяти компьютера {internal memory), т. е. устройства, обеспечивающего хранение данных и выполнение инструкций по их обработке. Описанным выше значениям 1 и 0 бинарной логики в таких компьютерах соответствуют состояния «включено» и «выключено» простых устройств (типа электронных ламп), в результате чего система может не только сохранять информацию, но и обрабатывать ее с высокой скоростью, выдавая по требованию результаты расчета. В принципе, подход фон Неймана позволяет записать в формальном математическом виде почти любую, даже очень сложную человеческую мысль.

Переход от десятичной системы счисления к двоичной может показаться чем-то таинственным для малоподготовленного читателя, но это является, в сущности, очень простой операцией. В такой записи используются всего две цифры (0 и 1), а при переходе к следующему разряду (справа налево) необходимо умножить цифру на соответствующую степень числа 2, после чего сложить результаты. Например, число 110101 представляет собой сумму вида (1 + 0-21 +1 -22 + 0-23 + 1 -24 + 1 -25 = 1 + 0 + 4 + 0 + 16 + 32 = 53), число 10000 = 0 + 0-21 + 0-22 + 0-23 + 1 -24 = 16) и т. д. Эту форму записи легко освоить, и она оказалась исключительно удобной для работы компьютеров.

Разработанный Форрестером тренажер сначала не получил широкого признания, но начатое им усложнение аппаратуры и оборудования со временем развилось в серьезное направление техники, позволившее позднее автоматизировать системы противовоздушной обороны, организовать управление посадкой космических кораблей на Луну и Марс и т. п., не говоря уже об автоматизации обработки банковской информации, оплаты телефонных счетов и даже организации увеселительных мероприятий и вечеринок. Основные принципы управления этими разнообразными системи и процессами остались прежними, а изменилось только техническое оснащение. В наши дни производство микроэлектронных устройств стало настолько важной и неотъемлемой частью национальной экономики, что многие американцы вкладывают в акции высокотехнологических компаний свои сбережения и пенсии. Однако не стоит забывать, что все эти сверхминиатюрные чипы и устройства, в сущности, всего лишь быстрее и эффективнее перерабатывают информацию по очень старым принципам, разработанным еще в 40-х годах для первых вычислительных машин с их громоздкими, хрупкими и постоянно перегревающимися электронными лампами.

Однако технический прогресс и практическое применение вычислительных машин в различных областях не давали ответа на основополагающие вопросы, продолжавшие мучить разработчиков. Стали компьютеры действительно «умными» (как постоянно уверяют нас рекламные клипы) или мы просто сделали их более удобными, разносторонними и перестраиваемыми? Можем ли мы четко различить эти понятия? Каковы критерии разумности?

Огромное значение для развития компьютеров имели работы английского математика Алана Тьюринга. Во время Второй мировой войны он стал национальным героем и внес существенный вклад в победу над фашизмом, сумев создать дешифратор и «взломать» коды знаменитой немецкой шифровальной машины Энигма, что давало союзникам стратегическое преимущество в разработке военных операций. Однако не менее важным достижением Тьюринга следует считать предложенный им еще в 1936 г. проект вычислительного устройства (так называемой универсальной машины Тьюринга), на концептуальной основе которого до сих пор работают все современные цифровые компьютеры (к сожалению, он умер в 1954 г., так и не увидев свое детище воплощенным в реально действующее электронное устройство).

Среди прочих идей Тьюринга необходимо выделить знаменитую «задачу остановки», невольно заставляющую вспомнить о теоремах Гёделя. Тьюринг сумел строго доказать, что существуют вычислительные процедуры, когда невозможно предсказать момент «остановки» машины, соответствующий завершению работы заложенной в нее программы. В некоторых случаях машина в поисках решения будет продолжать вычисления бесконечно долго, но невозможно также создать контрольную программу, позволяющую проверить все остальные программы и выяснить, какая из них должна «остановиться».

Тьюринг был совершенно уверен, что проектируемые им устройства быстро станут «сообразительными», и в 1950 г. предложил мысленный эксперимент для определения «разумности» ЭВМ, получивший широкую известность и название «теста Тьюринга». В процедуре испытания (которое может быть названо «игрой в имитацию») используется компьютер, но читатель легко может представить и даже провести его, пользуясь уже привычной многим электронной почтой (e-mail). Подумайте над тем, каким образом вы, собственно, можете определить, что ваш собеседник на чате является человеком? Почему вы считаете, что полученное по электронной почте сообщение прислано человеком, а не автоматическим устройством? В сущности, мы решаем этот вопрос для себя в процессе диалога, полагая, что разумность и уместность ответных писем являются прямым свидетельством разумности собеседника и доказательством его человеческой природы. Именно такое, чисто человеческое испытание и предложил Тьюринг – машину следует считать «мыслящей», если она может адекватно отвечать на вопросы и вести заочную беседу, обманывая собеседника-человека. Иными словами, чтобы машина могла общаться с человеком, она должна научиться «думать» на уровне человека.

В этом тесте неявно подразумевается, что сознание является продуктом работы мозга, т. е. считается, что можно «скопировать сознание», смоделировав работу некоторых отделов мозга или, по крайней мере, той части нервных клеток, которая ответственна за возникновение «сознания». Пока ни одна машина не может пройти тест Тьюринга, но если это когда-нибудь произойдет, не стоит сразу считать ее «мыслящей», поскольку многие специалисты полагают, что компьютеры учатся не мыслить, а подражать человеческому сознанию благодаря соответствующей переработке информации, подобно тому, как они обучаются моделировать виртуальные события (например, ракетную бомбардировку Багдада или трансформацию человеческого лица после предполагаемой пластической операции). (К моменту публикации английского оригинала (примерно через полгода) виртуальные бомбардировки Багдада стали реальными, как бы иллюстрируя основную идею автора о неизбежности изменений. – Прим. перев)

Для доказательства этой идеи философ Джон Сирл в одной из своих книг предложил еще один забавный мысленный эксперимент (получивший название «китайской комнаты»), при котором условия теста Тьюринга в некотором смысле «выворачиваются наизнанку», т. е. испытанию подвергается не машина, а человек. Представьте, что мы пытаемся оценить «разумность» человека, запертого в изолированной камере (китайской комнате) и переговаривающегося с окружающим миром посредством записок, передаваемых через щель в двери. Он получает вопросы, написанные совершенно непонятными ему китайскими иероглифами, однако в комнате есть толстенный китайский справочник, содержащий огромное количество вопросов и достаточно пространные и убедительные ответы на них. Старательно перелистывая справочник, испытуемый каждый раз находит в нем комбинацию полученных им снаружи знаков, а затем столь же старательно копирует знаки, соответствующие ответу. Обмен такими записками может представлять собой вполне разумную и даже интересную беседу на изысканном, так называемом мандаринском диалекте китайского языка, хотя испытуемый не имеет представления или «понимания» о предмете беседы, так что он фактически ведет себя подобно автомату. Этот воображаемый диалог отличается от обычного человеческого лишь тем, что, когда испытуемый отвечает, например, на вопрос о гастрономических достоинствах утки по-пекински, у него не начинается рефлекторное выделение слюны, поскольку он не представляет предназначение и внешний вид предмета разговора. Фактически человек в этой ситуации бездумно получает, перерабатывает и выдает информацию, выполняя одну из самых стандартных функций компьютера. Другими словами, он удовлетворяет тесту Тьюринга. Невидимый нам объект (человеческая личность или компьютер?) может говорить по-китайски без всякого участия сознания или понимания, а лишь следуя набору заданных инструкций, подобно процессору компьютера. В китайской комнате человек только говорит на каком-то языке, но вовсе не «думает».(Предлагаемый Сирлом эксперимент излишне осложняется тем, что иероглифы передают не столько фонетику, сколько смысл. На практике люди, владеющие иероглификой, но говорящие на разных языках (например, японцы и китайцы или просто жители разных провинций Китая), достаточно легко общаются «письменно». Интересно, что таким способом проще говорить об абстрактных понятиях (например, о математике), чем на бытовые темы. – Прим. перев)