Искусственный интеллект – надежды и опасения - Джон Брокман

урон обществу стараниями безответственных милитаристов»[123]. Он пребывал в сомнениях по поводу преобразующей силы новых технологий, не потворствовал ни развернувшейся шумихе, ни цифровому утопизму других ученых мужей.

«Прогресс не только сулит новые возможности, но и налагает новые ограничения», – предупреждал Винер. Его беспокоили, наряду с технологическими, антропогенные ограничения, в особенности кризис холодной войны, угрожавший свободе распространения информации, столь критичной для развития кибернетических систем: «Под влиянием сенатора Маккарти и его подражателей, чрезмерно широкого, почти всеохватного определения военной информации и недавних нападок на Государственный департамент мы приближаемся к засекречиванию разума, историческое подобие которого можно отыскать разве что в истории Венеции эпохи Возрождения». Вторя многим заслуженным ветеранам Манхэттенского проекта, Винер утверждал, что послевоенная одержимость секретностью – прежде всего, вокруг ядерного оружия – возникла из-за неправильного понимания научных процессов. По его словам, единственный настоящий секрет производства ядерного оружия заключается в том, возможно ли вообще создание бомб. Едва это удалось выяснить и едва состоялись бомбардировки Хиросимы и Нагасаки, никакая государственная тайна уже не помешает ученым других стран приступить к исследованиям наподобие тех, которые проводили специалисты Манхэттенского проекта. По образному выражению Винера, «для разума нет линии Мажино».

Чтобы доказать это, Винер опирался на недавние идеи Клода Шеннона по теории информации. В 1948 году Шеннон, математик и инженер, работавший в компании «БеллЛабс», опубликовал пару довольно длинных статей в «Техническом журнале» компании. Представляя новую работу широкому кругу читателей в 1949 году, математик Уоррен Уивер объяснял, что в концепции Шеннона «слово “информация”… употребляется в особом смысле, который не следует путать с обычным употреблением. В особенности не следует отождествлять информацию и смысл»[124]. По Уиверу, «семантические» аспекты коммуникации важны для лингвистов и поэтов, но не для инженеров наподобие Шеннона. Скорее, «само слово «информация» в теории коммуникации относится не столько к тому, что действительно было сказано, сколько к тому, что могло бы быть сказано». Согласно знаменитой ныне формулировке Шеннона, информационное содержание строки символов определяется логарифмом числа возможных символов, из которых состоит данная строка. Ключевой особенностью подхода Шеннона было понимание энтропийности информации: подобно энтропии газа, это мера неупорядоченности в системе.

Винер заимствовал эту концепцию, когда писал свою книгу. Если информация подобна энтропии, ее нельзя сохранить или «законсервировать». Физика XIX столетия продемонстрировала, что совокупная энергия физической системы должна оставаться неизменной, обеспечивая идеальный баланс между началом и концом процесса. С энтропией дело обстоит иначе, она неумолимо возрастает со временем, и этот императив стал известен как второй закон термодинамики. Ввиду столь резкого различия – энергия накапливается и сохраняется, а энтропия возрастает – подразумевались последствия поистине космического масштаба. Время должно двигаться вперед, будущее не может быть тем же самым, что и прошлое. Вселенная может даже стремиться к «тепловой смерти» в некоем отдаленном грядущем, когда общий запас энергии равномерно рассеется и будет достигнуто состояние максимальной энтропии, с достижением которого дальнейшие изменения невозможны.

Если информация qua[125] энтропия не подлежит сохранению, то, по мнению Винера, со стороны военных лидеров глупо «накапливать военные и научные технологии страны в статичных библиотеках и лабораториях». Действительно, «никакой объем научных исследований, тщательно занесенный в книги и журналы, а затем переданный в библиотеки со штампом «секретно», не сможет защитить нас сколько-нибудь продолжительное время в мире, где актуальный уровень информации постоянно повышается». Винер утверждал, что любые попытки навязать секретность, утаить или придержать информацию обречены на провал, как провалились в свое время попытки изобрести вечный двигатель, опровергнутые вторым законом термодинамики.

Винер критиковал американскую «ортодоксальную» приверженность свободе рынка и рыночный фундаментализм. Для «американцев, применительно к жизненным условиям… вопросы информации будут оцениваться по стандартному американскому критерию: нечто обладает товарной ценностью, если на это нечто имеется спрос на свободном рынке». В самом деле, «судьба информации в типичном американском мире такова: она обречена стать тем, что можно продать или купить»; большинство людей, по мнению Винера, «не в состоянии вообразить фрагмент информации, у которого нет владельца». Винер считал эту точку зрения столь же ошибочной, как и необузданное стремление военных к засекречиванию всего на свете. Он ссылался, опять-таки, на идеи Шеннона: «поскольку информация и энтропия не сохраняются», они «в равной мере непригодны для того, чтобы быть товарами».

* * *

Информация не может сохраняться; ладно, с этим разобрались. Но действительно ли Винер рассуждал об «информации» в понимании Шеннона? Суть теории Шеннона, в изложении Уивера, сводилась к тому, чтобы различать общеупотребительное представление об информации как осмысленном сообщении и абстрактное, вычлененное представление о строках символов, выделенных и выстроенных с некоторой вероятностью из огромной вселенной бессмысленности. Для Шеннона «информация» могла определяться количественно, поскольку ее базовая единица, бит, была единицей переноса, передачи, а не понимания.

С другой стороны, когда Винер характеризовал понятие «информация» в своей книге, он регулярно отталкивался от классического, гуманистического значения этого термина. «…фрагмент информации для попадания в общий свод информации данного общества должен сообщать нечто, принципиально отличное от предыдущего общего запаса информации общества». Вот почему «школьники не любят Шекспира»: бессмертные строки Барда могут резко отличаться от случайных битовых потоков, но тем не менее они слишком уж знакомы публике, наделяющей слова смыслом, и находятся на «уровне накопления поверхностных клише текущей эпохи».

Впрочем, когда-то информационное содержание творчества Шекспира было в новинку. В годы послевоенного бума Винера беспокоило, что «огромный объем информации на душу населения» – от газет и кинофильмов до радио, телевидения и книг – порождает посредственность, информационный возврат к средним значениям. «Все чаще и чаще нам приходится употреблять стандартизированные, безвредные и бессодержательные продукты, которые, подобно белому хлебу из пекарен, изготавливаются, скорее, из-за их товарных свойств, а не из-за пищевой ценности». Винер взывал: «Спаси нас Небеса от первых романов, написанных только потому, что молодой человек помышляет о славе романиста, а не потому, что ему есть что сказать! И спаси нас небеса от математических исследований, правильных и элегантных, но лишенных, так сказать, души и тела». Во многом в трактовке термина «информация» Винер был ближе к Мэттью Арнольду (1869)[126], чем к Клоду Шеннону (1948): его больше заботили «душа и тело», чем «бит». Винер также разделял романтическое представление Арнольда о «создателе содержания». «Строго говоря, художник, писатель и ученый – все должны следовать побуждению творить, непреодолимому настолько, что, даже если бы им не платили за работу, они сами изъявляли готовность платить за возможность заниматься творчеством». L’art pour l’art[127]; это лозунг XIX столетия: творцы должны страдать, стремление к осмысленному выражению всегда превосходит стремление к прибыли.

Для Винера именно такова правильная мера «информации»: тело, душа, стремление, выражение. Впрочем, протестуя против