Искусственный интеллект – надежды и опасения - Джон Брокман

Техническое пророчество Винера побуждает вспомнить романтическое восстание против «угрюмых сатанинских мельниц» промышленной революции и, возможно, даже более ранние примеры – судьбу Прометея, Пандоры и Фауста. Сегодня же оно звучит особенно остро. Многочисленные Иеремии (сам Винер, например) от науки и техники бьют тревогу по поводу нанотехнологий, генной инженерии, больших данных и, прежде всего, искусственного интеллекта. Ряд авторов настоящего сборника характеризуют книгу Винера как яркий пример технического пророчества и стараются превзойти своего предшественника в живописании грядущих ужасов.

Тем не менее две моральные темы «Человеческого применения человеческих существ» – либеральная защита открытого общества и дистопийный страх перед разгулом технологий – остаются вполне актуальными. Общество с каналами обратной связи, максимизирующее человеческое процветание, будет располагать нужными механизмами и сможет адаптировать их к изменяющимся обстоятельствам таким образом, чтобы они приспосабливали технологии к человеческим целям. Здесь нет ничего идеалистического или мистического; как подчеркивал Винер, идеи, нормы и институты сами по себе суть технологии, фрагменты информации, распределенные в сознании. Вероятность того, что машины принесут с собой новый фашизм, следует сопоставить с ценностью либеральных идей, институтов и норм, отстаиваемых Винером на протяжении всей книги. Проблема современных антиутопических пророчеств состоит в том, что они игнорируют существование этих норм и институтов или сильно недооценивают их каузальную силу. В результате возникает технологический детерминизм, чьи мрачные предсказания неоднократно опровергались реальным ходом событий. Цифры «1984» и «2001» могут служить наглядными примерами[94].

Рассмотрим два случая. Технические пророки нередко предупреждают о «всевидящем оке»: дескать, правительство, располагающее нужными технологиями, будет отслеживать и контролировать всю частную переписку ради выявления инакомыслия и подрывной деятельности, тем самым препятствуя сопротивлению государственной власти. Сразу вспоминаются оруэлловские экраны; недаром еще в 1976 году Джозеф Вейценбаум, один из мрачнейших технических пророков всех времен, советовал моим студентам не заниматься автоматическим распознаванием речи, поскольку единственным мыслимым применением этой технологии является государственное «всевидящее око».

Считая себя убежденным либертарианцем, которого сильно беспокоят нынешние угрозы свободе слова, я не теряю сон из-за технологических достижений, будь то интернет, видео или искусственный интеллект. Дело в том, что почти все различия в свободе мысли во времени и пространстве обусловлены различиями в нормах и институтах, они почти никак не определяются различиями в технологиях. Безусловно, можно вообразить гипотетическое сочетание злобных тоталитаристов и передовых технологий, но в реальном мире мы должны бдительно следить за нормами и законами, а не за технологиями.

Рассмотрим изменения во времени. Если, как намекал Оруэлл, прогрессирующие технологии действительно являются основным фактором стимулирования политических репрессий, то западные общества становились бы все более и более сдержанными в свободе слова на протяжении столетий, причем резкое ухудшение наблюдалось бы во второй половине XX столетия и в XXI веке. Но история развивалась иначе. Именно тогда, когда коммуникация осуществлялась перьями и чернильницами, происходили аутодафе, а мыслителей сажали в тюрьму или под нож гильотины. В годы Первой мировой войны, когда вошел в моду телеграф, Бертрана Рассела посадили под замок за публичное выражение пацифистских взглядов. В 1950-е годы, когда компьютеры занимали целые помещения, сотни либеральных писателей и ученых страдали от преследований. В нашем же технологически развитом и гиперсвязанном XXI веке 18 процентов профессоров социальных наук привержены марксизму[95]; телевизионные комики вечерами высмеивают президента Соединенных Штатов Америки как расиста, извращенца и недалекого деревенщину; а главная угроза со стороны технологий для политического дискурса заключается в трансляции слишком большого количества сомнительных заявлений, а не в подавлении просвещенных умов.

Теперь рассмотрим вариации мест. Западные страны на технологической передовой неизменно получают самые высокие баллы по показателям демократии и соблюдения прав человека, тогда как многие отсталые, но крепкие государства числятся в отстающих, и там нередко преследуют или убивают критиков правительства. Отсутствие корреляции между технологиями и репрессиями не выглядит удивительным, если проанализировать каналы распространения информации в любом человеческом обществе. Чтобы диссиденты обрели влияние, они должны передать свое послание по широкой сети и по любым доступным каналам связи – через памфлеты, выступления, посиделки в кафе и пабах, через сарафанное радио. Эти каналы объединяют влиятельных диссидентов в широкую социальную сеть, что позволяет легко их идентифицировать и выследить. Это тем более верно, когда диктаторы заново открывают для себя проверенную временем практику натравливания людей друг на друга, наказывая тех, кто не осуждает и не наказывает других.

По контрасту, технологически развитые общества уже давно имеют возможность устанавливать подключенные к интернету камеры наблюдения, контролируемые государством, в каждом баре и каждой спальне. Но этого не происходит, потому что у демократических правительств (даже у нынешней американской администрации с ее вопиющими антидемократическими потугами) нет ни воли, ни средств для реализации этой возможности на практике, нет возможности следить за всеми, кто привык свободно выражать вслух свои мысли. Порой меры профилактики ядерного, биологического или кибертерроризма побуждают спецслужбы к таким шагам, как несанкционированный обществом сбор метаданных мобильных телефонов, но эти малоэффективные действия, скорее, игра, чем полицейский произвол, не оказывают существенного влияния ни на безопасность, ни на свободу. По иронии судьбы, технические пророчества отчасти стимулируют подобные шаги. Распространяя панику по поводу потенциальных экзистенциальных угроз, скажем, ядерных бомб в чемоданах или биологического оружия, изготовленного подростками в гараже, они оказывают давление на правительства, и тому приходится демонстрировать, что оно печется о благе и безопасности Америки.

Дело не в том, что политические свободы могут позаботиться о себе самостоятельно, а в том, что наибольшую угрозу представляют собой сети идей, норм и институтов, которые обеспечивают (или не обеспечивают) обратную связь для коллективных решений и понимания. В отличие от химерических технологических угроз, сегодня реальной угрозой выглядит гнетущая политкорректность, которая погубила ряд озвученных гипотез, отпугнула многих умных людей от интеллектуального труда и спровоцировала яростную реакцию. Другая реальная угроза состоит в сочетании прокурорского надзора и обширной книги законов, полной двусмысленных формулировок. В результате каждый американец невольно совершает «три преступления в день» (как называется книга либертарианца Харви Сильвергейта) и находится под угрозой тюремного заключения всякий раз, когда этого может захотеться правительству. Именно такое оружие делает всесильным оруэлловского Большого Брата, а отнюдь не экраны повсюду. Лучше бы направлять усилия против правительственных программ надзора и контроля на борьбу с чрезмерными юридическими полномочиями власти.

Другой фокус многих современных технических пророчеств – это искусственный интеллект, будь то в оригинальной научно-фантастической версии обезумевших компьютеров, которые порабощают человечество в неудержимом стремлении к мировому господству, или в более новой версии, согласно которой они порабощают нас случайно, двигаясь к некой цели, поставленной перед ними, и не обращая внимания на побочные эффекты вроде угрозы благополучию