Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

Ханчжоу, инженеры Alibaba внедрили систему распознавания лиц, способную учитывать информацию из социальных сетей и интернета в целом. Цель в том, чтобы получить возможность идентифицировать каждого гражданина Ханчжоу, отслеживая в одном стандартном формате его передвижение, поведение, а также социальные связи. За несколько секунд можно узнать, кто вы такой, где находитесь, что делаете и с кем недавно встречались. City Brain позволяет найти в городе машину по ее номеру или преступника по обычному фото. Для предупреждения преступлений полиция может также опираться на предсказательный анализ City Brain. Мой собеседник с гордостью разъяснил мне все эти технические достижения, в которых, с его точки зрения, нет ничего сомнительного. На мои скромные возражения он ответил доводами здравого смысла: разве мы не хотим жить в безопасности? Сегодня муниципальные власти вполне удовлетворены результатами, а гражданин даже не подозревает, что за ним ведется наблюдение. Окрыленная этим успехом, Alibaba готовится внедрить систему City Brain в пятнадцати других городах, в том числе и в соседних странах, например в Малайзии. И ведь это только первые шаги городской оптимизации… В будущем технология City Brain сможет применяться для городского планирования, управления водоснабжением и электрическими сетями: «У граждан не будет другого варианта, кроме как сохранять постоянное подключение к сети». City Brain сможет еще ближе узнать их и еще больше улучшить наши условия жизни, строго присматривая при этом за теми, кто хотя бы на дюйм отклонился от истинного пути.

Мой молодой собеседник говорил с таким воодушевлением и уверенностью, что мне просто не хватило смелости показать ему свое возмущение. Наши точки зрения, вероятно, попросту непримиримы. То, что для него является постепенно создаваемой утопией, мне кажется антиутопией, ставшей реальностью. «Китай – это как пирамида, управляемая сверху», – сказал он в самом начале разговора. Нужно понимать, что центральная власть или силы правопорядка не вызывают у китайцев инстинктивного отторжения. Чтобы убедиться в этом, достаточно провести один час в Музее полиции в Пекине. Кажется, что ты в «перевернутом» берлинском музее «КПП Чарли» – здесь все наоборот: диссиденты представлены не героями, а предателями, репрессии считаются не отвратительными, а вполне законными. Так, арест заговорщиков Гоминьдана стал поводом для чествования, а памятные мероприятия на площади Тяньаньмэнь известны превосходным обеспечением безопасности… Висящая там табличка, во избежание недоразумений, объясняет, как «полиция под руководством Коммунистической партии Китая постепенно завоевала доверие и поддержку Партии и Народа». В стране, где история средств надзора восходит к 221 году до н. э., к императору Цинь Шихуану, критика установленного порядка не приветствуется.

Китайская парадигма проясняется: «озеро данных», питаемое самыми разными источниками, используется гигантами ИИ с благословения правительства и под пристальным контролем полиции. Гражданин, круглые сутки подключенный к сети, выигрывает в благополучии и безопасности. Какой же безумец станет на это жаловаться – в стране, где еще жива память о гражданской войне и голоде?

В качестве объяснения этого тревожного равнодушия к свободам порой можно прочитать, что китайское общество вступило в индивидуалистическую, консьюмеристскую, аморальную эпоху[155]. С моей точки зрения, это слишком поспешная оценка, в которой западная схема интерпретации проецируется на сложное общество. Китай не готов бежать за прогрессом, отказавшись от всякой этики. Наоборот: он поднимает ИИ на щит именно потому, что эта технология соответствует его глубинным ценностям.

Кай-Фу Ли заметил в разговоре со мной, что концепция приватности, неприкосновенности частной жизни не была основной в китайской философской традиции. Впрочем, достаточно сесть в китайский поезд, чтобы заметить: уважение к тому, что мы бы назвали «личным пространством», здесь почти отсутствует… В то же время Кай-Фу Ли расхвалил конфуцианские ценности: дружбу, лояльность, заботу о других, преданность родине. Все эти ценности скорее коллективного характера, и ими якобы и объясняется та легкость, с какой китайцы передают свои данные властям. Я решил проверить это, отправившись в храм Конфуция в Пекине, который недавно, когда началась запущенная властями волна возрождения конфуцианства, был отреставрирован. Это несколько пагод, одна другой величественнее, соединенных мраморными лестницами. Между пагодами можно свободно прогуливаться. Я с удивлением заметил, что балки, поддерживающие крыши, украшены рисунками концентрических кругов, напоминающих человеческий глаз, так что посетитель как бы находится под присмотром тысячи взглядов: может быть, это первые камеры видеонаблюдения? На выходе из храма расположена постоянная экспозиция, выражающая официальную позицию правительства в отношении Конфуция, который реабилитирован в качестве главной фигуры китайской мысли. Речь прежде всего о том, чтобы прославлять достоинства умеренной централизованной власти, объединяющей страну. Кроме того, Конфуций представлен как ученый, доверяющий инновациям. Вот почему, если следовать официальному тексту, «во все времена научно-технологическое развитие совпадало с подъемом конфуцианства». На плакате изображена гигантская круговая диаграмма, представляющая распределение мирового ВВП в 1800 году, когда на долю Китая приходилось 33 %, а на долю европейских держав – только 28 %. Можно предположить, что именно влияние конфуцианства объясняло экономическую мощь императорского Китая. Мысль понятна: возрождение этой доктрины позволит Китаю вернуть себе свой естественный статус. Конфуцианство, технологический прогресс и экономическое господство прямо увязываются друг с другом. Храм Конфуция – это еще и храм ИИ.

Позже я попытался найти в текстах Конфуция, дошедших до нас в форме бесед с учениками, глубинные связи с принципами ИИ, как они понимаются в Китае сегодня. Первый общий элемент – это уважение к власти. Сократ создал европейскую философию, поставив под вопрос правила полиса, и поэтому его приговорили к смерти за развращение молодежи. Конфуций же, его современник (с разницей в несколько десятилетий), всю жизнь бродил от двора одного правителя к другому, предлагая свою кандидатуру на разные официальные посты. Эту обязанность служить властям он оправдывал довольно забавно: «Неужто я горькая тыква, которая так и будет сохнуть, никому не принеся пользы?» Если Сократ разрушал статус-кво, то Конфуций старался поддерживать справедливое равновесие в обществе и свое собственное учение понимал как основу образования, необходимого для исполнения политических обязанностей. Если Платон так и не смог стать советником Дионисия Сиракузского, то Конфуций хвалился тем, что к нему всегда прислушивались министры; он и сам на какое-то время стал хранителем печатей. Эта обязанность подчиняться вышестоящим связывается с сыновней почтительностью: «Быть хорошим сыном, просто хорошим сыном и хорошим братом – значит уже участвовать в правлении». Общество – большая семья, в которой каждый должен занимать свое место. С этой точки зрения nudge – это способ эффективного распределения ролей, и он встраивается в совершенно законную единую систему частных предприятий и государственной власти. Соответственно, компания Alibaba выполняет свой долг, управляя трафиком совместно с муниципалитетом Ханчжоу, и было бы аморальным не следовать ее маршрутным рекомендациям.

Вот еще одна неожиданная деталь, обнаруженная при чтении Конфуция: его недоверие к частной сфере. Индивид, предоставленный сам себе, бессилен. Одиночество вызывает