Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

позволяющими автоматически корректировать трафик, и солнечными батареями для зарядки электромобилей. Двигаясь в том же направлении, Baidu, китайский Google, заключил партнерство с регионом Сюнъань, чтобы построить там с нуля первый «город ИИ». Возможно, сцена из «Особого мнения», где человек проходит в метро по сканированию сетчатки глаза, скоро станет реальностью.

Условие развития этих технологий очевидно: отказ от неприкосновенности личной жизни. Необходимо, чтобы каждый был готов видеть и быть видимым. Сколько раз я слышал, в том числе и от Кай-Фу Ли, что частная жизнь – не китайское понятие и что в Китае нет «права оставаться в стороне»? Гендиректор Baidu Робин Ли подытожил этот взгляд на жизнь в заявлении, упомянутом многими из моих собеседников: «В том, что касается частной жизни, китайцы более открыты, нежели европейцы, они не относятся к ней с такой щепетильностью. Если нужно пожертвовать ею, чтобы достичь большего благосостояния и бо́льшей безопасности, они пойдут на это без всяких колебаний». Эту свою культурную особенность китайцы воспринимают не как слабость, а как определенную форму самоотверженности, необходимую для блага других. Мне вспоминается беседа с создателем Хи-Няни – робота, который наблюдает за состоянием здоровья престарелых людей. Хи-Няня напоминает, когда нужно принять лекарства, измеряет артериальное давление, выявляет опасные симптомы, дает сигнал тревоги в случае падения подопечного, общается со страховой службой и может даже поддерживать минимальный разговор. Чтобы улучшать качество своих алгоритмов, няня собирает данные пользователей. Они могут от этого отказаться, но на практике все соглашаются. Разве не было бы проявлением чудовищного эгоизма отказываться от участия в развитии столь полезного продукта? Хи-Няня – великолепная метафора будущего общества, в котором цифровая няня всегда готова прийти вам на помощь. Давайте не будем ничего от нее скрывать, и она никогда не подведет нас.

Западное понятие «надзор» не вполне подходит для описания этой полной прозрачности. Оно основано на интенциональности, полицейском государстве или капиталистических хищниках, стремящихся манипулировать индивидами. Здесь же каждый наблюдает за собой, успокаивая себя тем, что в его распоряжении имеется няня. В то же время границы между частной торговлей и государственными услугами стираются. Значение имеет только максимальная агрегация данных. Какая разница, кто будет оценивать мою рыночную платежеспособность – компания Alibaba или правительство, которое присваивает мне определенный рейтинг «социального кредита»? Самым полезным окажется для меня тот, кто будет располагать наибольшим количеством данных. Отсюда эта неизбежная тенденция к централизации. Чжингли Ченг, основатель инвестиционного фонда, специализирующегося на ИИ, использовал выражение, которое меня зацепило: «озеро данных». Это место, к которому стекаются реки из бесконечного числа источников в промышленности, правительстве или на платформах (другая собеседница сказала мне: «Данные – это как текущая вода»). «Озеро данных» – основной естественный ресурс, который обеспечивает питание алгоритмов, благосостояние граждан и коммуникацию разных секторов общества. И это «озеро» – единственное. Однажды оно будет поставлять ИИ всему Китаю. Из него смогут черпать ресурсы любые предприятия – при условии, что они будут отдавать в него собственные данные. Да и разве не логично, что эти предприятия постепенно сгруппируются, образовав одно-единственное предприятие, Левиафана данных, способного управлять нашими покупками и находить решение для любовных проблем? По крайней мере, ему не будет мешать никакое право на конкуренцию. В Европе, признаёт Чжингли Ченг, это было бы неприемлемо. Вот в этом и состоит решающее преимущество Китая.

Итак, сотрудничество правительства и платформ воспринимается не как предательство, а наоборот, как скоординированные поиски общего блага. Как мне с некоторыми эвфемизмами объясняет Сиян Гу, глава пиар-отдела китайского подразделения Microsoft, «китайский регулятор весьма открыт в вопросах доступа к данным». В то же время платформы готовы служить государству. Я удивился, узнав в разговоре с послом одной европейской страны, что Джек Ма предложил его премьер-министру доверить компании Alibaba выдачу виз! Кажется, нет такой области суверенитета, которая не была бы открыта гигантам китайского интернета, являющимся одновременно и коммерческими платформами, и правительственными агентами.

Чтобы лучше понять это переплетение публичного и частного, я решил посетить City Brain, созданный компанией Alibaba в Ханчжоу, скромном городке на шесть миллионов человек, расположенном к юго-востоку от Шанхая. Этот «мозг города» представляет собой ИИ, призванный оптимизировать городское управление. Каждая из крупных китайских платформ, согласовав свою роль с правительством, вносит вклад в достижение общего блага, используя для этого свои технологические компетенции. В этом негласном дележе цифрового мира Baidu получила беспилотные автомобили, Tencent – электронную медицину, iFlytek – распознавание голоса, а Alibaba – автономный город… Похоже на то, как если бы американское правительство доверило управление системой медицинского страхования Google, а реорганизацию дорожного транспорта – Amazon. В данном случае City Brain обкатывался в городе, где вырос сам Джек Ма и где по-прежнему располагается штаб-квартира компании Alibaba.

Несколько месяцев я самыми разными способами пытался добиться в Ханчжоу встречи с экспертами Alibaba, способными показать мне, как именно работает City Brain. За несколько дней до моего отъезда из Китая, после бесконечных телефонных переговоров, я уже думал, что близок к цели. Мне сказали, что в Китае обо всем договариваются в последний момент. Потом внезапно все отменили; в качестве компенсации мне предложили невнятное приглашение на какую-то ежегодную конференцию. City Brain мог так и остаться мифической аллегорией, довольно туманно описанной в нескольких статьях на английском языке, которые я разыскал, не сумев проверить их источники. Но благодаря одному личному знакомству мне все-таки удалось связаться с молодым сотрудником Alibaba, который по счастливому совпадению работал в команде Alicloud, занимающейся проектом City Brain. Он пригласил меня в офис Alibaba в Пекине и за час без лишней помпы все мне объяснил. Я слушал его, пытаясь не упустить ни слова.

Главная задача алгоритмов, разрабатываемых в City Brain, – повысить мобильность трафика. Данные о нем поступают из разных источников: геолокализации автомобилей, сенсоров на дорогах, камер видеонаблюдения, изображений, передаваемых компании Alibaba властями. City Brain может также формулировать автоматические рекомендации, которые тут же применяются на местах: так происходит перенастройка светофоров в реальном времени, закрываются или открываются в случае нужды те или иные трассы, направляются постовые, распространяются сообщения о дорожном движении, особенно уведомления, посылаемые прямо водителям через основные навигационные приложения. То есть это система, в которой ради достижения оптимальной эффективности объединены частные и публичные инструменты. После ее внедрения пробки в городе сократились на 11 %. Та же логика используется для уборки улиц, распределения парковочных мест и контроля качества воздуха. City Brain использует данные государственных властей, а сам, получив их, изобретает услуги для потребителей: это полюбовная сделка, которой довольны обе стороны.

Однако другие, менее известные услуги Alibaba вызывают больше опасений. Например, City Brain помогал полиции с интеграцией и модернизацией ее баз данных. Благодаря специальным камерам, установленным по всему