Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

выступают на TED Talks с проповедями о том, как технология спасет мир, внезапно оказываются не такими уж оптимистами, едва речь заходит об их собственном потомстве. Франческа Росси из компании IBM показалась мне крайне расстроенной тем, что ее дети проводят слишком много времени на ютубе, а Лесли Келблинг из MIT жаловалась на то, что они читают мало книг. Однако все эти люди, кажется, обиделись, когда я указал на очевидное противоречие между их речами и поступками. У них, конечно, были очень убедительные доводы. Тем не менее, если смотреть на ситуацию в целом, трудно не заметить, что эксперты ИИ создают техники, которые вызывают зависимость и при этом используются для манипуляции поведением масс, но тщательно оберегают от них своих близких. Я воздержусь от попыток однозначно решить щекотливый вопрос научной ответственности. Яна Лекуна, например, нисколько не волнует, как применяют его открытия в системах распознавания лиц в Китае, и ученого нельзя в этом винить. Но нужно признать, что ИИ «вытолкнул» протестантский капитализм из эпохи невинности и что все американское общество в связи с этим испытывает серьезный дискомфорт.

В частности, часто высказываются опасения в отношении роли ИИ в росте неравенства. Согласно одной распространенной гипотезе, стагнация заработной платы связана с повышением дохода на капитал, которое значительно увеличивает неравенство. Другие экономисты придерживаются более умеренных взглядов – например, Филипп Агион отстаивает шумпетерианский подход, согласно которому инновация позволяет наращивать социальную мобильность, разрушая традиционные иерархии внутри предприятий[163]. Вопрос распределения труда и капитала в эпоху ИИ стал предметом громких споров. Но никто не оспаривает новую значимость когнитивного неравенства и постепенно становящийся непреодолимым разрыв между теми, кто занимается nudge, и теми, кто становится объектом такого «понукания», то есть между господами кода и поставщиками данных. Джерри Каплан позиционирует себя в качестве рупора многих аналитиков, изображая общество, делящееся на хорошо образованных «яппи», которые понимают технологические механизмы и регулярно проходят информационные детоксы, и «хиппи», прилипших к экранам и получающих пособие в рамках той или иной формы универсального дохода. И хотя экономическое неравенство в протестантской концепции личного достоинства оставалось приемлемым, представление о том, что внутренняя ценность разных людей может стать принципиально разной, подрывает эгалитарное основание самой американской демократии. Поэтому Ли Дратман и задавал себе честный вопрос о том, как политическая система могла бы пережить общее «отупение» граждан…

Та же дилемма между процветанием и свободами отражается и в публичной политике. Я выяснил это, встретившись в одном сетевом кафе с Джой Бонагуро, chief data officer, директором по обработке данных в Сан-Франциско. Эта должность была создана в 2014 году для управления данными города и опирается на большую команду программистов. Джой, с мальчишеской стрижкой и бойкими ответами, – твердая сторонница прогресса. Я не стал ей перечить, но, когда через несколько месяцев встретил ее на французской земле, набрался храбрости, и мы живо побеседовали об эксцессах движения #MeToo… Джой вместе с учеными из Гарварда работает над этикой алгоритмов и отстаивает защиту частной жизни. Она хвалит правовые нормы штата Калифорния, позволяющие пользователям лучше контролировать собственные данные, особенно благодаря законам о защите прав потребителя. Джой радует возможность применять ИИ для отслеживания собственников, которые занижают стоимость своих владений, чтобы уклониться от налогов, однако она отказывается публиковать постановления о выселении жильцов, поскольку не хочет стигматизировать неплательщиков. В общем, Джой нельзя заподозрить в том, что она сдалась силам надзорного капитализма. В то же время она громко жалуется на джунгли калифорнийских законов, которые мешают муниципалитету оптимально применять данные. Разные отделы местной администрации не имеют права объединять информацию, хотя было бы, например, полезно сопоставить медицинские данные с данными социальных служб, чтобы понять, имеет ли конкретный психиатрический пациент право на пособие… Мы не должны считать США некоей свободной от законов зоной: в Калифорнии, например, был принят свой вариант европейского RGPD.

Следуя левацкой традиции, Джой считает данные общим благом и мечтает о том, как можно было бы объединить все данные города для улучшения работы общественных служб. Однако она сталкивается с теми же противоречиями, что и GAFA: как обеспечить благополучие пользователей, но при этом не нарушить их право на неприкосновенность частной жизни? Джой уже не использует термин «анонимизация» данных, предпочитая ему слово «дезидентификация» и признавая тем самым, что реальная анонимность в мире ИИ – недостижимый идеал. Золотой середины не существует: и для социальной сети фейсбук, и для города Сан-Франциско добродетель стала врагом эффективности. Они стремятся освободиться от чувства вины, публикуя пухлые доклады об ответственном ИИ, что представляется современной, хотя и весьма обременительной формой искупления.

Цифровой империализм

Правительства и генеральные штабы крайне озабочены вопросом кибербезопасности. Но он скрывает в себе другой, более глубокий вопрос: как три эти модели – конфуцианская, стоическая и протестантская – будут взаимодействовать между собой по мере развития ИИ? Останется ли место для различных форм правления, подчиненных разным ценностям, или нужно готовиться к возникновению новых версий империализма?

Вернемся в ресторан рядом с Запретным городом, где меня принимал Чжу Мин, влиятельный экономист, бывший директор китайского Центрального банка и бывший второй человек в МВФ. В промежутке между комментариями о заказанных им деликатесах кухни региона Юньнань Чжу Мин говорит о своей уверенности в ИИ, технологии, призванной спасти человечество и, главное, вернуть Китаю заслуженное им место, место будущего лидера в этой области. Безмятежное лицо моего визави, аристократичные манеры и лаконичность речи – все это окутывает его своего рода метафизической аурой. Впрочем, он не боится порассуждать о двух сторонах человека, дурной и благородной. Экономист тут же превращается в восточного мудреца. Он не торопится. В этом месте с традиционным декором, выходящем на мощеный двор, мы сидим вдали от пекинской суеты. Мне вспоминаются строки Клоделя – меня среди прочего пичкали им в лицее, готовя к Высшей нормальной школе: «Те места, которые у европейцев служат для развлечений и игр, китайцы посвящают уединению. В городском котле, среди кипящих простым людом улиц, знатный китаец выгораживает для себя просторный участок, отделенный широкой оградой, или одинокую вотчину вместе с духами предков»[164]. У нас не бизнес-ланч, мы сидим в одном из таких праздных мест. Что может родиться в таком месте, если не истина?

Мой собеседник щедро подкладывает мне разные деликатесы, возможно, чтобы лучше подготовить меня к последнему приговору: «Европейцы окончательно отстали – в финансовом, военном, технологическом и одновременно политическом плане». Наше будущее – загрузить приложение Alibaba, чтобы продавать китайцам сыр. Так пророчествует Чжу Мин.

Чтобы обосновать эти тезисы, дремлющий в Чжу Мине экономист просыпается и разъясняет мне гораздо менее поэтическое понятие логистической цепочки (supply chain). ИИ заставит предприятия