Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

по китайским медиа, и она постепенно привыкает комментировать их в сети. В разговорах, которые возникают у нее комментариях, она никогда не забывает упомянуть о своем сыре конте.

Через пять лет предприятие Берты процветает. Фермерша только улыбается, выслушивая рассказы коллег, погрязших в запросах субсидий по программе Общей сельскохозяйственной политики (PAC). Теперь ее бизнесом управляет AliGenie: он руководит производственными процессами, определяет уровень производства, контролирует состояние стад и ведет бухгалтерию. То же относится и к личным покупкам: Берта привыкла использовать Alipay, так что бо́льшая часть ее трансакций проходит за пределами европейской банковской системы – производимая ею стоимость пополняет китайский ВВП. На последних выборах Берта голосовала за кандидата Национальной партии: она убеждена, что Евросоюз – диктатура, от которой надо как можно быстрее избавиться. Ее недавнее путешествие в Китай, предложенное AliGenie и организованное Alitrip, убедило ее, напротив, в ценностях китайского коммунизма, отлично организованного и выгодного всему населению. Кроме того, там она встретилась с одним из своих клиентов, рекомендованных Alipay, и у нее завязались с ним многообещающие отношения: алгоритм нашел настоящее сокровище – человека, который учился во Франции, увлекается гастрономией и только что открыл производство одежды в Юре для местного европейского рынка. Единственная забота Берты теперь – сохранить свои 4,6 звезды на Alibaba. С этой целью она тщательно исполняет все советы AliGenie и обязательно отмечает национальные китайские праздники на Taobao. Она даже поставила скромный китайский флажок на конек фермы и сфотографировалась под ним для своего профиля.

Вот так Китай и завоевал Берту – без единого выстрела.

6

Первая директива

Как вернуть контроль

А теперь возвращаемся в исходную точку. Свое путешествие я закончил визитом к тому, кто меня на него сподвиг: Ювалю Ною Харари, всемирно известному историку и мыслителю, чья книга «Homo deus» завершается финальным поражением сознательного и автономного индивида. Здание, в котором он устроил свою тель-авивскую штаб-квартиру, очень похоже на него самого: внешне скромное, внутри бурлящее энергией. В квартире на последнем этаже с десяток молодых людей занимаются графиком, выступлениями и исследованиями для этой звезды поневоле. Я разделяю с ними веганский обед, радушный, но скудный. После недель, проведенных в поисках Homo deus, я снова возвращаюсь в приятное общество Homo sapiens.

Сотни интервью и прочитанных статей только подтвердили первоначальную идею Харари. Словно капитан, доставивший государю пряности Нового Света, я рассказываю ему свои истории о nudge. Расписываю, как китайцы воодушевились моделью общества, построенного на ИИ. Юваль качает головой, ему интересно, но он не удивлен. Да, наука оспаривает свободу воли, а технология отказывается от нее за ненадобностью. Нет, этот новый мир не будет либеральным, крайняя степень персонализации продуктов будет в нем сочетаться с коллективизацией процессов принятия решений. Да, изменится все: от судебной системы, которой придется отказаться от идеи вины, до демократии, которая больше не сможет опираться на выбор большинства. Нет, мы больше не сможем доверяться нашим первобытным инстинктам, поспешным суждениям, бессознательным желаниям. Но так ли это в конечном итоге плохо? Сводя меня к чисто биологическому субъекту, ИИ дает мне возможность осознать мое истинное бытие, в котором есть своя доля отрицания и зависимости. Юваль говорит, что, следуя за движениями его зрачков при взгляде на рекламу, ИИ мог бы открыть ему его гомосексуальность задолго до того, как он сам для себя ее четко сформулировал, и тем самым избавил бы его от мучений в подростковом возрасте. Ему можно было бы возразить, что эти годы мучений и сомнений как раз и позволяют сформировать и обогатить индивидуальность. Но если, как Юваль, мы прежде всего хотим избавить от страданий себя самих и других людей, и не только людей, но и всех живых существ, это слишком высокая цена. Можно обойтись и без самопознания. Почему бы не автоматизировать интроспекцию?

В этом смысле ИИ открывает путь к своеобразному индивидуальному освобождению. Понимая пружины, заставляющие нас думать и действовать, можно освободиться от самих себя. Осознание детерминизма, который нами управляет, позволяет нам установить разумную дистанцию по отношению к нашим желаниям. Их всегда можно будет удовлетворить, но не понадобится делать из них эпицентр наших действий и мыслей. Так, сексуальность из одержимости превратится в простое удовольствие, которым мы будем, не скупясь, баловать нашу столь легковерную плоть. И твиттер уже не будет нас так раздражать, когда мы сможем предугадывать собственные реакции, которые алгоритмы социальной сети предсказывают с такой устрашающей точностью. Мы станем сами для себя чем-то вроде старого товарища, с которым общаются, не питая особых иллюзий на его счет. Это изменит философию либерализма в целом: речь идет уже не о том, чтобы удовлетворить необузданные желания потребителя, а о том, чтобы помочь ему от них дистанцироваться. Я понимаю, что, несмотря на все свои призывы к критическому анализу датаизма, Юваль не собирается возвращаться к индивиду, виновному в стольких грехах как перед себе подобными, так и перед окружающей средой. «Лучший либерализм, – повторяет он свою мысль после моих наскоков, – тот, что избавляет нас от безрассудных желаний».

После этого интервью мне вспоминается Спиноза. Разве не обещал он нам в последней книге «Этики» освобождение через осознание причин и природы наших аффектов? «Нельзя придумать против аффектов никакого другого средства, которое бы находилось в нашей власти, лучше того, которое состоит в истинном познании их»[169], – для Спинозы это третья и последняя стадия познания. Но, чтобы контролировать наши влечения и эмоции, нужно установить их истинность, понять ту крупицу вечности, которая в них заложена, а не пытаться их подавлять. Спиноза не скрывает, что это сложная задача, однако, как он пишет в конце «Этики»: «Но все прекрасное так же трудно, как и редко». Представив нам по требованию подробный отчет о нас самих, со всеми доказательствами, не облегчит ли нам ИИ это познание?

Мне хочется вернуться и продолжать задавать Ювалю вопросы, но я боюсь ему надоесть – представьте, что к вам в дверь звонят и спрашивают: «А как же Спиноза?» Я неуверенно окидываю взглядом последний этаж здания и замечаю радужный флаг, вывешенный на балконе. Этот символ мира и разнообразия, позднее ставший символом ЛГБТ-сообщества, не оставляет у меня никаких сомнений по поводу конечных целей проекта Юваля Харари, которые, судя по успеху его книг, разделяет значительная часть наших современников. Избавленное от самых неудобных желаний, новое человечество будет состоять из пацифистов, экологов и коммунитаристов. В этом конечный смысл Homo deus: не приобретение автономии, а личный путь к «блаженству», как сказал бы Спиноза. Сама способность ИИ нами манипулировать извращенным образом служит нашему освобождению.

На самом деле Юваль Харари отсылает