Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

компания молодых людей, и я сразу же отметил их особую, спортивную подтянутость. «Мы все служили в одних и тех же военных подразделениях», – тут же объяснили они мне. Они входили в тот самый 1 %, который отбирается в качестве научной элиты страны, уникальным образом сочетающей в себе военную дисциплину и академические требования. Чему они учатся в армии? Не только технологическим навыкам, но еще и «чувству ответственности». Стоило мне только посмотреть на них – организованных, невозмутимых, сдержанных как в одежде, так и в речи, – и я тут же оценил их отличие от программистов Кремниевой долины, где эгоистичные, маниакально увлеченные «нерды», похоже, переживают вечный подростковый кризис. Здесь нет ни настольного футбола, ни диванов, на которых можно развалиться… Мои собеседники не старше 25 лет, но я чувствую в них спокойную решимость, окрашенную иронией достопочтимого Исаака бен Израэла. В противоположность американским коллегам, они рано поняли, что жизнь не игра. Впитав – во благо или во зло – ценности предков, они не слишком увлекаются «поисками смысла». В израильском контексте инновация – вопрос не личного развития, а коллективного выживания.

Исаак бен Израэл настаивает на регулировании доступа к данным и на уважении частной жизни. В этом смысле страна-стартап относится к семейству европейских стран. Израиль не Китай, и он не стремится превратить ИИ в закон жизни в обществе. Однако нацеленность страны на экспорт и технологическое совершенство позволяет взращивать настоящую творческую элиту, способную поспорить с мировыми гигантами. Эта модель связана с определенным культурным контекстом, подражать которому, конечно, сложно. Израиль производит алгоритмы для всего остального мира… а потом, как Понтий Пилат, умывает руки.

США и агония протестантской морали

Я ожидал, что встречу гика в очках, но вот передо мной на террасе штаб-квартиры Google сидит активист с собранными в пучок волосами, потягивающий сок из органических фруктов. Джейкоб Узкорейт, известный специалист по компьютерным наукам, – автор значительных теоретических открытий, позволяющих наделить нейронные сети ИИ памятью[160]. Он читает мне страстную проповедь об уважении к частной жизни, и у меня нет никаких оснований ставить под сомнение его искренность. Он выступает против так называемых эхокамер в YouTube или Facebook, уверяя меня, что Google лишь в «незначительной» мере отслеживает мои поисковые запросы и, кроме того, предоставляет возможность деперсонализации. Я знаю о немецком происхождении Джейкоба, и это, вероятно, заставляет меня вспомнить о хакерах, которых я встретил два года назад в Берлине, – они тогда занимались тем, что устраивали марши… против Google. И если Google обвиняют в создании «когнитивных пузырей»[161], которыми может объясняться распространение теорий заговора[162], возможно, Джейкоб – двойной агент, отстаивающий германские ценности в самом центре GAFA?

Я пользуюсь его дружелюбием, чтобы удовлетворить личное любопытство, и спрашиваю, как расставляют приоритеты в результатах поисков. «Задача в том, чтобы поднять не ту информацию, которую ты хотел бы посмотреть, а ту, которую ты на самом деле ищешь», – отвечает Джейкоб. Алгоритмы Google подвергают данные, оставляемые в сети пользователем, глубокой обработке, чтобы попытаться лучше понять сокровенные желания человека, выходящие далеко за пределы его явных предпочтений. Когда я ввожу запрос «купить машину», возможно, мне хочется увидеть «Ягуар», однако Google, зная состояние моего кошелька, поскольку ему известна моя история поисков (или моя переписка в Gmail), скорее всего, предложит «Рено Твинго», чтобы такой поисковый результат был мне полезен. Все это вполне соответствует логике nudge, которая должна обеспечивать наше благосостояние, предлагая нам такой вариант, который мы сами бы не определили. А что же Джейкоб думает о свободе воли? «Люди редко понимают сами себя», – логично объясняет он, поэтому лучше довериться объективным данным, а не субъективному суждению. Но не видит ли он в самом устройстве поисковой машины утилитаристской логики? «Конечно, вне всяких сомнений». Итак, перед Google стоит задача познать меня лучше, чем я знаю себя сам, чтобы удовлетворить всех нас.

Нет ли внутреннего противоречия между защитой частной жизни и технологиями Google (даже если не говорить о его экономической модели)? Джейкоб кивает: «Это парадокс. Для усовершенствования ИИ нужно собирать как можно больше данных». Чтобы оптимизировать мои поиски в Google, в идеале следовало бы знать мое потребление электричества или, к примеру, мое поведение на сайтах знакомств… Можно создавать сколько угодно комитетов по этике, но этот парадокс так и не получит разрешения. Глядя на слегка смущенного Джейкоба, я понимаю, в чем состоит противоречие, присущее американской цифровой экосистеме в целом. Больше данных – выше эффективность. Меньше данных – больше свободы. Никакой золотой середины тут быть не может.

Кай-Фу Ли считает позицию Кремниевой долины, которая хотела бы творить добро, одновременно извлекая из этого прибыль, лицемерием. Более удачным словом мне кажется «шизофрения». В своей знаменитой работе Макс Вебер связал дух капитализма, определяемый как стремление к созданию богатства, с протестантской этикой, которая превращает труд в подлинную миссию, а аскетизм – в правило жизни. Нужно преуспеть в своем бизнесе, но не для того чтобы наслаждаться богатством, а чтобы следовать библейским заповедям. Экономический успех дает уверенность в том, что ты в числе немногих избранных Богом. Накопление капитала – это долг, который хорошо иллюстрирует притча о талантах: хозяин награждает слуг, получивших прибыль с его средств, и наказывает того, кто сохранил их, не пустив в оборот. Соответствующее формирование частной сферы представляет собой условие, необходимое для личных отношений с Богом и в целом для развития морального чувства. Протестантская Америка обязана своим успехом этому хрупкому равновесию между поиском рентабельности и культурой частной жизни. Лучший пример – Бенджамин Франклин, отец-основатель США, новатор и неустанный предприниматель, но также дотошный моралист, который сурово судил свои собственные действия в личном дневнике. Однако Google сегодня не может быть одновременно эффективным и добродетельным: чтобы служить человеку, он должен его обнажить. ИИ заставляет отделить дух капитализма от протестантской этики. Вот почему США утратили свое призвание, и я неоднократно слышал об этом от самых разных людей. Увы, Джейкобу никогда не стать Франклином…

Теперь можно лучше понять страдания моих американских собеседников, которые разрываются между стремлением поступить правильно в моральном смысле и императивом сделать лучше в техническом смысле. Кризис протестантской морали создает реальные проблемы для людей, занятых технологиями, заставляя их искать альтернативную духовность, например буддистскую. Эта шизофрения особенно заметна в методах обучения. На каждый встрече я задавал один и тот же вопрос: какой политики в плане доступа к гаджетам вы придерживаетесь дома? Стив Джобс, например, запрещал своим детям пользоваться iPad, и точно так же большинство людей из моей выборки строго ограничивают время доступности гаджетов, отдавая предпочтение спорту, чтению или встречам с друзьями. Те самые люди, которые постоянно