Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

Трудно представить, насколько уверенным нужно быть в своем решении, чтобы сопротивляться столь соблазнительной логике. Лишим ли мы себя информации и благосостояния исключительно из гордости, стремясь делать «автономный» выбор? И что такое эта автономия, если не иллюзия, вскормленная бессознательными предубеждениями и скрытыми влияниями? Искушение ИИ бесконечно. Допустим, что он может найти рабочее место, основываясь на наших талантах и вкусах. Но откуда берутся сами эти таланты и вкусы? Сейчас они пока еще остаются производным от мира, существовавшего до ИИ, то есть результатом случайных встреч и желаний. Завтра же они станут продуктом алгоритмических рекомендаций, которые будут выдаваться на протяжении всего нашего обучения и личного развития. До чего дойдет эта опережающая детерминация? Будет ли новорожденный направляться, в зависимости от его ДНК и социальной среды, в такой-то или такой-то детский сад? Придет ли на смену ZipRecruiter какой-нибудь ZipBaby, как в городе Кюсю в Японии, где компания Fujitsu запустила программу, позволяющую определять детей в ясли, где созданы лучшие условия для их адаптации? Что, если отказ от таких приложений ради абстрактных «свобод» будет означать лишение своего потомства шансов на успех?

Как-то я застал свою восьмилетнюю дочь за тем, как она пыталась поблагодарить маму, используя мой смартфон. Gmail предлагает персонализированные ответы, и точно так же iMessage подсказывает слова. Вот как начиналось сообщение, напечатанное моей дочерью: «Мама, спасибо за морковный кекс. Он был…» Тут на помощь человеческому мозгу пришел Apple, предложив следующие прилагательные: «превосходный», «очень вкусный», «суперский». Дочь выбрала «превосходный» – первое слово, которое попалось ей под палец. «Ты правда так хотела сказать? – спросил я ее. – Именно „превосходный“, а не „удачный“, „сочный“, „чудесный“, „изысканный“, „сытный“, „плотный“, „с корочкой“ или „вкусный“?..» Она не поняла, в чем смысл моего вопроса. iMessage упростил ей когнитивную задачу, так зачем же ей утруждать себя, разбираясь с нюансами французского языка? Именно так ИИ с самого раннего возраста учит нас не думать. Как люди будут расти в мире, в котором слова выбирают за них? Возможно, однажды iMessage предложит сразу отправлять ответные сообщения, не дожидаясь нашего одобрения? Но кто их будет получать? Друг или ИИ друга? А в чем проблема, спросит моя дочь, если это позволяет упростить коммуникацию и быстрее договориться о встрече?

Что же тогда останется на долю человека 1.0? Если и есть еще какая-то священная область, которую многовековая литература тщательно обезопасила от императива оптимизации, то это любовь. Но действительно ли ИИ не посмеет в нее проникнуть? Куртуазная любовь, романтическая, страстная, невозможная – у нас же не отнимут игру случая и любви, соблазна и разочарования? Даже такая закаленная специалистка по информатике, как Аврелия Жан, которой я поведал свои впечатления, вернувшись в Париж, отказывается в это верить: алгоритмы должны держаться подальше от нашего сердца, последнего прибежища магии характера, алхимии связей.

Вот это я со всей решимостью и попытался проверить. Сначала я отправился в Meetic, один из самых популярных сайтов знакомств в Европе. Ирония в том, что его штаб-квартира находится в двух шагах от Оперы Гарнье, где по-прежнему каждый вечер идут балетные постановки, изображающие превратности любви. В Meetic нет никакой Жизели, но есть Лара, первый чат-бот для знакомств… В этом контексте миссия ИИ – найти золотую середину между заявленными критериями и реальными предпочтениями. Если бы Meetic ограничивался учетом высказанных вкусов пользователей, предприятие быстро бы обанкротилось: мужчины, безнадежно предсказуемые, почти всегда ищут женщин 23 лет, и вряд ли предложение могло бы удовлетворить такой спрос… Вся работа алгоритма сводится к выявлению того, что «может сработать» вопреки мечте; иначе говоря, требуется раскрыть глубинные желания, скрывающиеся под лакировкой страстных влечений. Это и есть условие коммерческого успеха Meetic, если оценивать его по числу качественных взаимодействий. Задача Лары – определить личность пользователя во всей его сложности и предложить ему профили, на которые сам бы он никогда не обратил внимания. Она всегда показывает ему определенную подборку: «Клиент хочет иметь иллюзию выбора». Последняя хитрость nudge. Но, по сути, машина уже знает…

А что же в результате? Пятьсот тысяч пар, образованных на Meetic, в год. В целом треть пар сегодня формируются в Сети, а это значит, что сайты знакомств приходят на смену семье, друзьям и работе. По словам моих собеседников, можно вполне уверенно утверждать, что решения, связанные с любовью, всегда были строго детерминированы, а такие платформы, как Meetic, открывают совершенно новые возможности – например, в Индии позволяют выйти за пределы кастовой системы и освободить пары от социальных барьеров. Тем не менее маски сброшены. Любовная игра обходится ныне без случайности: люди сходятся, поскольку этого хотят данные. Алгоритмическая формула заменяет собой любовь с первого взгляда. Родство душ становится исчислимым. Это был он… это была я… данные совпали.

Чтобы увидеть, как эта логика доводится до предела, нужно, как всегда, отправиться в Китай. Однажды в воскресенье в безликом отеле в Пекине я встретился с Фаном, основателем компании Baihe. Это один из основных сайтов знакомств в стране, на котором зарегистрирована половина ее холостяков. В год на Baihe насчитывается тридцать миллионов пользователей, и эта цифра постоянно растет. Фан по праву гордится успехом. Неудивительно, что глубокое обучение позволило ему два года назад значительно повысить качество своих алгоритмов[96]. Как и в случае Meetic, они работают над удовлетворением бессознательных предпочтений: например, богатого бизнесмена могут привлечь женщины, похожие на его школьную возлюбленную. В целом ИИ не может объяснить свои решения. Главное, что они работают, производя все больше устойчивых пар. Бывают ли исключения? Сильные души, бросающие вызов статистике? Фан отвечает так же, как и Рамсей на Венис-бич: нет. Если французы продолжают представлять физическую встречу как момент загадочной и непредсказуемой интерсубъектности, то китайцы из Baihe об этом уже не беспокоятся: никакой тайны тут больше нет. Я начинаю злиться: а как же мы с женой? Мы разного возраста, разных национальностей, у нас разные профессии, и даже вкусы наши нисколько не совпадают. Мог ли я встретить ее где-то еще, кроме как на случайной дискотеке, куда забрел одним осенним нью-йоркским вечером? «Вопрос технологии». Машина, в деталях изучившая мое поведение, привычки (и даже их отсутствие), должна была бы лучше, чем я сам, знать, что меня действительно привлекало: вполне зрелая женщина, уехавшая из коммунистической страны, чтобы сделать карьеру в капиталистическом мире, столь же привязанная к сериалу «Секс в большом городе», как я – к роману «В поисках утраченного времени». ИИ мог бы избавить меня от некоторых болезненных разочарований с соотечественницами, страдающими вечной меланхолией. «Повесь диджея» – эпизод сериала-антиутопии «Черное зеркало» – показывает систему ИИ, которая создает совершенные пары