Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

задачу по лучшему выполнению его миссии исходя из всех параметров, которые были ему заданы. Эта функция считается конфиденциальной: никто не знает, как регулируется алгоритм Google, чтобы максимизировать количество кликов, минимизируя при этом чувство дискомфорта. В свете «первой директивы» каждый сможет настраивать функцию оптимизации, чтобы персонализировать свой ИИ. Вот что позволило бы избавиться от утилитаристского императива, поскольку каждый пользователь устанавливал бы свои собственные нормы успеха – в логике Милля. Эта так называемая интерактивная форма машинного обучения, при которой человек возвращает себе контроль над установлением параметров машины, сегодня стала предметом многочисленных теоретических разработок[198]. Можно представить, что упрощенные интерфейсы помогут неофитам легко модифицировать функции оптимизации в алгоритмах[199]. Конечно, производительность таких персонализированных ИИ будет поначалу слабовата и они не всегда смогут отвечать всем требованиям пользователя, но со временем эта идея может привлечь сторонников, показав, что прогресс и оптимизация – разные вещи![200]

Поскольку речь идет о массовом применении, такие методы позволяют создавать системы рекомендаций, допускающие отклонения. В Нью-Йорке я встретился с Алексом Элиасом, основателем стартапа Qloo. Он ставит перед собой задачу скрестить индивидуальные предпочтения в разных областях: если вам нравится такая-то музыка или такой-то фильм, вы должны попробовать такой-то ресторан или пойти на свидание с таким-то человеком… Qloo мог бы стать Netflix для жизни, погружающим своих пользователей в тотальные рекомендации, от которых ничто не ускользает. В этом смысле стремление к «культурной персонализации» представляет собой именно то, что пугает меня в ИИ. Но Алекс – интеллектуал с Восточного побережья, любитель джаза, разбирающийся в достоинствах импровизации. Он знает, что поход в магазин пластинок открывает перед ним неожиданные перспективы, тогда как Spotify дает лишь ограниченный опыт. Проанализировав поиск в Qloo, он констатирует, что большинство американцев указывает в качестве любимой книги Библию, а в качестве любимого фильма – последний блокбастер… Оставленные на милость оптимизирующего алгоритма, они, вероятно, пойдут самым традиционным путем. Вот почему Алекс включил в программу Qloo то, что он называет «фактором диверсификации». С одной стороны, элемент случайности вводится в систему рекомендаций, чтобы устраивать сюрпризы и вызывать вопросы[201]. С другой – пользователь контролирует некоторое число критериев: это «первая директива» в действии! Чтобы пробудить задремавшее сознание, нужна случайность, а чтобы переориентировать алгоритм – наличие четко выраженного выбора.

Алекс признаёт, что предоставленная индивиду власть над собственными предпочтениями, как ни странно, делает Qloo менее эффективным и потому менее прибыльным. В конце концов, лаконично замечает он, «большинство людей хочет раствориться в массе». Но он хотя бы предлагает им альтернативу, утешая себя мыслью о том, что новые поколения будут чувствительнее к разнообразию. Кроме того, нужно рассчитывать на свободный рынок алгоритмов, чтобы вызвать к жизни проекты, более внимательные к свободному волителю, и надеяться на то, что они постепенно завоюют пользователей, привлеченных перспективой освобождения. А пока каждый может попытаться перехитрить машину. Например, пользуясь Google Map, я всегда отключаю геолокацию: извлекая пользу из расчета расстояний, я хочу сам определять улицы, чтобы понимать, куда еду, а не слепо следовать за синим шариком. В Deezer я стараюсь выбирать композиции из списка, критерии которого установил сам (например, «сонаты»), не полагаясь на рекомендации. Я сам отмечаю дни рождения своих (настоящих) друзей в ежедневнике и не жду, пока мне напомнит о них LinkedIn. А еще я ухожу с ютуба, когда заканчивается видео, которое я выбрал, хотя сделать это непросто – ведь так легко и приятно отдаваться потоку образов…

Но все эти уловки смешны, потому что рынок подтасован. Поскольку платформы имеют практически свободный доступ к нашим персональным данным, всю нашу цифровую жизнь мы занимаемся тем, что питаем различные ИИ, которые в ответ нами манипулируют. Nudge повсюду, он не оставляет никакой возможности для взвешенного и самостоятельного решения, появляясь в форме рекламы, уведомлений, рекомендаций, сообщений в социальных сетях или спама в почтовых ящиках. Наш мозг постоянно подвергается хакингу, который стал возможен благодаря тому, что мы везде разбрасываем свои данные. Открыть интернет – это как оказаться без штанов в публичном месте, подобно королю из сказки Андерсена: он считал, что на нем наряд из драгоценной ткани, а на самом деле был совершенно голым. В этом может на деле убедиться каждый. Браузер, разработанный стартапом myCo, например, позволяет визуализировать всех чужаков, присутствующих на сайте, собирает куки и пр. Проверив его на себе, я обнаружил более сотни программ, рассылавших мои данные об истории просмотра страниц, клики и результаты поиска по всему миру, чтобы лучше интерпретировать и направлять мое поведение. Этот грабеж абсолютно законен: в течение дня несколько раз ставя галочку «Я согласен» в пользовательских соглашениях, мы добровольно идем на то, чтобы быть под колпаком у платформ. Хитростям, которые сайты и приложения используют ради того, чтобы собирать наши данные, нет числа, и они широко разоблачались, например, Евгением Морозовым[202]. Так, программа, включающая фонарик на вашем смартфоне, в обмен на эту крошечную услугу забирает все ваши данные по геолокации. Помню, как сидел в ресторане в Париже напротив предпринимателя, который с гордостью объявил о своем новом «инновационном проекте» – следить за передвижениями мыши по экрану, чтобы отточить профилирование пользователей. На мой вопрос, не слишком ли навязчивый характер носит эта технология, он пожал плечами и ответил, что она сослужила бы хорошую службу всем нам, после чего принялся обсуждать со своим соседом по столу проблемы благотворительности. Тартюфы 2.0 явно заслуживают новой пьесы…

Ну и как же тогда «цифровые» граждане могут тщательно отбирать алгоритмы, если каждым своим кликом, каждым открытием приложения они дают ИИ оружие против самих себя? Если нам не удастся держать наши данные при себе, мы попадем под власть могущественных ИИ, которые сделают невозможным любой свободный выбор, а значит, и появление любых альтернатив. Европейский общий регламент по защите данных (RGPD) попытался было ввести своего рода контроль, потребовав бо́льшей прозрачности от интернет-компаний. Однако в результате нам еще чаще приходится кликать на «Я согласен», но при этом мы так и не получили никакой реальной возможности оспаривать условия или вести переговоры.

Главный принцип состоит в том, чтобы переложить обязанность подтверждать что-либо на сами платформы, на входе контролируя данные, которые мы готовы предоставлять. Это платформы должны принимать наши условия, а не наоборот! Анонимность стала бы опцией по умолчанию, тогда как прозрачность – сознательно выбранным исключением. Мы бы перешли от opt-out к opt-in[203]. Перниль Транберг, датская журналистка и активистка, выступает среди прочего за создание инструментов, которые бы централизованно собирали наши персональные данные, защищали их и делились бы ими в зависимости от того, какие критерии неприкосновенности частной жизни мы установили. Тогда