Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

платить, пусть и очень скромную сумму, за услуги, которые до сих пор предоставлялись бесплатно? Разве не достаточно запретить использование личных данных в коммерческих целях, в логике «Регламента об охране данных»? Но тогда развалится вся модель цифровой экономики, лишив нас многочисленных услуг, которые может дать ИИ. Если мы считаем, что за производство стоимости полагается вознаграждение, тогда эта логика торгового обмена должна одинаково применяться и к индивиду, производящему данные, и к платформе-агрегатору. Если Waze выбирает для меня лучший маршрут, но при этом я отказываюсь от рекламы ресторанов, которые находятся на этом маршруте, необходимо найти другие способы возмещения ущерба платформам. В противном случае я стану «безбилетником», который пользуется чужими данными, ничем не делясь взамен. Анонимность имеет свою цену.

С точки зрения индивида, делающего свой выбор в цифровом кошельке, встает вопрос: не будет ли сама эта возможность определяться уровнем богатства, добавляя к неравенству в доходах и имущественному неравенству еще и когнитивное неравенство? Грубо говоря, не станет ли способность к сознательному выбору достоянием тех, у кого есть средства, чтобы ее себе позволить? Не случится ли так, что беднякам не останется другого выбора, кроме как продать себя в рабство nudge? Здесь нужно различать вопрос о характере обменов (блага, которые могут стать предметом договора) и вопрос о возможности совершать обмен (уровень перераспределения). Нельзя решить вопрос бездомных, уничтожив собственность, но можно обеспечить равный доступ к ней для всех. Точно так же собственность на данные вводит их в рамки потребительского выбора, где каждый может выбирать свои приоритеты: жилье, питание, транспорт, развлечения… и частная жизнь. Как на втором шаге сделать так, чтобы этот выбор был максимально свободным и равным? В этом случае снова возникают самые разные варианты, предлагавшиеся политической философией, от равного распределения богатства до самого дикого капитализма. Что касается меня, то я агитирую за введение универсального дохода, покрывающего базовые потребности[213]. Если сочтут, что в их число входит частная жизнь, тогда средняя стоимость личных данных должна быть, по логике, включена в расчет суммы универсального дохода, чтобы каждый мог свободно устанавливать условия своего цифрового контракта и выбирать степень nudge совершенно сознательно. Универсальный доход поможет выкупить свою автономию, позволив при этом продолжать пользоваться технологическим прогрессом.

Суть этого механизма в том, что мы сами устанавливаем собственный nudge, в зависимости от степени открытости, указанной в наших личных условиях пользования. Так мы останемся верны принципу делегирования свободного волителя. Ведь качество nudge зависит от предоставленных данных; контролируя при помощи права собственности использование моих данных на входе, я могу на выходе определять, какую именно долю случайности, принуждения или полезности хотел бы включить в свой выбор. Чтобы сохранить полную интеллектуальную независимость в выборе книг для чтения, я могу отказать в доступе к моей истории покупок на Amazon (даже если придется платить на несколько центов дороже). Чтобы меня любили более бескорыстно – убрать с дейтинговых сервисов данные о моих дипломах и имуществе. Чтобы наверняка получить работу в рыболовстве – заставить ИИ ZipRecruiter включить в мой профиль это предпочтение (даже если сегодня я работаю в банке). Это я продолжаю выбирать, и эти выборы определяют мое «Я». Не уступая давлению утилитаристских ИИ, я сам буду устанавливать параметры манипуляций, которые будут мной управлять. Для этих критериев должна быть предусмотрена возможность изменения в любое время вслед за эволюцией моих вкусов и намерений так, чтобы процесс принятия мной решения не был зафиксирован раз и навсегда, но мог бы корректироваться и развиваться в течение всей жизни. Конечно, этот труд потребует ежедневного внимания. Впрочем, не больше, чем требуется, чтобы не забыть дома ключи.

На стороне ИИ собственность на личные данные приведет к потере эффективности, с чем придется смириться всему обществу. Любого порадует, что прибыли Facebook пострадают из-за потери точности в таргетировании рекламы, однако та же самая неоптимальность затронет и другие общественные услуги. Можно, конечно, представить себе, что отдельные категории особо важных для общества данных будут «национализированы», подобно тому как разрешено изымать землю у частных землевладельцев для строительства жизненно важных объектов инфраструктуры. Но такая процедура может носить только чрезвычайный характер, и решение о ней должно приниматься судом, который установит, в какой мере экспроприация отражает искомый мотив общего интереса. В других случаях придется признать, что умный город или умные счетчики уже не будут настолько умными, а беспилотные автомобили – настолько беспилотными. Допустив возможность индивидуального отклонения, право собственности на данные вызовет аварии, углеродные выбросы и разрывы отношений. Оно помешает обществу стать идеальным, вернув тем самым возможность эволюции… как регрессии. Терпеть подобные случайности, непосредственные и конкретные, ради расплывчатого обещания прогресса – тяжкое бремя для законодателей. Но именно на этой линии разлома происходит борьба между nudge и автономией, счастливым рабством и возвращением эпохи просвещения.

Уже сейчас есть немало стартапов, которые хотели бы поучаствовать в этой войне за возвращение человеку автономии. Такие экосистемы особенно динамично развиваются во Франции – стране, придумавшей авторское право. В Париже, Лионе, Монпелье предприниматели стремятся вдохнуть жизнь в это право собственности, в котором регулятор пока отказывает. Одни разрабатывают data wallet: используя предусмотренное GDPR право на мобильность, он позволяет каждому извлекать свои личные данные и контролировать их предоставление[214]. Другие ищут способ придать персональным данным денежную стоимость, пользуясь правовыми «серыми зонами»[215]. Третьи организуют «цифровые кооперативы», совместно использующие данные своих членов и выплачивающие им дивиденды[216]. Как это уже не раз бывало, технология заставит право подстраиваться под себя. Может быть, объехав всю планету, в итоге я найду решение совсем близко от дома, как капитан Хэддок, нашедший сокровища Ликорна в Муленсаре?[217]

Манифест о Европе

Европа могла бы обеспечить законодательные, экономические и культурные рамки для этой новой модели, позволяющей принять достижения технологии, выстроив при этом надежную альтернативу как американскому утилитаризму, так и китайскому коллективизму. Прежде чем мы окончательно вступим на путь самоубийства по заветам стоиков, это наш последний шанс – и не следует им пренебрегать. Очень хочется верить, что мы сможем сохранить наше просвещение, внедрив «первую директиву» в самую сердцевину публичной политики.

Кто воплотит этот проект в жизнь лучше, чем Маргрет Вестагер, с 2014 года занимающая должность комиссара Евросоюза по вопросам конкуренции? За время своего пребывания в должности она назначила беспрецедентные штрафы Google, Amazon, Apple и Facebook. Вестагер начинала свою карьеру в датской социал-либеральной партии, поэтому убеждена в способности рынка предоставлять людям свободу выбора, а также в необходимости его регулирования во избежание образования монополий, этого вечно возрождающегося символа господства. Предложения Вестагер, связанные с ИИ