Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

признающие свою слабость, все чаще и чаще обращаются к гигантам ИИ. Они хотят, чтобы те сами определили нормы, управляющие их пользователями, а потому и всем обществом в целом. Это делегирование суверенной власти частным группам представляет собой удивительный поворот. Под прикрытием «социальной ответственности бизнеса», крайне модного сегодня понятия[132], государство попросило тех, кто управляет нашими данными, фактически заменить собой закон. Когда Facebook применяет свои собственные критерии определения приемлемого контента, он становится главным регулятором свободы слова, попирая тем самым американскую Первую поправку или французский закон 1881 года… Выброшены на свалку столетия юриспруденции, когда юристы пытались определить тонкую границу между защитой и цензурой. То, что еще сохранялось от мифа об общей воле, единственном легитимном законодателе, распылено по строкам кода, создающегося безо всякой огласки. Отныне, когда удаляют ваш пост или по неизвестным причинам банят аккаунт[133], вам приходится обращаться к сотрудникам Facebook. Конечно, государства пока не исчезли и в крайнем случае всегда может вмешаться судья, но чего стоят годы судебных процедур в сравнении с прямым действием алгоритмов? Там, где правосудие еще могло поддерживать видимость правового государства, которое не спешит с выводами, нормы, разработанные частными ИИ, не могут не разделять духа времени, поскольку иначе они вызовут возмущение пользователей. Алгоритмы и социальная ответственность – две стороны пугающего поворота в коллективной морали.

С таким делегированием авторитета многие соглашаются, и многие строят его теории. Марк Цукерберг признал эту миссию – стать фабрикой по производству норм – в большой статье, опубликованной в феврале 2017 года, в которой он говорит о возникновении «глобального сообщества». Facebook и только Facebook – вот кто будет организовывать это сообщество, и именно он возьмет на себя задачу предотвращения зла, то есть будет разоблачать дутые сенсации, публиковать стандарты приемлемого поведения и обеспечивать граждан инструментами управления. Как не увидеть в этом определение суверенитета? Французский президент придумал понятие «сорегулирование», которое должно определить отношения между его правительством и американскими платформами, но никто не возмущается этим явным крахом делиберации[134]. Идея народного суверенитета, сколько бы спорной она ни была в принципе, без лишних разговоров отправляется на свалку истории. Экономист Роберт Аткинсон в тех же категориях выступает за механизмы саморегулирования, включающие всех участников и отражающие определенную форму социального консенсуса[135]. Что касается деятелей самой технологической сферы, то они очень рады получить эти новые полномочия. Ян, энергичный основатель стартапа ZipRecruiter, признаёт, что этические критерии, управляющие рынком труда, определяются внутри самой его компании. Он совершенно не стесняясь мечтает о том, что со своими друзьями-предпринимателями в конце концов подомнет под себя политических представителей, слабых и сплошь бесчестных, в решении всех проблем общества. Несколько более скромно, но не менее решительно гиганты сети создают все новые и новые комитеты по «этике ИИ». На словах протестуя против общей тенденции к приватизации права, на деле они ее полностью разделяют, поскольку самостоятельно определяют как те принципы, которые сами готовы соблюдать, так и те, которым подчиняются их пользователи.

Наиболее структурированная в этом смысле инициатива – «Партнерство ИИ», созданное и финансируемое расширенной группой GAFA: Amazon, Apple, DeepMind, Facebook, Google, IBM, Microsoft. Возможно, к ним присоединится их китайский аналог Baidu. Генерального директора «Партнерства» Теру Лайонс я встретил в большом лофте с кирпичными стенами прямо напротив штаб-квартиры компании LinkedIn в Сан-Франциско. Тера – приветливая, одетая по последней моде женщина, на руке – неброские умные часы. Не отклоняясь ни на секунду от своей профессиональной роли, она объяснила мне задачи «Партнерства»: обсуждать этические вопросы, разрабатывать качественные практики, а также технологические стандарты, определять будущие вопросы и т. д. Алгоритмическая справедливость, объяснимость решений, конкуренция, неприкосновенность частной жизни, анонимность, собственность на данные – в их повестке все эти проблемы, поставленные ИИ. Очень хочется поверить в хорошо отработанную речь Теры, благие намерения которой бесспорны. Но остаются вопросы к ее собственной траектории: до работы на GAFA Тера курировала вопросы, связанные с ИИ, в Белом доме. «Партнерство ИИ» – это на самом деле созданный в частной сфере преемник «Инициативы по будущему ИИ», запущенного президентом Обамой публичного политического проекта, в котором участвовали представители технологической сферы и который в декабре 2017 года предложил действительно значимые рекомендации. То есть получается, что человек, который помогал официальным властям регулировать сферу технологий в сотрудничестве с соответствующими предприятиями, сегодня работает с теми же компаниями, стремясь создать нормы, способные послужить пищей для решений официальных властей… Вряд ли можно найти лучшую иллюстрацию того, как законодатель отказался от своей традиционной роли, – и неважно, хорошо это или плохо. Политическая власть, пусть она хочет «сорегулировать» или же предоставляет компаниям все права на саморегуляцию, избавляется тем самым от фикции общей воли. Точно так же как наша способность личного выбора делегируется машине, создание коллективных норм становится епархией производителей машин. Сегодня фраза «Код – это закон» более верна, чем когда-либо ранее.

Обычные политические дискуссии, например из-за налогов или общественных служб, кажутся смешными, когда традиционные атрибуты суверенитета уничтожаются технологическими компаниями. Валюта «Либра», созданная Facebook, грозит отнять у государства его последнюю привилегию – право чеканки монеты. ИИ, способный точечным образом вмешиваться в наши решения, контролирует людей на более интимном уровне, чем закон, и к тому же эффективнее, чем легитимное применение силы. Мы по-прежнему ведем себя так, словно ничего не произошло, сохраняя видимость коллективного обсуждения там, где истинная нормативная власть уже передана алгоритмам. Сознательно или бессознательно, но граждане отпали от государства, унеся с собой свои данные. Они нашли себе нового хозяина.

Это бессилие государства объясняется не только техническими причинами, но и более серьезным вызовом тому общественному договору, который два столетия поддерживал наши политические системы в концепции, что закон – проявление общей воли. Как и с исчезновением посредников в торговле[136], ИИ создает неприятную ситуацию для самого понятия политического представительства: почему я могу получить заточенные под меня товары и персональные рекомендации, а в политике должен довольствоваться депутатом, избираемым каждые четыре-пять лет? Неудивительно, что это становится основанием для призывов перейти к прямой демократии или императивному мандату. В своих «Рассуждениях о правительстве в Польше» Руссо объясняет, что только практические препятствия, такие как слишком обширная территория или слишком многочисленное население, могут оправдать создание представительного законодательного собрания. Однако эти препятствия исчезают в цифровую эпоху, когда каждый может в любой момент голосовать по любому вопросу. Давайте пойдем еще дальше: определять общую волю по большинству, пусть даже на референдуме, – это слишком простой и неточный подход, если сравнивать с оптимизацией индивидуальных предпочтений, на которую способны алгоритмы. Почему бы тогда не предоставить ИИ, вскормленному мнениями граждан, решение вопросов публичной политики?