Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

революцию, которая обсуждалась не только сама по себе, но и в связи со всеми прочими вопросами, начиная с детского труда и заканчивая таможенными пошлинами[130]. Вопрос становится по-настоящему важным, когда он перестает считаться чем-то обособленным. В частности, такое развитие можно было наблюдать в экологии. Что же касается ИИ, политика, похоже, безнадежно отстала от технологии.

Впрочем, Франции стыдиться нечего: США, родина ИИ, демонстрируют ту же беззаботность. После скандала с Cambridge Analytica слушания с участием Марка Цукерберга в американском Конгрессе ясно показали некомпетентность законодательной власти, которая была вынуждена задавать общие вопросы, тогда как молодой основатель Facebook смог легко ввести ее в заблуждение. Были предприняты некоторые попытки восполнить этот дефицит в публичной политике, но без особого успеха. В Вашингтоне я встретился с Кей Коидзуми, бывшим вторым сотрудником в Управлении научно-технической политики (OSTP), ведомстве, занимавшемся контролем техники и прямо связанном с Белым домом. Кей не похож на типичного высокопоставленного чиновника: в ухе у него серьга, он носит розовые часы и футболку с крокодилами. При президенте Обаме он руководил составлением трех важных докладов об ИИ, в которых рассматривались фундаментальные исследования, государственное регулирование и социальные последствия. Эти инициативы должны были привести к осознанию проблематики на самом высоком уровне. Президент лично занимался этим проектом, была мобилизована вся федеральная администрация. «Они начали понимать, – вздыхает Кей, – но это больше не повестка правительства». Избрание Дональда Трампа повлекло резкое торможение деятельности OSTP. За беззаботностью Кея заметно глубокое разочарование. Словно зажглась искорка, которая потом была потушена первым партийным дуновением. Теперь единственная надежда Кея, которую он лелеет в рамках престижной Американской ассоциации развития науки, состоит в том, что на смену правительству, не справившемуся со своей задачей, придет гражданское общество.

Государства, стремящиеся не упустить в этих вопросах инициативу, применяют разные инструменты. Вдохновляясь работами старого британского дипломата Тома Флетчера[131], Дания официально назначила «технического посла», ответственного за отношения с крупными технологическими компаниями. Чиновник, занявший этот пост, Каспер Клинге – профессиональный дипломат, сегодня его офис располагается в Кремниевой долине. Когда я встретился с ним, он работал на этой должности уже два года. Сначала можно было подумать, что подобная инициатива лишь подкрепляет самомнение технических гигантов, признавая за ними едва ли не суверенный статус. Но с точки зрения датского правительства все наоборот: оно надеется, что сможет таким образом укрепить на этой территории роль государства. Каспер считает себя классическим дипломатом, который отправляет в столицу телеграммы и представляет интересы граждан своей страны. Признавая беспрецедентную силу GAFA, он в то же время хочет верить в то, что функция национальных государств по защите принципов либеральной демократии будет оставаться центральной. Датская инициатива, впрочем, уже нашла подражателей: во Франции в конце 2018 года был назначен «посол по цифровой сфере» (это более скромная должность). Над такой же возможностью размышляет Германия. Имея дело с цифровыми империями, дипломатия должна адаптироваться и формировать новые коалиции. Где Дании важнее иметь представительство: в Афинах или в Пало-Альто?

Каспер пылко и искренне пытается убедить меня в важности своей миссии. Хотелось бы мне верить… Впрочем, рассказ о его злоключениях не развеивает моего скепсиса. Высадившись в Кремниевой долине, господин посол выяснил, что двери перед ним закрыты. Каспер, отчасти шутя, признаёт, что в пиар-отделы компаний попасть сложнее, чем в лагеря Талибана, где он бывал, когда занимал похожий пост в Афганистане. Однажды Каспер собрал коллег-дипломатов из двадцати двух стран, чтобы провести переговоры в штаб-квартире одной из компаний, входящих в GAFA, но ему предложили встретиться… с самым высокопоставленным стажером! Когда датский премьер хотел встретиться в Давосе с представителями Facebook и Google, его просто выпроводили. Став королями мира, поскольку, если верить девизу Марка Цукерберга, они «шествовали, ломая все на своем пути», бывшие основатели стартапов не сохранили никакого уважения к традиционным государственным институтам и не лишают себя удовольствия дать им это почувствовать. Как бы Каспер ни старался, мне он кажется Дон Кихотом, сражающимся с ветряными мельницами данных.

Если отдельные государства кажутся бессильными, тогда, может, в решении этих проблем, которые по своей природе являются транснациональными, следует обратиться к многосторонним институтам? И почему бы не к главному из них, а именно к ООН?

В штаб-квартиру этой организации, расположенную на берегу Ист-Ривер, я вошел не без некоторой юношеской робости. Я миновал 193 флагов, которые столько раз видел по телевизору. Здесь собирается вся планета, чтобы обсуждать проблемы и разрешать конфликты. Как тут не оставаться верным кантианскому космополитическому идеалу? Как не желать того, чтобы однажды всемирное правительство в той или иной форме завершило объединение человечества, единственного вида, способного думать о себе самом? Не смогут ли наши руководители, собравшись вместе, совладать с идущей сегодня стремительной цифровой перестройкой?

Похоже, Салем Аван, отвечающий за технологические вопросы в администрации ООН, не готов разделить это мнение. Для дипломата он показался мне человеком чрезвычайно откровенным… Нет, на институциональном уровне не было определено никакого направления публичной политики. Нет, государства – члены ООН, похоже, не озабочены этим и не выдвигают никаких соответствующих требований. Нет, идея мирового регулирования кибербезопасности или ИИ не рассматривается.

– Но, к счастью, – добавляет Салем, – у нас есть наши собственные специалисты: цифровые «голубые каски».

– Отлично! И где же они?

– Здесь, – ответил он мне, иронично улыбаясь и указав на коридор за стеклянной стеной нашего конференц-зала.

Я оборачиваюсь. Цифровых «голубых касок» не более десятка. «В основном они играют символическую роль», – признаёт Салем. Будто я очутился в участке унылого шерифа, ожидающего нападения индейцев. Неужели это все силы, которые удалось собрать? Салем не скрывает разочарования. Накануне он принимал команду компании Amazon, с которой они должны были обсуждать возможности технологического сотрудничества. С завистью он упоминает о том, что в Amazon работают тысячи исследователей ИИ самого высокого уровня. Вот до чего мы дошли: 193 государства просят платформу электронной торговли прийти им на помощь, чтобы они могли что-то понять, решить и действовать.

Кризис не является исключительно техническим, государствам не хватает не только бюджета или знаний. Салем напомнил мне, что ООН – организация, основанная на идее национального суверенитета. Но он-то как раз и поставлен под вопрос сетями, которые по самой своей природе детерриториализованы. Речь больше не идет о том, чтобы объединять государства в зависимости от их собственных интересов, но о том, чтобы как-то работать с вопросом, который выходит за их границы. ИИ ведет к устареванию ООН. Организация, некогда способная, несмотря на все ее ограничения, укреплять мир и предупреждать войну, ныне парализована строчками кода. «Нам нужна цифровая ООН, – делает вывод Салем, – то есть организация с другим управлением, другими инструментами контроля, другими формами действия». Но, возможно, появится она только в другой жизни…

Пока же правительства,