Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

доход, как он понимается в Кремниевой долине. Напомню, вопрос «конца труда» представляется мне переоцененным. Кроме того, китайское решение опирается на интерес группы, которой нужно будет отдавать не только свои данные, но также свое время и свою жизнь. Чтобы компенсировать недостатки КККК, понадобится еще больше КККК!

Если бы я хотел подытожить одной фразой состояние умов, ныне царящее в Китае, то процитировал бы экономиста Чжу Мина, бывшего заместителя директора Международного валютного фонда, который как-то пригласил меня на обед в элитный ресторан рядом с Запретным городом: «Чего нам будет недоставать из эпохи до ИИ? Ничего».

Европа, или Самоубийство по заветам стоиков

В Древней Греции один родосский военачальник попал в плен. Его бросили в яму и кидали туда пищу, как дикому зверю. Проходящий мимо человек посоветовал ему отказаться от еды и умереть от голода. Но военачальник ответил: «Пока человек жив, он может надеяться». В одном из своих писем Луцилию Сенека красноречиво осудил эту позицию, назвав ее «женской слабостью». Нет, жизнь нельзя покупать любой ценой. Нужно быть готовым умереть, но не отказываться от своего достоинства. Самоубийство составляет часть инструментария стоика; это последнее средство самоконтроля, применяемое, когда внешние обстоятельства становятся непреодолимыми. Ведь «судьба не может сделать ничего тому, кто знает, как умереть».

Это, собственно, и есть резюме европейской позиции по вопросу ИИ. Мы решительно отказываемся отрекаться от наших индивидуальных прав, представляющих собой плоды тысячелетней истории. Мы готовы пожертвовать благосостоянием, лишь бы не оказаться в яме, в которой свои данные надо показывать всем и каждому, а пищу получать от ИИ. Берлинские хакеры, с которыми я встречался, когда делал очередной репортаж[156], тратят все силы на борьбу с сетевой слежкой и на распространение средств защиты, таких как зашифрованные мессенджеры и анонимная навигация при помощи системы Tor. Европейские власти сделали удивительные шаги в том же направлении, приняв RGPD, правовой регламент, который призван охранять персональные данные граждан. Логика в том, чтобы включить контроль над данными в фундаментальные права человека, каковы бы ни были индустриальные последствия. Больше прав – меньше ИИ: уравнение совершенно ясно. Открытым остается вопрос о том, можно ли в этих условиях остаться в конкурентной игре мировой экономики. Не придется ли нам смириться с тем, что в ближайшем или далеком будущем мы станем цифровой колонией? Но даже если через несколько десятилетий нам предстоит погибнуть, если Европа станет всего лишь простой остановкой на маршруте нового Шелкового пути, это не важно: по крайней мере, мы будем знать, что жили достойно.

Отказ от прозрачности отвечает глубинным культурным требованиям. В работе «Цивилизация нравов» немецкий социолог Норберт Элиас показал, как в Европе постепенно создавалась частная сфера – от появления вилки и до власти над желаниями. Нам нужно было подавить в самих себе зов племени и животные влечения. Нагота, сексуальные отношения, сон, даже смерть – все они постепенно были «приватизированы», спрятаны от посторонних глаз. Мы перестали есть руками, отказались от насилия как средства урегулирования конфликтов.

Вся суть цивилизованности, основанной на самоограничении и уважении другого, держится на умении физически и эмоционально дистанцироваться от собратьев. Только определенная форма приватности позволяет нам выработать собственную личность. Мы научились не обнаруживать свои настоящие мысли и чувства, когда находимся в обществе, словно для цивилизованности требуется своего рода лицемерие. Так «между индивидами, их телами постепенно воздвигается стена, состоящая из боязливого стыда и эмоционального отторжения». Будет ли она теперь внезапно сломана, чтобы дать ход неограниченному обороту данных самого личного свойства?

Норберт Элиас отмечал, что при королевских дворах плевали на пол, но нравы развивались, и со временем эта практика исчезла. В Китае я видел, как водитель такси опустил окно, чтобы плюнуть на улицу. Хотя это и сомнительное сравнение, но оно вполне отражает радикальный контраст между европейской цивилизацией, гордящейся своим индивидуализмом, и китайской культурой, которая меньше озабочена стыдливой скромностью. Мы не готовы пожертвовать нашими ценностями, завоеванными с таким трудом. Лучше умереть, чем плевать на пол.

Самоубийство – вполне респектабельный выбор как для отдельных людей, так и для цивилизаций. Но вот отказ замечать наш технологический упадок внушает мне опасения. В Сан-Франциско я встретил соотечественников, которые объясняли мне, что у Франции были все козыри, чтобы добиться успешной реализации ИИ: разве не французским был первый микрокомпьютер? Разве не мог Minitel стать тем, чем теперь является интернет? Разве США не завидуют втайне нашей цифровой этике? Разве президент Республики не объявил, что Франция должна стать «мировым лидером» в области ИИ, хотя и выделил на это суммы, которые кажутся смешными в сравнении с инвестициями GAFA, в том числе в фундаментальных исследованиях? Разве президент Иль-де-Франс не решила сделать из своего региона «европейскую Кремниевую долину», под которую выделили целый миллион евро, что, однако, составляет среднюю годовую зарплату хорошего программиста в самой Долине? Сколько бы громких деклараций об ИИ ни делалось, они не имеют значения, если мы не выделяем под них достаточно средств и отказываемся (пусть и не без оснований) принять их культурные последствия.

Встреча с Кристианом Игелем, директором Центра ИИ и профессором Университета Копенгагена, оставила у меня такое же горькое послевкусие. Хотя его факультет и входит в тридцатку лучших в мире по компьютерным наукам, он испытывает огромное давление со стороны американских конкурентов. Лучшие ученые уходят в исследовательские подразделения Google или Facebook, где зарабатывают гораздо больше, пользуются теми же академическими свободами, но не подчиняются университетской бюрократии. Пока борьба остается неравной, сложно нанять даже научного сотрудника, причем еще десять лет назад ситуация была совершенно иной. Конечно, можно пожертвовать зарплатой ради общего блага или качества жизни. Однако средства, которыми могут распоряжаться исследователи в частном секторе, убеждают в итоге даже самых бескорыстных. Профессор Игель недавно писал статью с одним из своих диссертантов, теперь работающим в Microsoft, и вот уже его бывший студент дал ему доступ к базе данных, которую университет никогда не смог бы составить. Точно так же его факультет проиграл конкурс в области компьютерной сегментации изображений мозга, поскольку частные конкуренты имели доступ к большим вычислительным мощностям. Как надеется сам Кристиан Игель, возможно, правительства начнут инвестировать в фундаментальные исследования больше, так что европейская модель ИИ в конечном счете сможет добиться заслуженного уважения. Но сегодня тенденция совсем иная…

Некоторые пытаются осуществить опасный синтез защиты прав и технологического развития. Такой была задача двухсотстраничного доклада Седрика Виллани, который сегодня составляет официальную доктрину французского правительства в области ИИ. Его автор принимает меня на улице Университета, в берлоге с тусклым освещением, представляющей собой нечто среднее между лабораторией Пастера и лавкой антиквара. Булавка в виде синего