Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

паука, которую он носит, кажется сбежавшей из обширного бестиария, разместившегося на стенах и полках его кабинета. Я вижу огромного золоченого скорпиона, скульптуры слонов, статуэтку Вишну и другие фигурки животных, которых сложно опознать. Они соседствуют с кепкой с логотипом Ariane 5, научными медалями, миниатюрным барабаном, фотографией Марка Цукерберга, а также стопками книг на французском и английском языках. Седрик Виллани поднимается, проходит широким шагом через комнату, поправляет бант на шее и поднимает палец: сейчас из его уст выйдет истина. Но нет! Телефон вибрирует, он усаживается и начинает разговор о своей следующей книге. Когда спустя десять минут Седрик замечает, что я все еще здесь, с ручкой в руке и несколько вымученной улыбкой, он переносит встречу и отправляет меня восвояси. «Пока, Грегуар!» – с радостью бросает он, выпроваживая меня к лифту.

Сначала я думал о суровой мести с применением ядовитых пауков. Но в итоге смирился с судьбой и вернулся к нему, отбросив самолюбие. На этот раз мы все-таки смогли немного побеседовать.

Седрик Виллани, математик с мировым именем, недавно избранный депутатом Национального собрания Франции, представляется идеальной фигурой для разработки государственной политики в сфере ИИ. Он вполне осознаёт, что музыку сегодня заказывают Китай и США, что Европе не удалось создать никакого крупного предприятия в этой сфере и что наше будущее может от нас ускользнуть. То есть задача в том, чтобы «не оказаться посреди двух огней», при этом времени на сокращение отставания остается все меньше и меньше. В реализме Виллани, далеком от заклинаний его новых коллег по политике, заметна строгая научная методология. Некоторая экстравагантность в одежде и риторике этого денди, который словно бы попал к нам в своем костюме-тройке с карманными часами прямо из XIX века, скрывает за собой холодную и спокойную рациональность. Но, к сожалению, ответ Виллани на нашу технологическую слабость апеллирует, что вполне традиционно, все к тому же государству. В его докладе предлагается создать множество комитетов и ведомств, которые должны добиться успеха там, где частная инициатива потерпела неудачу. Среди предложений я обнаружил там пост межминистерского координатора по трансформации государства, «публичную лабораторию» по трансформации труда, комитет публичных экспертов, призванных заняться «аудитом» алгоритмов, консультативный комитет по этике ИИ, форум данных, единое информационное окно по ИИ, отметку об ИИ, которой должны маркироваться французские технологические компании, агентство прорывных инноваций, сеть междисциплинарных институтов ИИ… В числе задач государственной власти оказывается даже «поддержка встреч между предприятиями, обладающими данными, и стартапами»: очевидно, они не могут говорить друг с другом без посредничества бюрократа, который будет держать свечку.

– А вам не кажется, что это какой-то дирижизм? – спрашиваю я его, перечитывая список.

– Это правильный вопрос, – неожиданно отвечает он.

Он напоминает мне о хорошо известной роли, которую DARPA, американское оборонное агентство, сыграло в финансировании Кремниевой долины. Но в то же время он признаёт неудачи европейских программ создания суверенного облака и поисковой машины, которые остались чисто политическими проектами, не подкрепленными никакой промышленной или экономической реальностью. «Нужно способствовать появлению инновационных предприятий, но не баловать их», – заключает он, склоняясь к аристотелевской идее добродетельной середины.

Но эта надежда на дирижизм 2.0 покажется тщетной, если учесть неспособность европейских демократий организовываться на стратегическом уровне. Я не уверен в том, что Виллани сам верит в свои планы. Если стартаперам нужно предоставить «единое информационное окно по ИИ», разве мы не отказываемся тем самым от шумпетерианского определения предпринимателя как беспокойного и сверхактивного человека, жадного до власти и независимости, стремящегося основать свое собственное маленькое королевство?[157] Еще более важно то, что обращение к государству выдает структурную слабость Европы в области сбора данных – ключевого компонента развития ИИ. Виллани признаёт это, жалуясь, в частности, на страх правительства использовать медицинские данные. Франция – страна централизованная, и в ней создали одну из наиболее полных баз медицинских данных (это знаменитая SNIIRAM, которая управляется системой медицинского страхования). Однако использовать ее позволяется лишь в крайне ограниченном объеме, что обосновывается очевидными резонами конфиденциальности. То есть министерство здравоохранения сознательно тормозит прогресс медицинских исследований, чтобы избежать любого распространения конфиденциальной информации о пациентах. Это и есть пример стоического самоубийства. Мы буквально предпочитаем умереть из-за отсутствия лекарства, но не нанести урон нашей частной жизни.

Виллани хорошо понимает это противоречие. Он хотел бы устранить его магической формулой «Нужно защищать данные и заниматься инновациями в одно и то же время». В одно и то же время – известный лозунг доктрины Макрона. В области доступа к данным нужно гарантировать контроль над личными данными и в то же время побуждать граждан предоставлять их ради совершенствования систем ИИ. Поэтому в докладе Виллани делается акцент на возникновении «общин данных», которые поощряют их добровольное предоставление. Виллани говорит о «доверии» между гражданином и ИИ, особенно в вопросе государственных услуг. Если предположить, что мы можем контролировать наши данные благодаря RGPD и другим нормам, почему бы не использовать их в интересах коллективного блага? Одна фраза из доклада Виллани служит яркой иллюстрацией этого устремления: «Новое право индивидов на управление своими личными данными могло бы быть включено, таким образом, в гражданскую логику, позволяя государствам и территориальным административным единицам получать эти данные для развития приложений ИИ ради достижения целей публичной политики». Особое государственное агентство, chief data officer, как его называет Виллани, должно в таком случае стать посредником, которому гражданин мог бы совершенно спокойно «переуступить» данные. Например, мы могли бы делиться своими геоданными с публичным приложением для улучшения трафика. Так между гражданином, предоставляющим данные, и государственным централизующим ведомством возникла бы «связь авторизации».

«Теперь, когда мы дали вам права, – говорит, по сути, доклад Виллани, – доверьтесь нам и откажитесь от них!» Но разве можно отклонить это предложение, не превратившись во фрирайдера, который пользуется плодами оптимизации, но не вносит в них никакого вклада? На мой взгляд, эта логика предполагает необоснованное доверие государственной власти, словно бы правительства всегда должны оставаться мудрыми и умеренными. Кроме того, не совсем понятно, какие данные можно было исключить из этого императива общей пользы. Мои медицинские данные позволяют развивать науку. Мои данные по потреблению электричества, уже собираемые умными счетчиками, позволяют оптимизировать управление электросетью, а потому сократить производство энергии и спасти планету. Мои данные по поиску в интернете позволяют понимать, как возникают ложные слухи, и предупреждать их распространение. Мои данные, связанные с сексуальным поведением, помогают сдерживать вспышки некоторых заболеваний и лучше выявлять дискриминацию. Наконец, разве мои генетические данные не позволят лучше контролировать развитие популяции в целом? Каково различие между моделью «В одно и то же время» и китайским «Общим благом», если не считать того, что в первом случае рабство становится добровольным?

Попытка Седрика