Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

что у индивида есть права и что его решения принадлежат ему и никому больше. Считая себя разумными, мы на самом деле были безумными. Разум, которым мы бахвалились, свобода, которой мы наслаждались, гражданские права, которые мы отстаивали, искусство, к которому мы взывали, – все это было привилегией элиты. Почему у некоторых было право быть индивидами, полноценными личностями, а у других его не было? ИИ положит конец этому лицемерию. Он срежет под корень наши различия, капризы, нашу уникальность. Мы снова станем хорошо управляемым обществом, однородным племенем, трудолюбивым муравейником, в котором каждый печется об общем счастье и где все вкладываются в счастье каждого.

«Офицер говорит: не рассуждайте, а упражняйтесь! Советник министерства финансов: не рассуждайте, а платите! Духовное лицо: не рассуждайте, а верьте!» – вот как Кант описал темные века покорности и невежества, которые должны были завершиться просвещением, когда каждому будет дана смелость пользоваться своим собственным умом. Sapere aude! Осмелься думать! Вот лозунг, возвестивший лучшее будущее. Но сегодня психолог снова говорит: не рассуждайте, вы ошибаетесь! Специалист по нейронаукам: не рассуждайте, вы во власти иллюзий! Экономист: не рассуждайте, вы разоряетесь! Наконец, специалист по компьютерным наукам твердит нам: не рассуждайте, дайте мне этим заняться… И у каждого из них есть убедительные аргументы. Вот в чем суть парадокса: у машины есть свои резоны, которые больше неведомы нашему разуму.

Мы вот-вот изобретем высшую, изощренную форму добровольного рабства. Во времена Ла Боэси мы были прикованы к тирану – но решитесь не служить ему, и вот вы свободны. Во времена Токвиля мы лениво покорялись грозной опекунской власти, власти государства – но тяги к независимости было достаточно, чтобы выйти из этого состояния оцепенения. Даже во времена, описанные в антиутопии «Дивный новый мир», когда мы отдали власть над собой принципу удовольствия, еще существовало центральное правительство, от которого герои, не подчиняющиеся норме, могли осмелиться потребовать отчета. Но теперь, во времена ИИ, мы подчинены только самим себе, нашим мнениям, вкусам, поведению и нашим любовным историям, которые постоянно воспроизводятся, незаметно модифицируются и безмерно возвеличиваются. Принимая куки и условия пользования, делясь бесконечным числом личных данных, мы сами создаем сковывающие нас кандалы. Мы стали своими собственными деспотами. Кто захочет, освобождаясь от самого себя, рискнуть стать другим?

Что станет с безумцами, гениями, бродягами, небесными странниками, всеми теми, кто был солью человечества? Их тоже затянет в орбиту «полезности». Вначале они будут противиться. Некоторые станут пятиться назад. Но как и, главное, зачем сопротивляться? Уставшей рукой они толкнут первый турникет… А потом сами, по своей воле, пойдут по тому же пути, столь простому и удобному, столь, по сути дела, логичному.

Я посмотрел на Кэти: она просто умирала со смеху…

4

Разные следствия

Почему все меняется

На что будет похоже общество без свободы воли? Я попытался осмыслить его зачатки, встречаясь не только с техническими специалистами по ИИ, но и с учеными, активистами и простыми «цифровыми» гражданами, столкнувшимися с первыми существенными переменами. Моя задача не в том, чтобы предсказать будущее, а в том, чтобы довести до предела саму алгоритмическую логику.

В этом я попытался сохранить верность методу Токвиля. В своей работе «Демократия в Америке» он выделяет структурирующий принцип демократической трансформации – равенство, – а потом занимается описанием его «разных следствий», которые в XIX веке уже были заметны в США. Философский метод, литературный стиль, архитектура, спиритуализм, профессиональная жизнь, заработки, отношения между мужчиной и женщиной, представления о семье, о чести, воинский дух… ничто не может избежать требования равенства. Точно так же в случае ИИ исчезновение свободы воли определяет ряд трансформаций. Мы рассмотрим различные их формы примерно в том же порядке, который был предложен Токвилем: искусство, науки, право, экономика, нравы, политика и философия.

«Именно потому, что я не был врагом демократии, я хотел быть искренним по отношению к ней», – уточняет Токвиль в предисловии к своей книге. Мне бы хотелось сказать то же по поводу ИИ.

Искусство без художников

Чтобы понять, что будет представлять собой искусство XXI века, надо отправиться в Санта-Крус, очаровательное местечко с испанским колоритом на берегу залива Монтерей, где находится Калифорнийский университет. Я потерялся в пригороде, состоящем из коттеджей, но потом наконец нашел нужную дверь – дверь композитора Дэвида Коупа, который уже несколько десятилетий создает музыку на основе кода. Особенно он известен тем, что придумал алгоритм, который может генерировать музыкальные произведения в стиле Баха: уху непосвященного (например, моему) отличить копию от оригинала совершенно невозможно[102]. Ту же технику Дэвид Коуп применил к Вивальди, Моцарту и даже Шопену, но с разным успехом (его «Ноктюрн в стиле Шопена» кажется мне слишком механическим). Главное же, что при помощи компьютерных программ он создал ряд оригинальных произведений; одно из самых известных называется «Эмили Хауэлл».

В своей наивности я связывал ИИ с молодыми разработчиками-аспирантами и предпринимателями в футболках. Но история ИИ сегодня охватывает уже несколько поколений. Человеку, который открыл мне дверь, больше 75 лет. Его сухое и серьезное лицо, потерявшееся за седой бородой, вполне подошло бы бюсту античного философа. Он ведет меня на второй этаж, в свою мастерскую. Там легко представить, как Антуан, композитор из фильма «Дядюшки-гангстеры», блуждает по лесу звуков спустя пятьдесят лет: к потолку подвешены сотни труб, бубенцов, колоколов, треугольников и стекляшек, так что малейшее движение в комнате запускает симфонию, повинующуюся случаю. На полу – завалы книг по математике, стопки бумаг и старые компьютеры, а потому двигаться тут небезопасно. Дэвид прокладывает путь, включает экран, загружает свою программу EMI, и через несколько кликов в мастерской звучит неизвестное произведение Баха. Я первый и последний человек, который его услышал: компьютер постоянно производит все новые и новые аранжировки. Разве не должен был я прийти в трепет от одной мысли о том, что могу таким образом пообщаться с духом Баха? Нет. Скорее наоборот: мы только что истребили Баха как человека, индивида, который существовал и принадлежал к определенной истории, чтобы превратить его в метод производства звуков. И. С. Бах стал названием конкретного алгоритма. А поскольку алгоритмы при должной тренировке всегда могут совершенствоваться, вполне логичным будет предположить, что виртуальный Бах в конце концов превзойдет своего праотца из плоти и крови.

ИИ подрывает отношение к творчеству. Композитор-демиург заменяется простыми музыкальными потоками, которые возникают сами собой из первичной сложности. Программы Дэвида основаны на внедрении нелинейного хаоса, по образцу его собственной мастерской. Важно одно – вывести в форме звуков глубинную фрагментацию универсума, вмешиваясь в нее как можно меньше.

Я спрашиваю у Дэвида, что он думает о