Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

точное описание того, как нейроны, ответственные за принятие решений, могут активизироваться или, наоборот, подавляться, влияя на нашу способность сомневаться и размышлять[184]. А затем, как только окончательное решение принято, мы прячем все это в дальний угол подсознания – на будущее. По данным нейронаук, повторение решения смешивается с процессом обучения и модифицирует нейронные пути, переустанавливая связи между нейронами[185]. Пианисты знают, что одна фальшивая нота, повторенная слишком часто, в конце концов автоматически встраивается в движения пальцев, которыми управляет мозг, и потребуются долгие упражнения, чтобы исправить последствия этого неудачного первоначального решения. Любопытно, что чем более обдуманным и взвешенным является решение, тем устойчивее модификации нейронных связей, которое оно производит[186]: интенсивность суждения способна изменять наше будущее поведение. Пластичность мозга позволяет нам, таким образом, встроить наш выбор в само наше тело.

Однажды вы, вероятно, приняли решение, каким маршрутом добираться на работу; мало-помалу он вошел в привычку, позволив вам по дороге обдумывать выбор других вещей. Это первоначальное решение не обязательно было лучшим: забастовки в лондонском метро показали, что многие пассажиры, когда им пришлось заново задуматься о своем маршруте, нашли варианты удобнее[187]. Но это был ваш маршрут. Сегодня он владеет вами так же, как вы им. Повторение одних и тех же улиц, перекрестков и вывесок соответствует определенному моменту вашей жизни, и вполне разумно продолжать придерживаться этого маршрута, даже если вы теряете на нем несколько минут. Если вернуться к терминологии Канемана, можно выдвинуть гипотезу, что «система 2» – это не рациональная сущность, отличная от «системы 1» и ее когнитивных алгоритмов, полных предубеждений. Именно «система 2» подпитывает «систему 1», производя целый ряд решений в глубине наших привычек, тогда как «система 1» временами дает о себе знать «системе 2», требуя от нее все новых размышлений. На самом деле нет двух систем, а есть бесконечное число цепочек принятия решений, производящих когнитивный шум разной степени интенсивности. На что-то в конце концов решаясь, я привношу в это решение весь груз моей истории. Если свобода воли – это фантазия о свободном действии, нарушающем естественный ход вещей в природе и обществе, то свободный волитель, напротив, обладает способностью давать обещание и сдерживать его, задействуя всю свою личность. Как объясняет нейробиолог Джона Лерер, «нас определяют наши решения»[188], будь то бессознательные или нет. Именно эта «фабрика идентичности» позволяет вменять человеку ответственность, невзирая на биохимический детерминизм.

Свобода воли не дается нам от рождения: нет никакой феи, которая склонилась бы над колыбелью человечества. Вопреки неудачной формулировке нашей «Декларации о правах человека», мы не «рождаемся свободными». Зато мы можем взращивать и поддерживать в себе свободного волителя. Это ключ к нашей ответственности, он не дан нам (биологически), не предполагается (интеллектуально), а медленно вырабатывается. Чем сложнее траектории принятия нами решения, тем сильнее мобилизуется способность к рефлексии, тем больше наше действие, даже самое незначительное, отражает то, кем мы являемся. Но чем менее осознанно мы принимаем решения, тем хуже себя контролируем. Деннет справедливо говорит о «моральном образовании», которое помогло бы нам выбирать соображения, участвующие в наших процессах принятия решения. Оно вполне органично вписывается в гуманистическую традицию. Подобно тому как Эразм Роттердамский возражал против «рабства воли» Лютера, сегодняшние гуманисты могут апеллировать к нейронаукам, чтобы доказать возможность личного суждения. Только так мы сможем в итоге разглядеть человека, погребенного под массивами данных, заставив ИИ служить нам.

Такая концепция имеет свои политические последствия. Роль хорошего управления будет заключаться в том, чтобы способствовать этому моральному образованию, развивающему автономию при принятии решения. Именно это особым образом отражается на других теориях политического действия, используемых в этих дебатах. Режим свободы воли предполагает, что мы взрослые и ответственные люди: это свободный рынок, как он понимается Чикагской школой. В теории nudge мы мечемся туда-сюда под воздействием когнитивных предубеждений: это либертарианский патернализм поведенческой экономики. Но в моей гипотезе свободного волителя мы можем постепенно накапливать средства для освобождения, независимо от биохимического детерминизма и даже благодаря ему. Вспомним Лейбница: «Связь причин со следствиями, не будучи причиной суровой необходимости, скорее доставляет средство к ее уничтожению». Именно за счет того, что я пропускаю часть моих предварительных решений через бессознательное нейронных путей, создавая тем самым, если так можно выразиться, собственные когнитивные предубеждения, я могу укрепить свою способность суждения. Можно вообразить целый ряд инструментов публичной политики, которые способствовали бы человеку в его размышлении при принятии решения, не оказывая при этом влияния на его результат и не давая ему оценки[189].

Это не индивид проявляет загадочную свободу воли как суверенный акт (позиция, невозможная с точки зрения современных нейронаук), а свободный волитель, нашедший выражение в делиберации, мало-помалу формирует индивида во всей его оригинальности. Вот почему так важно не передавать эту способность машине! Итак, мы снова вернулись к ИИ. В решении важен не столько результат, сколько процесс, постепенно структурирующий нашу личность. Чтобы не стать «дивидом» в эпоху алгоритмов, чтобы генерировать отклонения, которые являются условием биологической и социальной эволюции, недостаточно совершать «беспричинные поступки», столь эфемерные, сколь и поверхностные. Нужно брать на себя глубинный и сознательный выбор, возможно, не очень эффективный с точки зрения полезности, но без которого невозможно сформировать индивидуальность. При этом мы не идем против себя: мы, наоборот, становимся собой. Деннет говорит о способности противостоять манипуляциям как следствии «моральной ответственности», связанной с делиберацией. Сегодня эта способность играет ключевую роль в сопротивлении комфорту рекомендаций. Я отказываюсь от этой книги, подсказанной мне Amazon, не потому что она мне не нравится или не будет мне полезна, а потому что я – это я. Эта рефлексивная гордость тесным образом связана с волей к автономии. Если Харари объясняет, что ИИ знает нас лучше, чем мы сами, и что за отсутствием свободы воли лучше передоверить решения ему, я, наоборот, считаю, что ИИ мешает нам стать самими собой и сформировать в себе свободного волителя в ходе самого процесса принятия решений. Если Харари кичится тем, что отказывается от индивида и уничтожает «Я» при помощи медитации, то я предлагаю заново утвердить уникальную сущность, каковой мы являемся, или, по крайней мере, дать ей возможность появиться на свет. Если не ради нас самих, то хотя бы ради прогресса нашего биологического вида. Мы видим, как эти почти метафизические соображения могут послужить руководством для наших отношений с технологией.

Вот два примера. Первый – анекдотический: Google Maps. Вы можете принять nudge и позволить вести вас, даже не понимая, где идете, и рискуя тем, что некоторые зоны вашего мозга могут атрофироваться[190]: