Искусственный ты. Машинный интеллект и будущее нашего разума - Сьюзан Шнайдер

обсуждали схожую точку зрения под названием «модифицированный паттернизм». Таким образом, мы совершили полный круг. Вспомним замечание Курцвейла:

Я скорее похож на узор, который образует вода, когда бежит по камням. Реальные молекулы воды меняются каждую миллисекунду, но паттерн сохраняется на протяжении часов или даже лет[122].

Разумеется, Курцвейл знает, что со временем паттерн меняется. В конце концов, это цитата из его книги о том, как стать постчеловеком при достижении сингулярности. Замечание Курцвейла, возможно, придется вам по душе, ведь в каком-то смысле вы вроде бы остаетесь той же личностью, какой были год назад, несмотря на изменения в мозге; не исключено, что вы смогли бы даже пережить потерю многих воспоминаний или появление некоторого количества новых нейронных контуров, как при усовершенствовании вашей системы кратковременной памяти. Тогда вы и правда похожи на реку или поток.

Ирония в том, что образ реки использовался еще досократовским философом Гераклитом, который с его помощью пытался показать, что реальность текуча. Неизменные вещи в ней – иллюзия, включая неизменность постоянного «я» или разума. Тысячи лет назад Гераклит писал: «Ни один человек не может войти в одну и ту же реку дважды, ибо это будет уже не та река и не тот человек»[123].

Но Курцвейл говорит, что человеческое «я» переживает поток перемен. Задача сторонников модифицированного паттернизма – парировать ход Гераклита: показать, что на фоне непрерывных изменений существует некое постоянное «я», а не просто иллюзия постоянства. Смогут ли паттернисты наложить постоянство «я» на Гераклитов поток вечно меняющихся молекул тела?

Здесь мы вновь сталкиваемся со знакомой проблемой. Без прочной позиции в вопросе о том, когда реализация паттерна продолжается, а когда прерывается, у нас нет достаточных оснований апеллировать и к теории программной реализации. В главе 5 мы спрашивали: если вы – это реализация определенного паттерна, то что, если ваш паттерн изменится? Вы умрете? Экстремальные случаи, такие как загрузка в компьютер, представлялись нам достаточно ясными. Однако простая ежедневная клеточная терапия при помощи наноботов для устранения проявлений медленного старения, возможно, не повлияет на идентичность личности. Но мы видели, что промежуточные случаи не так легко интерпретировать. Напомню, что путь к сверхразуму лежит, возможно, через небольшие усовершенствования, которые накапливаются со временем и дают в сумме серьезные изменения в когнитивной и перцептивной структуре личности. Далее, как мы видели в главе 5, выбор границы представляется произвольным – ведь когда граница выбрана, всегда можно подобрать пример, который убеждает передвинуть ее чуть дальше.

Таким образом, если сторонники теории программной реализации имеют определенное мнение о постоянстве разума, возникает все тот же старый вопрос. Мы и правда совершили полный круг, но так и не избавились от чувства неразрешимости и противоречивости загадок о природе разума и собственного «я». И здесь, дорогой читатель, я хочу вас оставить. Ибо будущее разума требует тщательной оценки метафизических глубин этих проблем.

А теперь, для закрепления материала, просуммируем сказанное, вернувшись к случаю Суоцци.

Возвращаясь в Alcor

Джош через три года после смерти Ким собрал дорогие ей вещи и вернулся в Alcor. Он выполнил данное ей обещание и доставил ее вещи туда, где она могла бы найти их, если вернется к жизни[124]. Откровенно говоря, я предпочла бы, чтобы эта глава завершилась иначе. Если бы программный подход был верен, то, по крайней мере в принципе, разум можно было бы загружать в компьютер, копировать и перезагружать. Это открыло бы возможность послежизни для мозга, если хотите – создало бы способ, позволяющий разуму, например разуму Ким, пережить смерть мозга. Однако наши размышления показали, что программный подход превращает разум в абстрактный объект. Поэтому мы рассмотрели родственную точку зрения, в которой разум – это программная реализация. Но оказалось, что и теория программной реализации не поддерживает загрузку в компьютер, и, хотя сам по себе этот подход интересен, он слишком неинформативен с метафизической точки зрения, чтобы всерьез рассматриваться как научный подход к природе мозга.

У меня нет доступа к медицинским подробностям заморозки Ким, но я вижу проблески надежды в отчете The New York Times, где говорится, что сканирование показало успешную криоконсервацию внешних слоев ее мозга. Как отмечает Хармон, центральную роль в том, кто мы есть, играет, судя по всему, новая кора головного мозга, поскольку именно она является ключом к памяти и языку[125]. Так что реконструкция поврежденных частей на биологической основе может быть совместима с выживанием личности. Например, я обратила внимание, что уже сегодня ведется активная работа над протезами гиппокампа. Не исключено, что такие части мозга, как гиппокамп, носят скорее универсальный характер и замена их биологическими или даже ИИ-протезами не меняет личность человека.

Конечно, я на протяжении всей книги подчеркивала, что здесь существуют громадные неопределенности, обусловленные запутанной и противоречивой природой дебатов об идентичности личности. Но положение Ким не похоже на положение человека, выбирающего себе усовершенствования для мозга, – эдакого покупателя в гипотетическом Центре конструирования разума. Покупатель, просматривающий список доступных усовершенствований, может спокойно отказаться от них, если они покажутся ему слишком рискованными, а пациенту на пороге смерти или человеку, нуждающемуся в протезе для оживления после заморозки, нечего терять, приобрести же он может все, и такой человек обязательно пойдет даже на очень рискованное лечение.

В отчаянном положении нужны радикальные меры. Решение использовать один или несколько нейронных протезов ради повышения шансов на возрождение Ким кажется рациональным, если соответствующая технология будет отработана. Однако я совершенно не уверена, что попытка загрузить ее мозг в компьютер стала бы формой возрождения. Загрузка в компьютер, по крайней мере как средство выживания, опирается на порочное концептуальное основание.

Так что же, все проекты по загрузке мозга в компьютер следует прекратить? Даже если эта технология не выполнит своих первоначальных обещаний и не даст цифрового бессмертия, она, вполне возможно, окажется полезной для нашего биологического вида. Например, какая-нибудь глобальная катастрофа может сделать Землю непригодной для биологических форм жизни и загрузка в компьютер может оказаться способом сохранения человеческого образа жизни и мышления, если не самих людей. А если загруженный в компьютер разум в самом деле будет обладать сознанием, то представители нашего биологического вида, оказавшись перед лицом смерти, может быть, оценят это. Более того, даже если загруженный разум не будет обладать сознанием, использование моделей человеческого разума может оказаться более безопасным и эффективным способом освоения космоса, чем отправка в полет живых людей. Публике, как правило, нравятся пилотируемые полеты в космос, хотя роботизированные миссии кажутся более эффективными. Возможно, использование загруженного разума