Туннель Эго - Томас Метцингер

Давайте продолжим наш мысленный эксперимент. Представьте, что эти постбиотические Эго Машины обладают познавательной собой-моделью, то есть, являются интеллектуальными мыслителями. В таком случае, они смогут не только концептуально понять причудливость собственного существования в качестве простого объекта научного интереса, но также смогут интеллектуально страдать от сознания того факта, что им не хватает врождённого «достоинства», которое кажется таким важным их создателям. Они вполне могут осознавать себя второсортными, хотя и разумными, гражданами, отчуждёнными постбиотическими сущностями, используемыми в качестве взаимозаменимых экспериментальных инструментов.

Каково же это, «очнуться» развитым искусственным субъектом, который, несмотря на крепкое ощущение самости и даже переживание себя подлинным субъектом, является при этом лишь товаром?

История первых искусственных Эго Машин, постбиотических феноменальных самостей без гражданских прав, не имеющих какого-либо лобби в каком-либо комитете, прекрасно изображает, насколько связано появление способности к страданию с возникновением феноменального Эго; страдание начинается в Туннеле Эго. Оно также принципиально аргументирует неприемлемость создания искусственного сознания в качестве цели академического исследования. Альберт Камю говорил о солидарности всех конечных существ в их противостоянии смерти. В том же смысле, все разумные существа, способные к страданию, должны быть солидарны в противостоянии страданию. Исходя из этой солидарности, мы должны воздержаться от предприятия чего бы то ни было, что могло бы увеличить общее количество страдания и растерянности во вселенной. По мере того, как возникают теоретические сложности всевозможных типов, мы хотя бы можем прийти к согласию по поводу того, чтобы не увеличивать без необходимости общее количество страдания во вселенной. А создание Эго Машин, судя по всему, будет делать это с самого начала. Мы могли бы приступить к созданию страдающих постбиотических Эго Машин до обретения понимания того, какие свойства нашей биологической истории, наших тел и мозгов, являются корнями нашего собственного страдания. Предотвращение и минимизация страдания, где это только возможно, также включает в себя этику принятия риска: Я уверен, что мы не должны даже рисковать с созданием искусственных феноменальных себя-моделей.

Наше внимание лучше бы направить на понимание и нейтрализацию нашего собственного страдания — это касается философии, равно как и когнитивной нейробиологии и области искусственного интеллекта. До тех пор, пока мы не станем существами более счастливыми, чем были наши предки, нам следует отказаться от любой попытки навязать структуру нашего ума системам с искусственным носителем. Я настаиваю на том, что нам следует ориентироваться на классическую философскую цель самопознания и придерживаться, по крайней мере, минимального этического принципа уменьшения и предотвращения страдания вместо безответственного зачатия эволюции второго порядка, которая может выйти из под контроля. Если и существует запретный плод в современных исследованиях сознания, то это беззаботное умножение страдания через создание искусственных Эго Туннелей без ясного понимания последствий.

Сам по себе напрашивается следующий гипотетический вопрос: Если бы мы могли, с другой стороны, увеличить общее количество наслаждения и радости во вселенной, заселив её саморазмножающимися и блаженствующими постбиотическими Эго Машинами, должны ли мы были бы поступить так?

Предположение о том, что первые поколения искусственных Эго Машин будут напоминать умственно отсталых человеческих младенцев и принесёт больше боли, смятения и страдания чем удовольствия, радости или понимания во вселенную, может оказаться эмпирически ложным по некоторым причинам. Такие машины могут функционировать значительно лучше, чем мы предполагаем, и могут радоваться своему существованию в гораздо большей степени, чем мы предполагаем. Или, как агенты ментальной эволюции и инженеры субъективности, мы можем просто позаботиться о том, чтобы сделать такое допущение эмпирически ложным, конструируя только такие сознательные системы, которые не будут способны ни к феноменальным состояниям вроде страдания, ни к наслаждению существованием в гораздо большей степени, чем это имеет место быть у людей. Представьте, что мы смогли убедиться в том, что позитивные состояния такой машины перевешивают негативные, то есть, что она переживает своё существование как нечто очень ценное. Давайте будем называть такую машину Машиной Блаженства.

Если бы в наших силах было заселить физическую вселенную Машинами Блаженства, должны ли мы были бы так поступить? Если наша новая теория сознания внезапно позволила нам отвернуться от старомодных биологических Эго Машин, скованных ужасами своей биологической истории, и обратиться к Машинам Блаженства — должны ли мы следовать возможности?

Возможно, нет. Дело здесь, скорее, в стоящем существовании или стоящей жизни, чем в субъективном переживании. Этика умножения искусственных или постбиотических систем не может быть сведена к вопросу о том, как именно выглядит реальность или существование системы для самой системы. Заблуждение может порождать блаженство. Неизлечимый пациент, больной раком, под воздействием высокой дозы морфина и улучшающих настроение препаратов может иметь очень позитивный образ себя, точно так же, как зависимые от наркотиков могут оставаться способными функционировать даже на финальных стадиях. Человеческие существа веками пытались превратиться из Эго Машин в Машины Блаженства, будь то посредством фармакологии или через принятие системы метафизических верований и практику изменяющих сознание техник. Почему, в общем, у них не получилось?

В своей книге Анархия, Государство и Утопия, поздний политический философ Роберт Нозик предложил следующий мысленный эксперимент: У вас есть возможность прикрепиться к «Машине Опыта», которая будет поддерживать вас в состоянии постоянного счастья. Вы бы согласились? Любопытно, что Нозик обнаружил, что большинство людей не согласились бы оказаться прикрепленными к такой машине. Причина этого в том, что большинство из нас не ценят блаженство как таковое, но желают, чтобы оно было основано на истинном, добродетельном, художественном достижении или некоем роде высшего блага. То есть, мы хотим, чтобы наше блаженство было оправдано. Мы не желаем быть заблуждающимися Машинами Блаженства, но хотим быть сознательными субъектами, которые счастливы обоснованно, которые сознательно переживают существование как нечто стоящее. Нам нужно экстраординарное озарение в действительности, нравственной ценности или красоты как объективных фактов. Нозик позиционировал эту реакцию в качестве опровержения гедонизма. Он настаивал на том, что у нас нет потребности в чистом счастье, как таковом, при отсутствии действительной связи с более глубокой реальностью — даже если субъективное переживание таковой, в принципе, может быть симулировано. Вот почему большинство из нас, согласно второй мысли, не выразило бы желания заполнить физическую вселенную блаженствующими искусственными Эго Машинами — по крайней мере, не в том случае, если сознание этих машин постоянно пребывало бы в состоянии самообмана. Это приводит к другому аспекту: Всё, что мы узнали из прозрачности феноменальных состояний, однозначно свидетельствует в пользу того, что «действительный контакт с реальностью» и «подлинность» также могут быть симулированы и что природа уже проделала это в наших мозгах, создав Туннель Эго. Просто подумайте о галлюцинативном переживании бытия агентом или о феномене ложных пробуждений в контексте исследований сна. Действительно ли мы находимся в состоянии непрерывного самообмана? Если мы всерьёз отнесёмся к вопросу о нашем счастье, мы должны быть абсолютно уверены в том, что не занимаемся систематическим самообманом. Не было бы хорошо иметь новую, эмпирически обоснованную философию ума и этически чувствительную нейробиологию сознания, которая могла бы помочь нам с этим проектом?

Я вернусь к моему раннему предостережению о том, что нам следует отказаться от предприятия чего бы то ни было такого, что могло бы увеличить общее количество страдания во вселенной. Я не настаиваю на том, что сознательный опыт человеческого разнообразия является чем-то негативным или совершенно вне интересов субъекта опыта. Я уверен, что это важный и, к тому же, всё ещё открытый вопрос. Я настаиваю на том, что мы не должны зачинать эволюцию искусственных Эго Машин ввиду того, что у нас нет ничего кроме функциональной структуры и примера наших собственных феноменальных умов. Следовательно, мы скорее породим не просто копию нашей собственной психологической структуры, но неполноценную копию. Опять таки, это замечание относится к области этики принятия риска.