Наука о мозге и миф о своем Я. Тоннель эго - Томас Метцингер

При каких условиях будет справедливо предположить, что данная постбиотическая система имеет сознательный опыт? Или что она обладает осознаваемым «я» и действительно осознанно переживаемым взглядом от первого лица? Что превращает систему обработки информации в переживающий субъект? Все эти вопросы изящно сводятся к одному, провокационному: что требуется, чтобы создать искусственную эго-машину?

Наличие сознания означает, что вам доступен определенный набор фактов: а именно все те факты, которые относятся к вам, живущему в едином мире. Следовательно, всякой машине, наделенной сознательным опытом, потребуется цельная и динамическая модель мира. Я обсуждал эту мысль в главе 2, где указывал, что любой сознающей системе необходимо цельное внутреннее представление мира, и что соединенная в этом представление информация должна быть единовременно доступна множеству обрабатывающих механизмов. Это феноменологическое понимание настолько просто, что о нем часто забывают: сознающая система – это система, оперирующая глобально доступной информацией посредством единой внутренней модели реальности. В принципе, ничто не мешает наделить машину таким интегрированным внутренним образом мира и обеспечить его постоянное обновление.

Другая лекция, которую мы выучили в начале этой книги, состояла в том, что внутренняя суть сознания в присутствии мира. Эго-машина, чтобы мир ей явился, должна обладать еще двумя функциональными характеристиками. Первая состоит в том, что внутренний поток информации должен быть организован таким образом, чтобы производить психологический момент, переживаемое Сейчас. Этот механизм будет выбирать отдельные события из непрерывного потока данных о физическом мире и представлять их как одновременные (даже если они таковыми не являются), упорядоченные и протекающие в одном направлении последовательно, как мысленная цепочка жемчужин. Некоторые из таких жемчужин должны образовывать крупные гештальты, которые могут изображаться как переживаемое содержание определенного момента, как переживаемое Сейчас, источник субъективной перспективы во времени. Вторая характеристика должна обеспечить, чтобы искусственный осознанный субъект не распознавал эти внутренние структуры, то есть механизм окна в настоящее, как внутренне сконструированный образ. Они должны быть транспарентными. На этой стадии искусственной системе явится мир. Активация единой связной модели реальности во внутренне произведенном окне настоящего, при условии, что ни то ни другое не распознается как модель, приводит к тому, что мир является. В конечном счете, явление мира есть сознание.

Рис. 18b. Циклы действий робота во время движения. А и В: Синтез я-модели. Робот физически производит действие. А: Сначала действие производится случайным образом, затем выбирается лучшее из действий, найденное в стадии С. В: Затем робот генерирует несколько я-моделей, сравнивая сенсорные данные, собранные при выполнении предшествующего движения. Он знает, которая из моделей верна. С: Синтез экспериментальных данных. Робот гененрирует несколько возможных движений, сравнивая конкурирующие я-модели. D: Синтез целевого поведения. После нескольких циклов от А до С лучшая из наличных моделей используется для генерации оптимальной локомоторной последовательности. Е: Лучшая из локомоторных последовательностей выполняется физически5. Фото: Джош Бонгард

Но решающим шагом к эго-машине станет следующий. Если система сможет вписать в эту феноменальную реальность столь же транспарентный внутренний образ себя, она явится сама себе. Она станет эго-машиной и наивным реалистом в отношении всего, что говорит ей я-модель о себе. Наша эго-машина как бы «приклеится» к я-модели и поэтому отождествится с ней. Тогда искусственная система обретет феноменальное свойство самости, и она будет явлена себе не только как кто-то, но еще и как кто-то, пребывающий здесь. Система поверит в себя.

Обратите внимание, что этот переход превращает систему в объект моральных отношений. Теперь она потенциально способна страдать. Боль, отрицательные эмоции и прочие внутренние состояния, представляющие часть реальности как нежелательную, могут выступать причиной страданий только в том случае, если ими осознанно обладают. Система, не явленная себе, не может страдать, потому что не имеет чувства обладания. Система, в которой свет включен, но дома никого нет, не может быть объектом этических соображений; если у нее имеется минимальная осознаваемая модель мира, но нет я-модели, мы в любой момент вправе вытащить вилку из розетки. А вот эго-машина может страдать, поскольку интегрирует болевые сигналы, состояния эмоционального расстройства и негативные мысли в свою транспарентную я-модель, после чего они становятся чьими-то негативными ощущениями или болью. Идентификация как бы прочно встроена, вынужденная эволюцией. Тут встает важный вопрос этики животных: сколько из сознающих биосистем нашей планеты – всего лишь машины феноменальной реальности, а сколько из них – настоящие эго-машины? Сколько из них – и это главный пункт, о котором идет речь, – способны к осознанно переживаемому страданию? Относится ли к таким роботаракан? Или только млекопитающие, такие как макаки и котята, приносимые в жертву научным исследованиям? Очевидно, если этот вопрос не поддается решению на эпистемологических или эмпирических основаниях, излишняя осторожность всегда лучше, чем недостаточная. Так же, как и в случае с ядерной энергией, речь идет о том, чтобы минимизировать риск, который хоть и невелик, но простирается на очень долгое время. Именно на этой стадии развитие всякой теории сознающего разума становится объектом этики и философии морали.

Эго-машина обладает еще и перспективой. Ее базовая версия должна, во всяком случае, также знать, что у нее есть перспектива за счет осознания факта, что она направлена. У нее должна быть способность к развитию внутренней картины динамических отношений с другими существами или объектами во внутренней или внешней среде, едва они попадут в ее поле восприятия или вступят во взаимодействие. Если нам удастся построить системы такого типа или дать им развиться, то они будут воспринимать себя взаимодействующими с миром – например, направляющими внимание на яблоко в руке или формирующими мысль о человеке как действующем лице, с которым система в этот момент общается. Она будет воспринимать себя направленной на определенные целевые состояния, представленные в ее я-модели. Она будет воспринимать мир таким, который включает в себя не просто Я, а и воспринимающее, взаимодействующее целенаправленное активное лицо. Она даже может иметь на высоком уровне концепцию себя как субъекта знания и опыта. В четвертой главе мы увидели, что по-настоящему интересная форма субъективности возникает именно тогда, когда система репрезентирует себя репрезентирующей.

Все, что можно репрезентировать (представить), можно реализовать. Описанные выше шаги описывают новые формы того, что философы называют репрезентационным контентом, и нет причин, по которым бы этот контент должен быть доступен только живым системам. Известный математик Алан М. Тьюринг в своей знаменитой работе 1950 года «Вычислительные машины и разум» выдвинул аргумент, позже подхваченный выдающимся философом Карлом Поппером в книге «Самость и ее мозг», написанной им в соавторстве с нобелевским лауреатом, нейроученым сэром Джоном Экклзом. Поппер писал: «Тьюринг (1950) сказал приблизительно так: точно определите, в чем, по-вашему, человек превосходит компьютер, и я построю компьютер, который опровергнет вашу уверенность. Не стоит принимать вызов Тьюринга: в принципе, любая достаточно точная спецификация может быть запрограммирована»6.

Конечно, это не «я» использует мозг (как думал Поппер) – а мозг использует я-модель. Но что ясно видел Поппер, так это диалектику искусственной эго-машины: либо вы не можете точно определить, что именно из человеческого сознания и субъективности невозможно ввести в искусственную систему, либо, если это определено, вопрос лишь в составлении алгоритма и написании программы. В 1922 году Людвиг Витгенштейн писал в предисловии к «Логико-философскому трактату»: «Все то, что может быть сказано, должно быть сказано ясно». Если у вас есть точное определение сознания и субъективности в каузальных терминах, значит, у вас есть то, что философы называют «функциональный анализ». С этого момента тайна испаряется, и искусственная эго-машина становится в принципе технологически достижимой. Но следует ли делать то, что мы сделать можем?

Рассмотрим мысленный эксперимент, направленный не на философию, а на этику. Представьте, что вы член комиссии по этике, рассматривающей заявку на научный грант. В ней говорится: