Быть собой: новая теория сознания - Анил Сет

Более веский довод в пользу сознательных машин выдвигают сторонники теории интегрированной информации (ТИИ). Как мы помним из главы 3, ТИИ утверждает, что сознание и есть интегрированная информация и что объем этой информации, который производит система, полностью определяется свойствами его внутренних механизмов — «причинно-следственной структурой». Согласно ТИИ, любая машина, создающая интегрированную информацию, из чего бы сама эта машина ни состояла и как бы ни выглядела, будет в какой-то степени обладать сознанием. Однако ТИИ не исключает вероятность, что машина будет казаться стороннему наблюдателю сознательной или разумной (или и такой, и другой одновременно), но ее механизмы не будут создавать никакой интегрированной информации, и поэтому о сознании тут даже речи не зайдет[368].

Хотя ни та ни другая теория не отождествляет сознание с интеллектом, обе допускают, что машины, удовлетворяющие определенным условиям — правильному способу обработки информации или ненулевой информационной интегрированности, — будут обладать сознанием. Но, конечно, чтобы согласиться с этими допущениями, нужно принимать и сами теории.

* * *

Теория животного-машины основывает восприятие нами мира и себя на биологическом стремлении к физиологической целостности — к тому, чтобы оставаться живым. Что говорит эта теория о вероятности появления сознательных машин?

Представьте себе робота из ближайшего будущего — с кремниевым мозгом и человекоподобным телом, оснащенного всевозможными датчиками и эффекторами (исполняющими элементами). Этот робот управляется искусственной нейросетью, разработанной по принципам прогнозной обработки и активного вывода. Поток сигналов, проходящих через его контуры, воплощает порождающую модель его среды и его собственного тела. Робот постоянно обращается к этой модели, выдвигая наиболее вероятные байесовские предположения об источниках и причинах своей входящей сенсорной информации. Эти синтетические контролируемые (и контролирующие) галлюцинации направлены по замыслу своему на то, чтобы поддерживать оптимальное функциональное состояние робота, то есть позволять ему оставаться, по его собственным представлениям, «живым». У него имеются даже искусственные интероцептивные входящие данные, сигналящие об уровне заряда его батарей и целостности его приводных механизмов и синтетических мышц. Ориентированные на контроль наиболее вероятные предположения об этих интероцептивных входящих данных генерируют синтетические эмоциональные состояния, которые направляют и мотивируют его поведение.

Этот робот действует независимо, делая то, что нужно, тогда, когда нужно, чтобы выполнить свои задачи. Тем самым внешне он производит впечатление разумного, чувствующего деятеля. Внутренние же его механизмы непосредственно сопоставимы с прогнозным аппаратом, который, как я предполагаю, находится в основе базового чувства телесного воплощения и ощущения себя собой у человека. То есть перед нами кремниевая машина-животное.

Обладает ли такой робот сознанием?

Неудовлетворительный, но честный ответ: наверняка я сказать не могу, но предполагаю, что нет. Из теории животного-машины следует, что сознание у человека и других животных развилось в ходе эволюции, возникает у каждого из нас в ходе онтогенеза (индивидуального развития особи) и в своей непрерывной работе тесно сопряжено с нашим статусом живой системы. Все наше восприятие и все наши ощущения продиктованы нашей природой автономных самоподдерживающихся живых машин, которым важно и дальше оставаться живыми. Я предполагаю (и снова это не более чем интуитивное предположение), что материальная сторона жизни окажется важна для всех проявлений сознания. Одно из оснований так полагать заключается в том, что побуждение к регуляции и самоподдержанию в живых системах не ограничено единственным уровнем, таким как сохранение целостности организма. Самоподдержание у живых систем пронизывает все уровни, вплоть до клеточного. Каждая клетка нашего тела (и какого угодно другого) постоянно воспроизводит условия, необходимые для дальнейшего поддержания ее целостности[369]. Этого нельзя сказать ни о каком компьютере — ни современном, ни ожидающемся в ближайшем будущем — и даже о тех кремниевых животных-машинах, которые я описывал выше.

Из этого не стоит делать вывод, будто я утверждаю, что клетки организма обладают сознанием или что сознание имеется у всех живых существ. Моя мысль состоит в том, что процессы физиологической регуляции, которые теория животного-машины считает фундаментальными для сознания и ощущения себя собой, вырастают из основополагающих жизненных процессов, отмечаемых «на всех уровнях». С этой точки зрения искру сознания в уравнениях высекает жизнь, а не обработка информации.

* * *

Даже если до машин, действительно обладающих сознанием, еще далеко (если, собственно, они на самом деле возможны), нам все равно еще о многом нужно беспокоиться. Вполне вероятно, что в ближайшем будущем уровень развития ИИ и робототехники приведет к появлению новых технологий, которые будут казаться сознательными, даже если у нас не будет безоговорочных оснований считать их сознательными на самом деле.

В фильме Алекса Гарленда «Из машины» 2014 г. нелюдимый технический гений-миллиардер Нейтан приглашает крутого программиста Калеба в свою уединенную резиденцию и знакомит со своим творением — любознательным умным роботом Авой. Задача Калеба — выяснить, наделена ли Ава сознанием, или она просто умный автомат, не имеющий внутренней психической жизни.

В фильме активно используется тест Тьюринга[370], знаменитый инструмент для выявления у машины мыслительных способностей. В одной яркой сцене Нейтан экзаменует Калеба на знание этого теста. В стандартной версии теста, как известно Калебу, оценивающий человек тестирует одновременно и претендующую на разумность машину, и другого человека удаленно, обмениваясь только печатными сообщениями. Для машины тест считается пройденным, когда оценивающий многократно затрудняется отличить ответ машины от ответа человека. Однако Нейтан придумал кое-что поинтереснее. «Мы посмотрим, — говорит он Калебу, — будете ли вы, даже зная, что она робот, воспринимать ее как сознательную личность».

Эта новая игра превращает тест Тьюринга из теста на интеллект в тест на сознание, а это, как мы теперь знаем, явления совершенно разные. Более того, Гарленд показывает нам, что тест в действительности направлен не на робота. Как объясняет Нейтан, главное не в том, машина Ава или нет. И даже не в том, обладает ли машина Ава сознанием. Главное — может ли Ава создать у обладателя сознания впечатление, что она тоже сознательна. Обсуждение этого момента Нейтаном и Калебом гениально, поскольку оно раскрывает, в чем на самом деле заключается тест: это проверка не для машины, а для человека. Это относится и к изначальному тесту Тьюринга, и к созданному Гарлендом в XXI в. аналогу, ориентированному на сознание. Диалог между героями фильма настолько элегантно и точно описывает проблему признания машины сознательной, что сейчас постепенно набирает популярность термин «тест Гарленда»[371] — редкий пример ситуации, когда научная фантастика не только заимствует что-то у науки, но и отдает.

Многие простые компьютерные программы, в том числе разнообразные чат-боты, сейчас объявляются проходящими тест Тьюринга, поскольку им в достаточном числе