Быть собой: новая теория сознания - Анил Сет

* * *

Стремительное развитие ИИ, независимо от того, на какой горючей смеси ажиотажа и реального прогресса оно разгоняется, вынуждает нас снова и снова задумываться о его этической стороне. Немало опасений связано с социоэкономическими последствиями внедрения таких технологий ближайшего будущего, как самоуправляемые автомобили и замена работников предприятий автоматами, что неизбежно нарушит привычный нам уклад[382]. Нас закономерно тревожит делегирование принятия решений искусственным системам, внутренние процессы которых подвержены всевозможным искажениям и сбоям и при этом недостаточно прозрачны не только для пользователя, но и для разработчика. Самый острый вопрос в этой категории: какие ужасы нас ждут, если доверить искусственному интеллекту контроль над ядерным оружием или опорной сетью интернета?

Еще одна немаловажная этическая проблема — психологические и поведенческие последствия внедрения искусственного интеллекта и машинного обучения. Вторжение дипфейков в личное пространство, модификация поведения прогнозными алгоритмами, искажение убеждений в отфильтрованных информационных пузырях и герметичных камерах соцсетей — это лишь некоторые из множества сил, раздирающих ткань нашего общества. Потакая разгулу этих сил, мы добровольно уступаем свою идентичность и независимость безликим «дата-корпорациям» в ходе безграничного и бесконтрольного общемирового эксперимента[383].

На этом фоне обсуждение сознания у машин с точки зрения этики может казаться избыточным и слишком головоломным. Но это лишь видимость. Обсуждения необходимы, даже если у обсуждаемых машин сознания нет (пока). Когда тест Гарленда будет пройден, нам предстоит жить в одном мире с существами, которых мы будем воспринимать как обладающих субъективной внутренней жизнью, даже зная или веря, что она у них отсутствует. Психологические и поведенческие последствия этого соседства трудно спрогнозировать. Один из вероятных вариантов: мы научимся проводить границу между ощущениями и требуемыми поступками и нам будет представляться вполне естественным любить и окружать заботой человека, но не робота, даже если обладателями сознания покажутся оба. Как это отразится на психологии каждого отдельного человека, пока неясно.

В телесериале «Мир Дикого Запада» человекоподобных роботов специально производят как «груши для битья» — чтобы человек вымещал на них свои самые низменные инстинкты, издевался, убивал и насиловал. Можно ли, истязая робота, чувствовать в нем сознание, понимать, что это сознание лишь иллюзия, и сохранить при этом рассудок? Для нашего нынешнего склада ума и психики это будет откровенной социопатией.

Другой вероятный вариант состоит в том, что наш привычный круг морально-нравственных интересов исказит антропоцентрическая склонность больше сочувствовать существам, с которыми мы ощущаем большее сходство. В этом случае представители следующего поколения наших близнецов-геминоидов, возможно, станут нам ближе и дороже, чем другие люди, не говоря уже о других животных.

Конечно, будущее не обязательно должно оказываться антиутопией. Но, учитывая набирающую обороты гонку прогресса и ажиотажа в области ИИ, замешанная на психологии этика тоже должна будет сказать свое слово. Запустить новую технологию и сложа руки смотреть, что будет дальше, попросту неправильно. Начнем с того, что нам не стоит слепо и бездумно добиваться стандартной цели ИИ — воспроизвести, а затем превзойти человеческий интеллект. Как справедливо заметил Дэниел Деннет, мы создаем «разумные инструменты, а не коллег»[384], и об этой разнице нельзя забывать.

Перейдем теперь к варианту, при котором машины и вправду обретут сознание. Если мы действительно вольно или невольно внедрим в мир новые разновидности субъективного опыта, нам придется иметь дело с нравственно-этическим кризисом беспрецедентных масштабов. К статусу обладателя сознания непременно прилагается нравственный статус. Мы должны будем минимизировать потенциальные страдания сознательных машин точно так же, как мы должны минимизировать страдания живых существ, а нам и это не особенно удается. А с этими гипотетическими искусственно чувствующими деятелями возникает дополнительная трудность: мы можем даже не догадываться, как именно они ощущают свою сознательность. Представьте себе систему, испытывающую совершенно неведомые нам страдания, для которых у нас, людей, нет ни аналогов, ни понятий, ни инстинктов, позволяющих их распознать. Представьте себе систему, для которой в принципе не существует такого явления, как разница между положительными и отрицательными ощущениями, у нее просто соответствующего феноменологического измерения нет. Сложность в данном случае заключается в том, что мы даже не подозреваем, какие этические проблемы могут в связи с этим возникнуть.

Даже если до появления искусственного сознания еще по-прежнему далеко, об этой перспективе все равно нужно задуматься уже сегодня. И хотя мы не знаем, чего потребует создание сознательной машины, мы не знаем и другого — чего оно не потребует.

Именно поэтому в июне 2019 г. немецкий философ Томас Метцингер призвал немедленно объявить 30-летний мораторий на все исследования, направленные на формирование «синтетической феноменологии», как он ее обозначил[385]. Я присутствовал при этом заявлении. Мы оба выступали на конференции, посвященной искусственному сознанию, которую устраивал в Кембридже Центр Леверхульма по изучению будущего интеллекта. Призыву Метцингера трудно было бы последовать буквально, поскольку под его действие подпадает едва ли не все компьютерное моделирование в психологии, но идея понятна. Мы не должны бездумно ломиться вперед, пытаясь создать искусственное сознание просто потому, что нам это кажется интересным, полезным или крутым. Самая лучшая этика — профилактическая.

В дни расцвета витализма рассуждения об этике искусственной жизни казались, наверное, такими же нелепыми и надуманными, какими сейчас могут показаться рассуждения об этике искусственного сознания. И тем не менее прошло всего сто с небольшим лет, и у нас имеется не только глубокое понимание основ жизни, но и множество новых инструментов для ее модификации и даже создания. Мы владеем технологиями генной инженерии, такими как CRISPR, позволяющими с легкостью менять последовательности ДНК и функцию генов. Мы научились разрабатывать полностью синтетические организмы «с нуля», с генетического уровня: в 2019 г. кембриджские исследователи создали вариант бактерии Escherichia coli с полностью синтезированным геномом. Вопросы этичности создания новых форм жизни приобретают неожиданную остроту[386].

И возможно, именно биотехнологии, а не ИИ удастся максимально приблизить нас к синтетическому сознанию. Здесь особый интерес представляет такая разработка, как «органоиды головного мозга», — созданные из настоящих нейронов крошечные мозгоподобные структуры, которые выращиваются из человеческих плюрипотентных стволовых клеток (то есть тех, из которых способны развиться самые разные типы клеток организма). Эти органоиды, хотя и не являются «мини-мозгом» в буквальном смысле, все же обладают сходством с развивающимся мозгом, что позволяет использовать их как лабораторные модели медицинских состояний, при которых развитие мозга нарушается. Могут ли органоиды обладать примитивной разновидностью бестелесной осознанности? Исключать эту вероятность нельзя, тем более что у них зафиксированы согласованные волны электрической активности, напоминающие, как выяснилось в ходе недавнего исследования, аналогичные волны, наблюдаемые у недоношенных младенцев[387].