Быть собой: новая теория сознания - Анил Сет

означает, что он верен. Я не вижу безоговорочных доводов ни за, ни против представления о том, что сознание независимо от субстрата или что все дело исключительно во взаимодействии ввода-вывода, в «обработке информации». Я отношусь к функционализму с агностической настороженностью.

Сознание у компьютера с искусственным интеллектом появится только в том случае, если функционализм все-таки состоятелен как теория. Это необходимое условие. Но состоятельность функционализма как таковая — это еще не все: одной только обработки информации для возникновения сознания недостаточно. Вторая концепция гласит, что та обработка информации, которой достаточно для появления сознания, лежит в основе интеллекта. Эта концепция подразумевает, что сознание и интеллект связаны самым тесным, даже, пожалуй, конститутивным образом, и поэтому сознание к разуму просто приложится.

Но эта концепция тоже довольно шаткая. Как мы видели в предшествующей главе, склонность объединять сознание с интеллектом восходит к пагубному антропоцентризму, в силу которого мы видим мир в кривом зеркале наших собственных ценностей и опыта. Мы сознательны, мы разумны и настолько превозносим свою самопровозглашенную разумность, что не способны отделить интеллект от статуса обладателей сознания, и наоборот.

Хотя интеллект предлагает богатую палитру разветвленных состояний сознания для сознательных живых существ, было бы ошибкой полагать разум (по крайней мере развитые его формы) необходимым или достаточным условием для сознания. Если мы продолжим исходить из того, что сознание по природе своей связано с интеллектом, то поспешим усмотреть сознание у искусственных систем, которые кажутся разумными, и отказать в нем другим системам (другим животным, например), которые не соответствуют нашим небесспорным человеческим критериям разумности.

За последние несколько лет эти концепции, касающиеся необходимости и достаточности, облепила и вынесла на передний край лавина прочих опасений и ложных представлений, придавая перспективе появления искусственного сознания излишнюю остроту и апокалиптический накал.

Перечислю некоторые из этих опасений. Одно из них заключается в том, что ИИ — неважно, обладающий сознанием или нет, — вот-вот выйдет из-под контроля и восторжествует над человеческим разумом, поднявшись до вершин, находящихся за пределами нашего понимания и контроля. Это так называемая гипотеза сингулярности, популяризированная футурологом Рэем Курцвейлом и движимая необычайным ростом первичных вычислительных ресурсов за последние несколько десятилетий[364]. Где мы находимся на кривой этого роста? Проблема с кривыми экспоненциального роста, как многие успели убедиться за пандемию коронавируса, состоит в том, что из любой точки на этой кривой кажется, что дальше она резко уходит вверх, а позади стелется почти полого, поэтому узкий взгляд не позволяет определить, где мы сейчас. Второе опасение — это прометеев страх, что наши создания так или иначе ополчатся на нас самих, — страх, который уловили и скармливают нам же в новой яркой обертке фантастические фильмы и литература. И наконец, опасения множит то прискорбное обстоятельство, что термин «сознание» лепится применительно к способностям машин как и куда попало. Некоторые, в том числе и ряд исследователей ИИ, готовы считать сознательным все, что откликается на стимулы, чему-то обучается или ведет себя так, чтобы максимизировать вознаграждение или достичь цели. На мой взгляд, это не более чем нелепая натяжка, нарушающая логику «обладания сознанием».

Смешайте все эти представления, и сразу станет понятно, почему многим кажется, что до сознательного ИИ буквально рукой подать и что нам нужно сильно опасаться его появления. Полностью исключать эту вероятность нельзя. Если адепты сингулярности окажутся правы, то нам действительно пора будет заволноваться. Но с той точки, где мы находимся сейчас, такая перспектива представляется крайне маловероятной. Гораздо более вероятна ситуация, показанная на рис. 21. Здесь сознание не определяется интеллектом, а интеллект может существовать и без сознания[365]. Оба имеют множество разновидностей и множество разных измерений и граней выражения, то есть ни для сознания, ни для интеллекта не существует единой мерки[366].

Рис. 21. Сознание и интеллект разделимы и многомерны, как можно судить по позициям животных и машин (действительных и вымышленных) на этой схеме

На этой схеме видно, что сейчас ИИ находится практически в самом начале оси интеллекта. Это потому, что пока неясно, считать ли имеющиеся системы ИИ разумными в каком бы то ни было значимом смысле. Большую часть современного ИИ правильнее всего характеризовать как высокоуровневое машинное распознавание образов, возможно слегка приправленное планированием деятельности. Эти системы, неважно интеллектуальные или нет, работают без каких бы то ни было проявлений сознания.

Дальше на этой же оси располагается декларируемая многими исследователями ИИ амбициозная цель — разработать системы со способностями общего интеллекта как у человека, так называемый общий искусственный интеллект, или общий ИИ. А за этой вехой лежит терра инкогнита постсингулярного интеллекта. Но ни на каком этапе этого пути нельзя гарантированно утверждать, что сознание «просто приложится». Более того, на свете может быть много разновидностей интеллекта, отличающихся от человеческого и при этом дополняющих, а не заменяющих или усиливающих наш видоспецифичный когнитивный инструментарий, — и они тоже могут обходиться без сознания.

Возможно, выяснится, что определенные разновидности интеллекта без сознания все же не обходятся, но даже если так, это не значит, что сознания — после преодоления какого-то пока еще неизвестного порога — требуют все варианты интеллекта. И наоборот, может статься, что все сознательные существа хотя бы немного разумны, если определять интеллект достаточно широко. Но и в этом случае он не превращается в ковровую дорожку к сознанию.

Компьютеры не станут чувствующими только оттого, что поумнеют. Однако это не значит, что машинное сознание невозможно в принципе. Не попробовать ли нам встроить в них сознание с самого начала? Что (если интеллекту мы в этой роли отказываем) понадобится нам, чтобы создать сознательную машину?

* * *

Ответ на этот вопрос зависит от того, что вы считаете достаточным для признания системы сознательной, а это, в свою очередь, зависит от теории сознания, которой вы придерживаетесь. Поэтому такой большой разброс мнений по поводу необходимых условий для наличия сознания неудивителен.

На самом либеральном полюсе этого спектра находятся рассуждающие с функционалистских позиций, полагающие, что главное в сознании — правильная обработка информации. Она не обязательно тождественна «интеллекту», и тем не менее это обработка информации, а значит, ее можно внедрять в компьютерах. Например, согласно концепции, изложенной в журнале Science в 2017 г., машину можно назвать сознательной, если ее способ обработки информации подразумевает «глобальную доступность» этой информации и «самомониторинг» исполнения. Из статьи нельзя понять, действительно такая машина будет сознательной или просто будет вести себя так, будто обладает сознанием[367], но в любом случае эта концепция