Искусственный ты. Машинный интеллект и будущее нашего разума - Сьюзан Шнайдер

памятью, в частности болезни Альцгеймера и посттравматического стрессового расстройства, а такие компании, как Kernel и Neuralink, собираются создавать средства для расширения возможностей мозга на основе ИИ.

Так вот, в придуманной нами фирме iBrain ученые пытаются создать чипы, которые будут функциональными изоморфами различных частей мозга, например клауструма. Они планируют постепенно заменять части мозга новыми долговечными микрочипами. Как и в прошлый раз, вы будете бодрствовать во время операции и рассказывать об изменениях ощущаемого качества своего сознания. Цель ученых здесь – узнать, затронула ли болезнь какой-нибудь аспект вашего сознания. Они надеются отладить нейронные протезы для тех областей мозга, которые отвечают за сознание.

Если в ходе операции какая-нибудь протезируемая часть мозга перестанет нормально функционировать – т. е. перестанет поддерживать тот аспект сознания, за который она отвечает, – то это должно быть заметно по внешним проявлениям, включая ваши сообщения. Нормальная в остальных отношениях личность должна заметить (или как минимум продемонстрировать отклонения в поведении), что что-то не так, как происходит в случае травматического повреждения мозга, приводящего к потере сознания в какой-то области.

Подобные нарушения показывают, что протез не заменяет в полной мере оригинальный биологический компонент, и проводящие эксперимент ученые могут сделать вывод: микрочипы такого типа, судя по всему, не годятся для нейронного протезирования. Такая процедура помогает выяснить, может ли чип из определенного материала определенной архитектуры поддерживать сознание, по крайней мере в более масштабной системе, заведомо обладающей сознанием[47].

И неудача, и успех такого эксперимента позволяют понять, может ли ИИ обладать сознанием. Рассмотрим возможные выводы из отрицательного результата. Неудача одной-единственной замены была бы неубедительной. Разве можно сказать после нее, что кремний – неподходящий субстрат для осознанных переживаний? Может, разработчики чипа просто упустили из виду какое-то ключевое свойство и не заложили его в кремниевый прототип? Такая проблема устраняется со временем. Но после нескольких лет попыток и неудач исследователи могут резонно задаться вопросом, действительно ли такие чипы подходят для замены элементов мозга, когда речь идет о сознании.

Пойдем дальше. Если представить, что аналогичные испытания проведены со всеми возможными субстратами и конструкциями чипов, то общая неудача серии экспериментов станет признаком того, что ИИ не может, в сущности, обладать сознанием. После этого мы можем по-прежнему рассматривать самосознающий ИИ как вероятный в принципе, но с практической точки зрения – с позиции наших технических возможностей – нереализуемый. Не исключено, что построение сознания на другом субстрате вообще противоречит законам природы.

Ну а если какая-то разновидность микрочипа сработает? Тогда появляются основания считать, что такого рода чип – это то, что нужно, хотя не следует забывать, что такой вывод относится, строго говоря, только к конкретному микрочипу. Более того, даже если какой-то тип микрочипов работает в случае людей, неизвестно, подходит ли когнитивная архитектура искина для сознания. Даже если чипы работают при имплантации людям, нельзя считать априори, что все искины, построенные на этих чипах, будут обладать сознанием.

Итак, какова ценность теста на пригодность чипа? Если какая-то разновидность микрочипа пройдет этот тест после встраивания в биологическую систему, нам следует внимательно присмотреться ко всем искинам, построенным на этих чипах, и задуматься о том, нет ли у них признаков сознания. Затем нужно провести другие тесты на машинное сознание, такие как ACT-тест, по крайней мере если они применимы. Более того, если тест на пригодность выдерживает только одна разновидность микрочипа, это может означать, что чипы именно этого типа необходимы для машинного сознания. Тогда «необходимым условием» синтетического сознания станет наличие у искина хотя бы одного такого микрочипа. Иначе говоря, присутствие подобных микрочипов будет обязательным для всех самосознающих машин – как атомы водорода обязательно присутствуют в любой молекуле воды H2O.

Тест на пригодность чипа может обратить наше внимание на случаи, которые, в принципе, мог бы упустить ACT-тест. Не исключено, например, что нелингвистическое, чувственное сознание, – такое, как у животного, – может быть построено из чипов, выдержавших тест на пригодность. Однако такому искину может не хватить интеллектуальной сложности, чтобы пройти ACT-тест. У него может не оказаться даже поведенческих маркеров сознания, используемых в нелингвистическом варианте ACT-теста, таких как оплакивание умерших. Тем не менее он может все же обладать сознанием.

Тест на пригодность чипа дал бы серьезный толчок не только ИИ-исследованиям, но и нейробиологии. В зависимости от того, куда помещается нейронный протез, он может отвечать за способность человека пропускать информацию в сознание или способность к бодрствованию или возбуждению (как стволовая часть мозга), а также быть тем, что называют нейронным коррелятом сознания. Нейронный коррелят сознания – это наименьший набор нейронных структур или событий, достаточный для того, чтобы человек обладал памятью или осознанным восприятием[48] (см. рис.).

Кроме того, предположим, что осознанное переживание неврологического пациента может быть полностью восстановлено при помощи чипа-протеза, помещенного в определенную часть мозга. Успешность подобных операций покажет нам, какой уровень функциональной связности необходим для нейронной основы сознания в данной части мозга. Это, предположительно, поможет также определить уровень функциональной детализации, необходимой для обеспечения синтетического сознания, которое создается методом обратного проектирования по образу мозга, хотя «глубина детализации» функциональной модели может меняться от одной части мозга к другой.

Третий тест на искусственное сознание так же актуален, как и тест на пригодность чипа. На его создание нас вдохновила общая информационная теория сознания, разработанная нейробиологом Джулио Тонони и его коллегами из Висконсинского университета в Мэдисоне. Эти исследователи перевели ощущаемое качество наших переживаний на язык математики.

Общая информационная теория сознания (ОИТС)

Тонони однажды столкнулся с пациентом в вегетативном состоянии, и эта встреча убедила его в необходимости разобраться в том, что такое сознание. «Это совершенно практические вещи, – сказал Тонони репортеру The New York Times. – Ощущают ли такие пациенты боль? Вы обращаетесь к научным данным, а они, по существу, ничего вам не говорят»[49]. Тонони глубоко увлечен философией, и отправной точкой его исследований является уже упоминавшаяся трудная проблема сознания, т. е. вопрос, как материя могла породить ощущаемое качество переживания.

Ответ Тонони состоит в том, что сознание требует высокого уровня «обобщения информации» в системе. Информация обобщается, когда состояния системы сильно взаимозависимы и характеризуются густой паутиной обратных связей[50]. Уровень обобщения информации может быть измерен и обозначается заглавной греческой буквой Φ (фи). В соответствии с ОИТС, зная величину Φ, мы можем определить, обладает ли система сознанием и насколько ее сознание развито.

По мнению ее сторонников, ОИТС потенциально способна служить тестом на синтетическое сознание: машины с достаточным уровнем Φ обладают сознанием. Подобно ACT-тесту, ОИТС отбрасывает поверхностные