Искусственный ты. Машинный интеллект и будущее нашего разума - Сьюзан Шнайдер

импланты для лечения душевных расстройств – это лишь некоторые из преобразующих технологий, которые в настоящее время находятся в разработке. В будущем вполне может появиться Центр конструирования разума. Так что в нескольких следующих главах мы обратим взгляд внутрь и исследуем идею слияния человека с искусственным интеллектом, переноса личности на другой субстрат и обретения сверхразума. Как мы увидим, идея соединения человека с ИИ – это настоящее минное поле с классическими философскими проблемами, которые не имеют ясных решений.

Например, теперь, когда мы исследовали машинное сознание, можно по-настоящему оценить тот факт, что нам достоверно неизвестно, способны ли ИИ-компоненты эффективно заменить части мозга, отвечающие за сознание. Когда дело дойдет до такой замены, нейронное протезирование и нейронные импланты могут оказаться бессильны. В этом случае человек никогда не сможет безопасно слиться с ИИ, поскольку неизбежно потеряет самое главное в жизни – свое сознание.

В таком случае, наверное, преобразования мозга придется ограничить в каких-то отношениях. Во-первых, скорее всего, придется ограничиться теми частями мозга, которые точно не составляют нейронную основу осознанных переживаний. То есть в областях мозга, отвечающих за сознание, можно будет использовать только биологические компоненты. Во-вторых, не исключено, что в этих областях будут возможны наноизменения и даже использование наноразмерного ИИ при условии, что он лишь дополнит работу соответствующих областей мозга, а не возьмет ее на себя. Обратите внимание: в обоих случаях соединение или слияние человека и искина не рассматривается, хотя ограниченная интеграция все же возможна. Ни в том ни в другом сценарии никто не сможет загрузить свою личность в облако или заменить всю нервную ткань ИИ-компонентами. Но расширение других функций все же возможно.

В любом случае со временем появятся новые технологии, так что нельзя сказать наверняка, как будет развиваться ситуация. Если все же предположить дискуссии ради, что компоненты ИИ смогут заменять части мозга, отвечающие за сознание, то даже в этом случае, как показывает следующая глава, у нас будут причины сопротивляться слиянию с ИИ. Как и раньше, мы начнем с вымышленного сценария, придуманного, чтобы помочь вам разглядеть достоинства и недостатки радикального усовершенствования.

Глава 5

Могли бы вы слиться с ИИ?

Представим, что сейчас 2035 год. Вы технофил и потому решаете встроить себе систему мобильного интернет-подключения в сетчатку глаза, а через год расширяете свою кратковременную память при помощи нейронных схем. Вы теперь – официальный киборг. Перенесемся в 2045 год. Нанотехнологии позволяют вам продлить жизнь, и вы продолжаете использовать самые передовые и масштабные средства расширения возможностей организма.

К 2060 году, после ряда небольших, но совокупно очень глубоких изменений, вы уже «постчеловек». Постлюди – это существа будущего, которых уже нельзя однозначно идентифицировать как людей, поскольку их ментальные способности радикально превосходят возможности современного человека. К этому моменту ваш интеллект становится более совершенным уже не просто с точки зрения скорости ментальных вычислений; вы обретаете способность легко устанавливать многогранную связь образов и понятий, недоступную прежде. Обычные, «неулучшенные» люди, кажутся вам интеллектуально ущербными, у вас с ними мало общего, но вы, как трансгуманист, уважаете их право не расширять возможности своего мозга.

Наступил 2300 год. К глобальным техническим достижениям добавляется сверхразумный ИИ. Напомню, что сверхразумный искин радикально превосходит лучшие умы человечества практически во всех областях, включая научное творчество, здравый смысл и социальные навыки. Со временем постепенное добавление все более совершенных ИИ-компонентов стирает различие между вами и сверхразумным искином. Единственное, в чем оно сохраняется, – это происхождение. В отличие от искина вы когда-то были «натуралом». Но теперь вы почти целиком продукт высоких технологий. Вас теперь лучше характеризовать как представителя класса созданий с искусственным интеллектом. Вы полностью сливаетесь с ИИ.

В этом мысленном эксперименте речь идет об изменениях того рода, к которым стремятся трансгуманисты и известные технологические лидеры вроде Илона Маска и Рэя Курцвейла[57]. Хочу напомнить, что трансгуманисты намерены перепроектировать человеческий организм, мечтают о бессмертии и синтетическом разуме – и все это в стремлении повысить качество нашей жизни. Сторонников идеи о том, что людям следует слиться с ИИ, называют технооптимистами: они убеждены, что синтетическое сознание возможно. Кроме того, они считают возможным и слияние с ИИ. Если говорить конкретнее, они, как правило, предлагают следующую траекторию развития[58]:

Обычный человек XXI в. → значительная «модернизация» при помощи когнитивных и других физических усовершенствований → статус постчеловека → «сверхразумный искин».

Назовем точку зрения, согласно которой человек должен двигаться по такой траектории и слиться в конечном итоге с искусственным интеллектом, «фьюжен-оптимизмом». Технооптимизм в отношении машинного сознания не требует обязательного фьюжен-оптимизма, хотя многие технооптимисты и правда симпатизируют этим взглядам. Но фьюжен-оптимизм нацелен на создание будущего, где пресловутые постлюди – самосознающие существа.

У этой примерной траектории есть множество вариаций. Так, одни трансгуманисты считают, что переход от неусовершенствованного человеческого интеллекта к сверхразуму будет стремительным, поскольку мы приближаемся к сингулярности – моменту, когда создание сверхчеловеческого интеллекта вызовет громадные изменения за очень короткий промежуток времени (например, за 30 лет)[59]. Другие трансгуманисты утверждают, что технологические перемены не будут настолько внезапными. В этих дискуссиях часто обсуждается достоверность закона Мура[60]. Еще один ключевой вопрос – произойдет ли на самом деле переход к сверхразуму, ведь будущее технологическое развитие связано с серьезными рисками. Риски биотехнологий и ИИ касаются трансгуманистов и специалистов по биоэтике в целом в той же мере, что и биоконсерваторов[61].

Итак, следует ли нам пускаться в это путешествие? К несчастью, как бы притягательны ни были сверхчеловеческие способности, мы увидим, что даже мягкие усовершенствования мозга, не говоря уже о радикальных вариантах, могут оказаться рискованными. Существо, созданное в результате вашего «усовершенствования», может оказаться кем-то совсем другим. Иначе говоря, результат может обернуться вовсе не вашим усовершенствованием.

Что такое личность?

Чтобы понять, стоит ли себя усовершенствовать, сначала необходимо выяснить, что вы собой представляете. Что такое личность? А потом решить: продолжите ли вы после столь радикальных изменений существовать как эта личность? Или вам на смену придет кто-то другой – а то и что-то другое?

Чтобы принять подобное решение, нужно разобраться в метафизике своей идентичности, т. е. ответить на вопрос: благодаря чему или посредством чего конкретное «я», или личность, продолжает существовать?[62] Чтобы понять, о чем идет речь, рассмотрим существование обыденных предметов. Представьте кофемашину в своем любимом кафе. Представьте, что прошло пять минут и бариста выключает ее. Мысленно спросите у него, осталась ли кофемашина той же самой, что и пять минут назад. Скорее всего, он скажет, что ответ очевиден: машина продолжает существовать, хотя какое-то из