Вы не гаджет. Манифест - Джарон Ланир

После того как вы проделали все это, стала ли гроза разумной? А душа у нее есть?

Метафизическая игра в наперстки

Альтернатива посыпания волшебной пылью людей — сыпать ее на компьютеры, цифровой улей-мозг, облако, алгоритм или иной кибернетический объект. Тут самое время задать вопрос: какой из вариантов безумнее?

Если вы пытаетесь убедить себя, что в таком понятии, как сознание, нет ничего волшебного, волшебство, которое в нем присутствует, может неожиданно возникнуть в ином месте в самый неподходящий момент и повредить вашей объективности ученого. Вы ввязываетесь в метафизическую игру в наперстки, от которой голова пойдет кругом. Например, вы можете предположить, что сознание — это иллюзия, однако по определению сознание — это понятие, которое не становится менее значимым, даже если оно иллюзия.

Сознание и время неким образом взаимосвязаны. Если вы попытаетесь удалить из сознания потенциальный намек на волшебство, вы придете к абсурдному приписыванию волшебных качеств времени.

Сознание находится во времени, потому что вы не можете испытать отсутствие времени и не можете изведать будущее. Если сознание — это не более чем ложные мысли в компьютере, которым является ваш мозг или вселенная, тогда что же такое находится во времени? Настоящий момент — единственное, что могло бы в нем находиться, — должен в таком случае быть автономным объектом, независимым от того, как он ощущается.

Вследствие относительности и латентности мыслей, возникающих в мозгу, с научной точки зрения настоящий момент является примерным понятием. У нас нет возможности определить как отдельный глобальный физический, так и конкретный когнитивный настоящий момент. Однако должна существовать точка отсчета, пусть даже очень неопределенная, чтобы появилась возможность вообще говорить на эту тему.

Вероятно, вы можете вообразить себе настоящий момент как метафизическую метку, путешествующую сквозь вневременную версию реальности, в которой прошлое и будущее уже «зафиксированы», как записывающую головку, движущуюся по жесткому диску.

Если вы уверены, что ощущение времени является иллюзией, то все, что у вас остается, — это само время. Нечто должно находиться в чем-то вроде метавремени, чтобы иллюзия настоящего момента имела место быть. Вы убеждаете себя, что время само путешествует сквозь реальность. Это абсурдная, закольцованная мысль.

Называть сознание иллюзией значит придавать времени сверхъестественное качество. Возможно, это некий призрачный недетерминизм. Либо вы можете выбрать другой стаканчик в игре и сказать, что время это естественно (не сверхъестественно), а настоящий момент — всего лишь вероятная концепция, возникшая благодаря сознанию.

Волшебную сущность можно тасовать как угодно, но когда остается волшебный след, лучше было бы просто ее принять, чтобы иметь возможность максимально ясно говорить о множестве вещей, которые действительно можно методично изучать или конструировать.

Признаю, когда вы допускаете законность существования метафизической идеи (например, потенциальную возможность сознания быть чем-то за пределами вычислений), возникает определенная опасность. Как бы вы ни старались не наполнять волшебство суевериями, вы можете подтолкнуть некоторых фундаменталистов или романтиков новой эры проповедовать странные убеждения. «Какой-то компьютерный гений в дредах говорит, что сознание может быть больше, чем компьютер? Значит, моя пищевая добавка точно работает!»

Однако в том, что инженер притворяется, будто знает больше, чем на самом деле, есть гораздо более серьезная опасность, особенно когда он может подкрепить иллюзию вычислениями. Кибернетические тоталитаристы, ожидающие пришествия сингулярности, безумнее, чем приверженцы пищевых добавок.

Армия зомби

Проникают ли фундаментально метафизические — или предположительно антиметафизические — поверья в практические аспекты нашего мышления или личности? Да, проникают. Они могут превратить личность в то, что философы называют зомби.

Зомби часто встречаются в философских мысленных экспериментах. Они в точности такие же, как люди, только без внутреннего опыта. Они бессознательны, но внешне это никак не проявляется. Зомби сыграли выдающуюся роль пищи для риторики вокруг проблемы «тело — разум» и исследований сознания. Было много споров о том, могут ли существовать настоящие зомби или внутренний субъективный опыт неизбежно скажется на внешнем поведении или каким-то образом приведет к измеримым процессам в мозгу.

Я утверждаю, что между зомби и личностью есть одно ощутимое различие: у зомби другая философия. Следовательно, зомби могут быть обнаружены только в том случае, если они профессиональные философы. Философы вроде Дэниэла Деннета, очевидно, являются зомби.

Не существует симметричных отношений между нами и зомби. К несчастью, лишь незомби в состоянии наблюдать симптомы зомбирования. Для зомби все выглядят одинаково.

Если в нашем мире существует достаточно зомби, я начинаю беспокоиться о потенциале самосбывающегося предсказания. Может, если люди притворяются, что они бессознательны или не имеют свободы воли, или что облако онлайн-людей есть личность, или если они полагают, что нет ничего особенного в перспективе индивидуальности, тогда, наверное, мы в состоянии именно этого добиться. Мы могли бы совместно добиться антиволшебства.

Люди свободны. Мы можем покончить с собой во благо сингулярности. Мы можем изменить свои гены, чтобы лучше поддерживать воображаемый коллективный разум. Мы можем превратить культуру и журналистику в занятия третьего сорта и провести столетия, перемешивая останки 1960-х и других эпох, до того как индивидуальное творчество вышло из моды.

Либо мы можем верить в самих себя. Случайно может оказаться, что мы реальны.

Глава 3

Ноосфера — просто другое название внутреннего тролля

Некоторые из выдуманных объектов кибернетического тотализма (вроде ноосферы, которая предположительно является глобальным мозгом, состоящим из мозгов всех людей, соединенных посредством Сети) мотивируют неудачные технологические построения. Так, конструкции, в центре которых лежит идея ноосферы, имеют тенденцию возбуждать внутреннего тролля, или попросту плохое в человеке.

Моральный императив создать безликую, насколько это возможно, Библию

В соответствие с новым учением мы, технологи, превращаем самих себя, планету, наш вид, вообще все во внешние устройства, подключенные к огромным вычислительным облакам. Теперь все происходит не с нами, а с огромным вычислительным объектом, который больше нас.

Коллеги, с которыми я не согласен, часто рассматривают наши дискуссии как спор между луддитом (это я-то луддит?) и будущим. Но ведь возможно более одного варианта технологического будущего, и спор должен вестись о том, как лучше выявить и как лучше поступить с теми свободами, которые у нас еще остались, а не о том, кто из нас луддит.

Некоторые утверждают, что скептики вроде меня, подвергающие сомнению единственно верный путь, похожи на высохших средневековых служителей церкви, боровшихся с печатным прессом Иоганна Гутенберга. Нас обвиняют в том, что мы боимся перемен, точно так же как средневековая церковь боялась печатного пресса. (Нам могут также заявить, что такие, как мы, репрессировали бы Галилея или Дарвина.)

Все эти критики забывают, что сам по себе печатный пресс не дает гарантии просвещенного исхода. Ренессанс был сделан руками людей, а не машинами. К примеру, сегодняшняя печатная продукция Северной Кореи — не более чем пропаганда культа личности. В печатных прессах важны авторы, а не машина.

Как только речь заходит об авторстве, Кремниевую долину охватывает непреодолимая потеря слуха. Это стало абсолютно ясным, когда Джон Апдайк и Кевин Келли в 2006 году обменялись взглядами на авторство. Кевин считает, что, когда все книги мира будут оцифрованы и доступны для поиска, а отрывки из них можно будет перемешать, они быстро станут «одной книгой» в универсальном вычислительном облаке, и что это не просто хорошо, но и является «моральным императивом».

Чтобы передать важность сохранения различий между отдельными авторами, Апдайк использовал метафору обрезов физического листа бумаги в физической книге. Это было бесполезно. Доктринеры-энтузиасты веб 2.0 лишь посчитали, что Апдайк излишне сентиментален в отношении старых технологий.

Тот подход к цифровой культуре, который я ненавижу, действительно превратит все книги в одну, как прогнозировал Кевин. Этот процесс может начаться уже в следующем десятилетии или около того. В ходе крупного «Манхэттенского проекта» оцифровывания культуры Google и другие компании сканируют библиотечные книги и помещают их в облако. Важно, что произойдет дальше. Если книги в облаке будут доступны через интерфейсы, поощряющие мэшапы фрагментов, которые скрывают контекст и авторство, останется лишь одна книга. Именно это сегодня происходит с большой долей контента; часто вы не знаете, откуда взята цитата в новостях, кто написал комментарий или снял видео. Продолжение существующего тренда сделает из нас что-то похожее на средневековую империю или Северную Корею — общество с единственной книгой.[10]