Вы не гаджет. Манифест - Джарон Ланир

Если бы команда Deep Blue не была столь успешна в решении программной задачи, компьютер все равно бы победил позже — просто за счет огромной вычислительной мощности. Таким образом, интрига была не в том, выиграет ли когда-либо компьютер у лучшего игрока-человека, а в том, какую роль в этом будет играть элегантность программирования. Deep Blue победил быстрее, чем мог бы, заработав тем самым очко в пользу элегантности.

Реакция общества на проигрыш Каспарова поставила важный вопрос перед сообществом исследователей в области информатики. Стоит ли описывать компьютеры как разумные или человекоподобные в каком-либо смысле? Проясняет ли такое представление истинную роль компьютеров в нашей жизни или, наоборот, размывает ее?

Всякий раз, когда компьютер представляют разумным, люди игнорируют некоторые аспекты проблемы, чтобы исключить из рассмотрения все, к чему компьютер слеп. В случае турнира Deep Blue — Каспаров это случилось с шахматами.

У шахмат есть аспект, который несколько роднит их с покером, — наблюдение за оппонентом, проекция уверенности. Несмотря на то что написать программу для «игры» в покер сравнительно просто по сравнению с программой для игры в шахматы, покер остается игрой, где главную роль несут тонкости невербальной коммуникации между людьми — блеф, искусство скрывать эмоции и понимать психологию оппонента и знание того, как вести себя в соответствии с полученной информацией. В результате победы Deep Blue покерную часть шахмат затмил абстрактный, алгоритмический аспект, хотя, по иронии, Каспаров проиграл именно в покерном аспекте.

По-видимому, Каспаров позволил компьютеру запугать себя, даже после того, как он показал, что способен иногда и выигрывать. Он мог выиграть, если бы играл с человеком, обладающим такими же способностями выбора хода, что и Deep Blue (по крайней мере Deep Blue версии 1997 года). Вместо этого Каспаров увидел каменное лицо там, где на самом деле абсолютно ничего не было. Хотя состязание не задумывалось как тест Тюринга, оно стало им, и Каспаров был обманут.

Как я уже упоминал, идея искусственного интеллекта переместила психологическую проекцию хороших качеств с программного обеспечения на другой объект: компьютер + толпа. Поэтому в 1999 году собралась википодобная группа, включая чемпионов по шахматам, чтобы сыграть с Каспаровым в онлайн-игру под названием «Каспаров против всех». Каспаров победил, и многие полагают, что лишь благодаря разногласиям участников группы. Мы, технологи, непрестанно интересуемся ритуалами, в которых пытаемся представить себе, что люди устарели.

Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы. Люди уже склонны уступать компьютерам, виня себя в том, что цифровым гаджетом или онлайн-сервисом неудобно пользоваться.

Рассмотрение компьютера в качестве разумной, автономной сущности приводит к перевертыванию процесса разработки с ног на голову. Мы не можем себе позволить настолько почитать свои собственные творения.

Самое важное, что надо знать о любой технологии, — как она меняет людей. Чтобы ответить на этот вопрос, я много лет пользовался мысленным приемом, который называю «круг сопереживания». Может быть, он окажется полезным и для вас. (Философ из Принстона Питер Сингер, часто упоминаемый в связи с правами животных, пользуется похожей терминологией и идеей, что на первый взгляд кажется простым совпадением.)

Воображаемый круг сопереживания каждый для себя строит сам. Этот круг ограничивает расстояние вокруг человека и включает те сущности, которые заслуживают сопереживания. Мне нравится термин «сопереживание», потому что в нем есть духовные нотки. Термины вроде «симпатия» или «лояльность» могли бы быть более точными, но я хотел, чтобы мой термин был слегка мистическим. Он должен как бы намекать, что мы не способны полностью осознать то, что происходит между нами и другими, что мы всегда должны оставлять возможность представления отношений в цифровой базе данных.

Если кто-то попадает в ваш круг сопереживания, вы вряд ли захотите увидеть, как его или ее убьют. Но то, что вне круга, — законный объект нападения. Например, многие поместят всех остальных людей внутрь круга, но большинство будет радо смерти бактерий, например, когда мы чистим зубы. И уж совершенно точно никто не будет беспокоиться по поводу бездушного камня, отброшенного с тропы.

Подвох в том, что некоторые сущности находятся близко к границе круга. Главные противоречия часто вызывает вопрос, должно ли что-то находиться внутри круга или сразу за ним. Например, идея рабства основана на том, что раба помещают вне круга, таким образом как бы делая его неодушевленным. Расширение круга так, чтобы включить всех людей и покончить с рабством, — одно из главных эпических противостояний в человеческой истории, и оно еще не вполне завершено.

Множество других противоречий хорошо описываются этой моделью. Борьба вокруг абортов по существу есть поиск ответа на вопрос, должен плод или эмбрион быть помещен внутрь круга или нет. Спор о правах животных задает тот же вопрос относительно братьев наших меньших.

Когда вы меняете содержимое вашего круга, вы меняете и концепцию самого себя. Центр круга смещается по мере того, как меняется его периметр. Либеральным импульсом является расширение круга, тогда как консерваторы стремятся ограничить рост круга или даже обратить этот рост вспять.

Существуют ли разумные причины того, чтобы не расширять круг сопереживания? Ответ положительный.

Бесконечное расширение круга сопереживания способно привести к угнетению, так как права потенциальных сущностей (как считают некоторые люди) могут вступить в противоречие с правами безусловно реальных людей. Очевидный пример этого — споры вокруг абортов. Если бы законодательное запрещение абортов не подразумевало власть над телами других людей (в данном случае — беременных женщин), то и больших противоречий не было бы. Мы бы быстро приспособились.

Расширение сопереживания может приводить к меньшему, но все равно существенному злу некомпетентности, упрощения, нечестности и нарциссизма. К примеру, вы не можете жить, не убивая бактерий. Не спроецируете ли вы свои собственные фантазии на одноклеточные организмы, которые в лучшем случае будут к ним безразличны? И получится, что дело в вас, а не в целях расширения круга? Начнете ли вы уничтожать чужие зубные щетки? Вы же не думаете, что спасенные вами бактерии морально эквивалентны бывшим рабам, а если думаете, не умаляете ли вы статус тех людей? Даже если вы можете с чистой совестью следовать своему стремлению освободить и защитить бактерии мира, не игнорируете ли вы реальность, зависимость друг от друга и мимолетность всего сущего? Вы можете стараться не уничтожать бактерии в некоторых конкретных случаях, но вы вынуждены убивать их, чтобы жить. И даже если вы готовы умереть за свои убеждения, вы не в состоянии предотвратить разложение вашего тела бактериями после вашей смерти.

Очевидно, пример с бактериями доведен до абсурда, но он показывает, что круг сопереживания имеет смысл только тогда, когда он ограничен. Если мы теряем конечность, мы теряем наши собственные центр и идентичность. Выдумка о фронте за освобождение бактерий может служить пародией на любое экстремистское движение как левого, так и правого толка.

В то же самое время я вынужден признать, что не в состоянии занять определенную позицию касаемо многих наиболее известных противоречий. Например, я целиком за права животных, но только лишь потому, что ханжа. Я ем курицу, но не могу есть головоногих — осьминогов и кальмаров, потому что безмерно восхищен их неврологической эволюцией. (Головоногие, кроме всего прочего, заставляют задуматься об отдаленном будущем технологий, которое избегает некоторых моральных дилемм, об этом я расскажу позже.)

Как я определяю свой круг? Я просто провел время с различными видами и решил, входят они в мой круг или нет. Я выращивал кур и как-то не чувствовал сопереживания к ним. Они немногим большее, чем пернатые механизмы с сервоприводами, особенно если сравнивать их с козами, которых я тоже выращивал и не стану есть. С другой стороны, мой коллега, исследователь в области виртуальной реальности Адриан Чеок, ощущает такое сопереживание к курам, что построил для них специальные костюмы телепогружения, чтобы дистанционно приласкать их прямо с работы. Всем приходится мириться с несовершенством возможности проводить четкие границы кругов сопереживания. Всегда будут случаи, когда разумные люди не смогут согласиться друг с другом. Но я не заставляю других людей не есть головоногих или коз.