Это злая разумная опухоль - Питер Уоттс

управляемый дрон взорвет группу гражданских, вы всегда сможете предъявить обвинение оператору на другом конце мира или вышестоящему офицеру, приказавшему открыть огонь (не то чтобы такое на самом деле случалось, конечно). Но если машина сама решила уничтожить всех этих невинных людей, кого вы обвините? Тех, кто авторизовал ее отправку на задание? Тех, кто ее спроектировал? Какую-нибудь ученую-компьютерщицу, не осознававшую, что ее докторскую диссертацию по машинному зрению присвоит начальник с жирным военным контрактом?

Или это вообще перестанет быть военным преступлением и превратится во что-то менее… предосудительное? В какой момент жертвы среди мирного населения становятся не более чем трагическим случаем на производстве?

По моему мнению, настоящая угроза – не в ненадежности роботов, но в намеренной эксплуатации этой ненадежности генералами. У военных теперь есть стимул: не ограничивать применение технологии, не улучшать ее умение отличать своих от чужих, но использовать это ненадежное оружие так широко, как только возможно. В 2008 году человек по имени Стивен Уайт написал статью под названием «Дивный новый мир: нейровойны и границы международного гуманитарного права». Там говорилось о юридических и этических следствиях применения нейрооружия, но предостережения Уайта актуальны по отношению к любой технологии, забирающей из рук человека право решать вопросы жизни и смерти:

«…международное гуманитарное право создаст извращенные мотивации, поощряющие разработку целых классов вооружения, которое правительство сможет использовать, чтобы избежать уголовного наказания даже за самые серьезные военные преступления».

Конечно, итоговый результат может оказаться не так плох. Вероятно, в конце концов технология будет улучшена до такой степени, что решения роботов будут не просто равняться тем, что рождаются в бренном мясе человеческих мозгов, а превосходить их. В таких условиях военным преступлением будет не доверить машинам спусковой крючок. Под контролем их идеальных алгоритмов боевые потери уменьшатся до малой доли тех жертв, в которых было повинно человеческое командование. В конце концов мы можем оказаться в лучшем мире.

И все же. Готов поспорить, что по пути туда мы прольем реки крови.

The Last of Us: слабое звено

(Журнал Nowa Fantastyka, май 2014 года)

(Блог, 8 января 2019 года)

Я пишу сценарии видеоигр почти столько же времени, сколько публикую романы. Вам простительно этого не знать; ничто из написанного моей игровой ипостасью так и не пошло в производство. Обычно события развиваются примерно так: я сотрудничаю с талантливой командой разработчиков, создавая офигенный проект. В течение следующих нескольких месяцев остальная команда исчезает, человек за человеком, при таинственных обстоятельствах. Наконец мне приходит письмо от какого-то нового исполнительного продюсера, о котором я никогда не слышал, он хвалит мою «восхитительную работу» и говорит, что свяжется со мной, если мои услуги еще когда-нибудь понадобятся.

Этого не происходит никогда. Ни одна из тех игр, над которыми я работал, не добралась до рынка непокалеченной: персонажей уплощают до состояния картона, новаторских инопланетян низводят до злодейского йогурта, все тонкости, нюансы и межличностные конфликты обрезают, прежде чем избавиться от них окончательно.

И тем не менее, спустя почти два десятка лет фальстартов и разбитых надежд, я все равно думал, что будущее повествования интерактивно. Язык, в конце концов, это обходной путь; можно поражаться красноречию, с которым описывается красота заходящего солнца, однако никакая абстрактная писанина пикселями по плазме никогда не сравнится с прямым чувственным восприятием настоящего заката. Вот что предлагают нам разнообразные визуальные медиа: возможность в точности передать – без сомнений, без интерполяций, без нужды в догадках – как выглядит чужой мир, что ваш герой на самом деле видит и слышит (а скоро – и что чует, пробует на вкус и осязает).

Добавьте интерактивность – возможность не просто читать о героях, но быть ими – и как сможет состязаться с этим хоть один роман? Проза всегда была компромиссом, артефактом уровня развития искусства. Теперь искусство дошло до иммерсивной стадии, приглашая ценителей помочь в создании сюжета вместо того, чтобы просто следить за ним.

Конечно, при всем великолепии игр вроде Half-Life и Bioshock, гибкость нарратива – это иллюзия. На самом деле вы не создаете историю; вы просто отыскиваете путь через заранее запрограммированный лабиринт, отстреливая по пути пришельцев и мутантов. И хотя миры-песочницы наподобие Skyrim и Fallout определенно дарят ощущение открытого, лишенного рельсов мира – не слишком ли нереалистично то, что люди, с которыми ты должен был встретиться у замка в полночь, все еще покорно ждут на том же месте, пока ты игнорируешь их на протяжении шести внутриигровых месяцев, выполняя побочные задания? Разве запас тем для разговора у Лидии не начинает казаться ограниченным спустя, э-э, пять минут?

Всего лишь ухабы на дороге, думал я. Скоро их сгладят. Пока что было невозможно запрограммировать действительно сложный нарратив так, чтобы он уместился в среднестатистическую приставку, однако все эти ограничения, несомненно, будут уходить все дальше за горизонт с каждой новой итерацией закона Мура. Через десять-пятнадцать лет у нас будут игры, в которые можно будет действительно играть, а не разгадывать их; персонажи, способные жить, дышать и развиваться динамически, правдоподобно реагируя на действия игрока.

Понадобилась игра, в которой персонажи действительно жили, дышали и развивались, чтобы я узрел всю нелепость этой веры. Я говорю о The Last of Us.

На первый взгляд The Last of Us выглядит как еще один постапокалиптический шутер про выживание. Цивилизация рухнула. Появились зомби. Смертельные раны волшебным образом залатываются в несколько секунд «лечилками», сделанными из тряпок и бутылок спирта. Путешествуя по распавшейся стране, ты собираешь множество видов оружия; стоит чему-то шевельнуться, ты в это стреляешь. Скучно до зевоты.

На второй взгляд она просто охеренная.

Начнем с того, что зомби – это не зомби: это жертвы мутировавшей разновидности Cordyceps, реально существующего гриба, который на самом деле переписывает поведенческие модели своих жертв. Хорошие люди здесь оказываются плохими, плохие люди оказываются неоднозначными. У каннибалов, детоубийц и социопатов есть свои мотивации. Моральные дилеммы реалистичны и глубоки, а отношения между двумя главными героями настолько полны оттенков, настолько прекрасно реализованы в озвучке и анимации, что реально пару раз довели меня до слез. А меня ничто не доводит до слез, кроме смерти кошек.

Лишь настолько идеально сбалансированная, настолько эмоционально вовлекающая видеоигра могла убедить меня в том, что видеоигры никогда не будут настолько идеально сбалансированными и настолько эмоционально вовлекающими.

Все это замечательное развитие персонажей, все эти драгоценные моменты, обнажающие глубину души Элли и мучений Джоэла, не являются частью игры. Это постановочные сцены, неиграбельные, неинтерактивные. Не помню, чтобы когда-то встречал игру с такими продолжительными кинематографическими интерлюдиями. Иногда она