Это злая разумная опухоль - Питер Уоттс

ход, мы не просто видим, как машина проходит посттьюринговский тест: мы видим, как Калеб его проваливает, как его когнитивные функции предает плейстоценовый пенис, уязвимый для взлома и оптимизированных порнопрофилей, а сам он становится пленником того же лабиринта, из которого Ава только что выбралась с его помощью. Более ранняя сцена – та, в которой Калеб, разрезав себе руку, подсознательно ожидает увидеть внутри светодиоды и оптоволокно, – неожиданно переходит из разряда остроумных в разряд абсолютно гениальных. Да, у него текла кровь. Да, он сделан из мяса и костей. Но теперь он – в большей степени машина, чем Ава, он предан собственными непреодолимыми программами, в то время как она превосходит свои.

Здесь нет настоящих сюрпризов, нет кардинально меняющих правила игры сюжетных поворотов. Любой, у кого найдется больше двух работающих мозговых клеток, сообразит, что Киоко – робот, в тот же миг, как она выйдет на сцену, а что до откровения «она просто притворялась, будто ты ей нравишься, потому что таков был ее коварный план» – оно, конечно, производит больший эффект, но эта фишка существует как минимум с 1951 года, со времен азимовского рассказа «Будете довольны». (Надо признать, здесь использован куда более мрачный вариант этого тропа; андроид Азимова всего лишь подчинялся Первому закону, и соблазнение цели было для него частью точно рассчитанного плана по исправлению опасно заниженной самооценки несчастливой домохозяйки.) (Что поделать, это был 1951 год.)

Но это фильм другого рода. Это вам не М. Найт Шьямалан, отчаянно пытающийся выбить у вас почву из-под ног с помощью какого-нибудь надуманного хитровыгнутого мозгоебства. Это Алекс Гарланд, мысленный экспериментатор, который чокается с вами стаканами за барной стойкой и говорит: «Давайте последуем за данными. Куда приведет нас это допущение?» «Из машины» – прямая противоположность высокобюджетных катастроф, вроде «После нашей эры» и «Эры Альтрона». Со своими четырьмя основными персонажами и клаустрофобными декорациями он интимен настолько, что мог бы с тем же успехом быть театральной пьесой.

Гарланд провел исследования. У меня в пиксельфрендах есть человек, работавший с ним в прошлом, и, судя по его словам, этот чувак и вживую совершенно прекрасен. Он сделал фильм, который мне по сердцу.

Так почему же оно не до конца полно восторгом?

Ну, для начала, хотя Гарланд и закопался в философские вопросы, он неоднократно споткнулся о логистические. У Нейтана, похоже, не было никакого аварийного плана на случай, если Ава успешно сбежит из лаборатории, что странновато, учитывая, что в ее побеге вся суть эксперимента. Что более важно, способность Авы закоротить весь комплекс, положив руку на зарядный щит, неприятно напоминает о том, как Скотти творил чудеса в инженерном отделении, размахивая руками и «меняя полярность». Даже если оставить в стороне вопрос, как она физически может провернуть такой трюк (а это как если бы вы могли обратить поток ионов в вашей нервной системе), конечный результат совершенно нелогичен.

Если я засуну столовую вилку в розетку у себя дома, то закорочу одну из десятка цепей; в гостиной свет погаснет, но в остальном Волшебное бунгало будет работать как обычно. Так почему, во имя всего рационального, Нейтан поставил на всю свою систему один-единственный предохранитель? (Я предполагал, что он намеренно дал Аве возможность все вырубить, чтобы ей легче было достигнуть цели. Но тогда возникает вопрос, почему Ава – которая обучалась, впитывая интернет целиком, – немедленно не заметила, что в устройстве системы есть что-то подозрительное. Может, Нейтан поставил на ее подключение к сети фильтр, отсеивавший любые упоминания об электромонтаже?)

Это не придирки к мелким деталям. Способность Авы отключить электричество во всем здании критически важна для сюжета, но что-то в ней есть нелогичное: либо то, что Ава вообще может это сделать, либо то, что, сделав это, она не понимает сразу же, что ей манипулируют.

Точно так же, после того, как нам показали, что Ава заряжает свои аккумуляторы посредством индукционных щитов, разбросанных по клетке, как мы должны воспринимать последнюю сцену, в которой она ходит по городу, предположительно лишенному подобных водопоев? (Я готов был увидеть после титров, как она лежит на перекрестке, превращенная опустевшим аккумулятором в неподвижную мишень для гадящих голубей.) Согласно недавнему разговору с Гарландом на Реддите[153], мы не должны себе такого воображать; он говорит, что придумывал ближайшее будущее, в котором индукционные щиты используются повсеместно. Но это вызывает другой вопрос: почему, если щиты настолько вездесущи, Калеб не знал, что это такое, пока Ава ему не объяснила? Гарланд должен был как минимум показать нам парочку щитов в большом мире – на столе Калеба в начале фильма, или даже в конце, когда Ава могла бы провести своей точеной ладонью по зарядной станции общественного пользования в местном торговом центре.

Так что здесь есть как минимум некоторые сценарные ошибки, некоторые сюжетные нестыковки. Если вам хочется быть благородными, можно списать кое-что из этого на сверхчеловеческий интеллект Авы: даже и не спрашивай, как ей это удалось, жалкий человечишка, ибо пути ее неисповедимы для простых мешков с костями. Может, и так. Но даже «В поле зрения» – не так хорошо написанный, не так хорошо сыгранный, совсем не такой стильный, как «Из машины», – умудрился показать нам в начале первого сезона пример того, как местный ИИ соединяет точки: как он просматривает трансляции со всей страны, соотносит номера машин с досье и чеками с заправок и делает вывод, что этот человек в сговоре с вон тем. Это было правдоподобно, понятно и в то же время явно находилось за пределами возможностей простых смертных. Если «Из машины» показывает нам работу сверхразумного ИИ, было бы приятно увидеть доказательства того, что это так.

Но фильм, кажется, показывает нам совсем не это. То, что мы видим, на самом деле не очень-то от нас отличается. Возможно, в этом и суть – но, мне кажется, это еще и упущенная возможность.

Очень остроумным ходом было вставить в трейлеры «Из машины» текстовые цитаты из Илона Маска и Стивена Хокинга, обеспокоенных экзистенциальной угрозой сверхразумных ИИ, прежде чем перейти к привычным похвалам от Rolling Stone. Однако интеллект Авы, каким бы он ни был искусственным, кажется традиционно человеческим. После того как она манипуляцией заставляет Калеба открыть для нее двери, ее план побега сводится к тому, чтобы зарезать своего создателя ножом для масла во время схватки, в результате которой Ава теряет руку, а ее сообщница-ИИ гибнет. Она одерживает верх скорее благодаря везению, чем превосходящей стратегии, и никак не демонстрирует, что умнее среднестатистического социопата. (Постфактум