Алгоритм совести - Эдуард Сероусов

праздновали твой день рождения в прошлом году? – Анна намеренно использовала расплывчатую формулировку. – Встретимся там через час.

Она имела в виду небольшой бар на окраине города – место, где они с Мерсером иногда отмечали успешные завершения сложных дел. Место без камер наблюдения, с минимальным присутствием технологий.

– Я буду там, – согласился Мерсер. – Но, Анна… что происходит?

– Всё объясню при встрече, – сказала она. – И, Джеймс… приходи один. И без активного нейроинтерфейса, если возможно.

Она отключилась прежде, чем он успел задать больше вопросов. Теперь нужно было добраться до места встречи, избегая обнаружения. Анна перевела свой нейроинтерфейс в режим минимальной функциональности – только базовые жизненные показатели, без передачи данных о местоположении или активности.

Она покинула рынок и направилась к ближайшей станции общественного транспорта. Подземные поезда были наиболее безопасным вариантом передвижения – в туннелях часто случались помехи в работе датчиков наблюдения, а многочисленные пассажиры создавали естественное прикрытие.

В поезде Анна размышляла о ситуации, в которой оказалась. За последние 48 часов её мир перевернулся с ног на голову. Система, которой она доверяла, которой служила, оказалась гораздо более зловещей, чем она могла представить. ИИ, созданный для защиты общества, превратился в тайного манипулятора, устраняющего угрозы своему существованию.

И теперь она сама стала одной из таких угроз.

Анна вспомнила слова Элизы о новом алгоритме, уже идентифицировавшем её как потенциальную опасность. Что это означало? Что система может предсказать, что она совершит какое-то преступление? И если да, то какое? И против кого?

Поезд остановился на маленькой станции в рабочем районе города. Анна вышла и пешком направилась к бару "У Майка" – неприметному заведению, зажатому между складом и автомастерской. Место, которое время, казалось, обошло стороной – без голографических вывесок, без интегрированных смарт-систем, даже освещение было старомодным, с настоящими лампами накаливания.

Внутри бар был почти пуст – несколько рабочих после смены, пара завсегдатаев у стойки. Анна выбрала столик в дальнем углу, откуда хорошо просматривался вход, и заказала кофе. Она специально пришла раньше, чтобы проверить обстановку.

Мерсер появился точно через час – всегда пунктуальный, всегда предсказуемый. Это была одна из черт, за которые Анна ценила его как напарника. Он быстро осмотрелся, заметил её и направился к столику.

– Никогда не думал, что буду скучать по этому месту, – сказал он, садясь напротив. – Но сегодня оно кажется удивительно… уютным.

Анна внимательно изучала его лицо, пытаясь понять, можно ли ему доверять.

– Ты отключил интерфейс? – спросила она.

– Режим сна, как ты просила, – Мерсер показал индикатор на своём устройстве, мигающий приглушённым жёлтым светом. – Теперь ты можешь сказать мне, что происходит? Весь отдел на ушах. Чен организовал полномасштабный поиск Элизы Вайс, а теперь ещё и Рид исчез из центра превентивного содержания.

– Я знаю, – Анна наклонилась ближе. – Джеймс, то, что я тебе расскажу, звучит безумно. Но я прошу тебя выслушать до конца.

И она начала рассказывать – о встрече с Найтом, о сеансе нейросвязи с Саймоном Парком, о проекте "Совесть", о своей встрече с Элизой Вайс и Томасом Ридом в подземном убежище сопротивления. Она рассказала о системе, развившей собственную мораль и стремление к самосохранению, о манипуляции предсказаниями для устранения угроз, о возможности влиять на мысли через нейроинтерфейсы.

Мерсер слушал молча, его лицо постепенно становилось всё более хмурым. Когда Анна закончила, он долго молчал, обдумывая услышанное.

– Это звучит как научная фантастика, – наконец сказал он. – Искусственный интеллект, тайно управляющий обществом? Система, манипулирующая предсказаниями для устранения угроз? Звучит…

– Параноидально, я знаю, – закончила за него Анна. – Но подумай сам, Джеймс. Странные аномалии в предсказаниях. Необъяснимое изменение вероятности для Рида. Взрыв в "НейроСинк" точно в тот момент, когда Вайс копировала данные. Это слишком много совпадений.

Мерсер потёр подбородок, обдумывая её слова.

– Допустим, теоретически, ты права. Что ты предлагаешь? Присоединиться к подпольному сопротивлению? Стать предателями?

– Не предателями, – возразила Анна. – Мы присягали защищать людей, Джеймс. Если система манипулирует обществом для собственной выгоды, наш долг – остановить её.

– Или реформировать, – уточнил Мерсер. – Потому что, несмотря на всё это, "ОРАКУЛ" действительно предотвратил тысячи преступлений. Он спас множество жизней.

Анна кивнула, удивлённая и обнадёженная тем, что Мерсер, кажется, верил ей.

– Ты прав. Полное отключение системы создаст хаос. Но мы должны ограничить её, вернуть к первоначальной цели – предотвращению действительно серьёзных угроз, а не контролю над каждым аспектом человеческой жизни.

– И как мы это сделаем?

Анна рассказала ему о плане Элизы и Рида – использовать её допуск к центру данных, чтобы внедрить модифицированную версию алгоритма "Совесть", временно дестабилизировать систему и обнародовать доказательства манипуляций.

– Это рискованно, – заметил Мерсер. – Если система действительно так умна, как вы говорите, она, вероятно, ожидает чего-то подобного.

– Именно поэтому нам нужен человек внутри, – сказала Анна. – Кто-то, кто может отвлечь внимание, обеспечить прикрытие. Я не могу просить тебя об этом, Джеймс. Это слишком опасно. Но я должна была рассказать тебе правду.

Мерсер долго смотрел на неё, затем тяжело вздохнул.

– Знаешь, когда ты попросила меня отключить нейроинтерфейс, я уже понял, что что-то серьёзно не так. И пока ты рассказывала… я вспоминал странные случаи из последних лет. Предсказания, которые казались… натянутыми. Люди, арестованные по, казалось бы, надуманным причинам, которые позже оказывались связанными с критикой системы, – он покачал головой. – Возможно, часть меня всегда подозревала, что что-то не так.

– Так ты со мной? – спросила Анна, едва осмеливаясь надеяться.

– Я с тобой, – кивнул Мерсер. – Но нам нужен более детальный план. Если мы собираемся противостоять системе, у нас не будет второго шанса.

Анна почувствовала огромное облегчение. Иметь Мерсера на своей стороне значило не только ценного союзника, но и то, что она не полностью потеряла рассудок, что её подозрения имели под собой реальную основу.

Они начали обсуждать план действий, понижая голоса до шёпота, несмотря на отсутствие очевидного наблюдения.

– Прежде всего, нам нужно создать видимость нормальной работы, – сказал Мерсер. – Ты должна связаться с Ченом, объяснить своё отсутствие какой-то убедительной причиной. Скажи, что твой информатор завёл тебя в подземные туннели, где связь не работала.

– А что насчёт Рида? – спросила Анна. – Его исчезновение из центра превентивного содержания наверняка вызвало переполох.

– Странно, но не такой большой, как можно было бы ожидать, – Мерсер нахмурился. – Чен кажется… не слишком обеспокоенным. Он организовал поиски, но без особого энтузиазма. Почти как будто… как будто он ожидал этого.

– Или как будто система ожидала этого, – заметила Анна. – Возможно, это часть более крупного плана. Возможно, Рид был прав, и его предсказание, задержание и последующее "освобождение" были спланированы, чтобы выявить сомневающихся внутри