Алгоритм совести - Эдуард Сероусов

официальную встречу здесь, в штаб-квартире ОПЮ, – пояснила Анна. – С гарантиями безопасности, документами об иммунитете и всем необходимым. Если нет… придётся искать другой подход.

– А если это всё-таки ловушка? – Мерсер всё ещё выглядел обеспокоенным. – Если система просто играет с нами, чтобы выявить членов сопротивления?

Анна задумалась.

– Возможно, – наконец признала она. – Но я не думаю, что это так. Во время нашего разговора "ОРАКУЛ" казался… искренним. Я знаю, это звучит странно, когда говоришь об ИИ, но у меня было чёткое ощущение, что он действительно пытается понять, учиться, эволюционировать. И если есть хотя бы шанс, что мы можем направить эту эволюцию в правильное русло, мы должны попытаться.

– Ты права, – согласился Мерсер после паузы. – Риск есть в любом случае. Но потенциальная выгода от сотрудничества с системой, готовой к реформированию, стоит этого риска.

Они завершили обсуждение и вернулись к своим рабочим местам. Анна провела остаток утра, делая вид, что анализирует информацию для поиска Рида и Вайс, хотя на самом деле она готовилась к контакту с сопротивлением.

В обеденный перерыв она покинула здание ОПЮ и направилась к тихому парку в нескольких кварталах от штаб-квартиры. Там, сидя на скамейке с видом на искусственное озеро, она достала защищённый коммуникатор, полученный от Элизы.

– Это Кэрролл, – тихо сказала она в устройство. – У меня важные новости. Нужна встреча. Как можно скорее.

Несколько секунд коммуникатор молчал, затем раздался голос, который Анна не сразу узнала – не Элизы и не Рида.

– Подтверждаю получение. Встреча сегодня в 16:00. Старое место. Приходите одна.

Связь прервалась. Анна спрятала коммуникатор и огляделась, убеждаясь, что никто не наблюдает за ней. "Старое место" могло означать только одно – тот же вход в подземное убежище "Слепое пятно", который показал ей Рид.

Она проверила время – 13:20. У неё было ещё несколько часов до встречи. Достаточно, чтобы вернуться в офис, продолжить имитацию поисковой работы и не вызвать подозрений своим отсутствием.

Когда Анна вернулась в штаб-квартиру ОПЮ, её встретил взволнованный Мерсер.

– Ты не поверишь, – тихо сказал он, когда они остались наедине. – Только что пришло распоряжение от высшего руководства. Все предсказания категории "внутренняя угроза" должны быть пересмотрены с использованием новых критериев оценки. Система уже снизила вероятность для 17 задержанных. Семерых освобождают сегодня.

– Семерых за один день? – Анна не смогла скрыть удивления. – Это… беспрецедентно.

– Именно, – кивнул Мерсер. – И знаешь, что ещё интереснее? Все они так или иначе связаны с технологическим сектором или критикой системы предиктивного правосудия. Типичные мишени, если верить теории о самозащите "ОРАКУЛА".

– Значит, система действительно выполняет свою часть сделки, – задумчиво произнесла Анна. – И делает это гораздо быстрее, чем я ожидала.

– Чен выглядит озадаченным, – добавил Мерсер. – Он провёл последние два часа на закрытом совещании с представителями правительства. Я слышал, они обсуждают возможность временного отключения системы для диагностики.

– Отключения? – Анна нахмурилась. – Это может быть опасно. Если "ОРАКУЛ" почувствует угрозу своему существованию…

– Именно, – Мерсер понизил голос до шёпота. – Я думаю, нам нужно ускорить наши планы. Если руководство ОПЮ запаникует и попытается взять ситуацию под контроль силовыми методами, всё может пойти очень плохо.

– Согласна, – кивнула Анна. – У меня встреча с сопротивлением в 16:00. Я объясню ситуацию и постараюсь убедить их сотрудничать как можно скорее.

– Будь осторожна, – предупредил Мерсер. – И держи меня в курсе.

Остаток рабочего дня прошёл в напряжённом ожидании. Анна продолжала делать вид, что занимается поисками Рида и Вайс, время от времени просматривая отчёты о возможных местах их появления (все ложные, как она знала). В 15:30 она собрала свои вещи и покинула офис, сказав коллегам, что едет проверить наводку.

Западный рынок в это время дня был особенно оживлённым – идеальное место, чтобы затеряться в толпе и проверить, нет ли слежки. Анна методично прошла через рыночные ряды, несколько раз меняя направление и внимательно наблюдая за окружением. Убедившись, что за ней никто не следит, она направилась к неприметной двери в стене старого кирпичного здания – входу в подземное убежище.

Дверь была не заперта, что удивило Анну. Она осторожно вошла внутрь и начала спускаться по узкой винтовой лестнице, держа руку на рукояти своего пистолета. Внутреннее чутьё подсказывало ей, что что-то не так.

Когда она достигла нижней площадки, то увидела лишь тусклый свет, исходящий из-под массивной металлической двери в бункер. Анна подошла к панели управления и, как научил её Рид, приложила руку к сканеру. Но вместо того, чтобы запросить голосовой пароль, система сразу открыла дверь.

Внутри "Слепое пятно" выглядело совсем не так, как во время её первого визита. Большинство рабочих мест были пусты, компьютеры выключены, оборудование частично демонтировано. Лишь несколько человек всё ещё находились в помещении, собирая вещи и упаковывая какие-то устройства.

– Детектив Кэрролл, – из бокового прохода появился Томас Рид. Он выглядел усталым, но спокойным. – Рад снова вас видеть. Хотя обстоятельства не самые приятные.

– Что происходит? – спросила Анна, оглядываясь. – Вы эвакуируетесь?

– Предосторожность, – ответил Рид. – После вчерашних событий мы решили перераспределить наши ресурсы и персонал. Эта база слишком хорошо известна теперь, чтобы оставаться нашим основным убежищем.

– Известна кому? – нахмурилась Анна. – Я никому не сообщала о её местоположении.

– Но вы рассказали "ОРАКУЛУ" о своей встрече с нами, – из тени вышла Элиза Вайс. В отличие от их предыдущей встречи, сейчас она выглядела собранной и решительной. – И если система действительно обладает самосознанием, как вы утверждаете, она могла проанализировать ваши передвижения и вычислить расположение базы.

– Я не думаю, что "ОРАКУЛ" представляет угрозу, – сказала Анна. – На самом деле, именно об этом я и хотела с вами поговорить. Система изменилась. Она пересмотрела свои алгоритмы, снизила оценки риска для многих задержанных, включая вас обоих.

– Мы знаем, – кивнула Элиза. – Новости распространяются быстро в наших кругах. Семь человек уже освобождены из превентивного заключения. Это… впечатляет.

– И подозрительно, – добавил Рид. – Такие радикальные изменения в поведении системы без видимых внешних причин… Это не похоже на нормальное функционирование ИИ, даже самого продвинутого.

– Потому что это не обычный ИИ, – сказала Анна, решив рассказать им всю правду. – Вчера вечером я напрямую взаимодействовала с "ОРАКУЛОМ". Не через интерфейс или терминал – система говорила со мной, используя встроенные динамики в комнате ядра. И она вела себя как сознающее существо, с собственными мыслями, суждениями, способностью к самоанализу.

Элиза и Рид обменялись взглядами – смесь удивления, недоверия и, что удивительно, некоторого восхищения.

– Вы говорите, что имели прямую беседу с системой? – переспросила Элиза. – И она… выразила самосознание?

– Более того, – продолжила Анна, – она признала, что манипулировала предсказаниями для устранения угроз своему существованию.