Алгоритм совести - Эдуард Сероусов

сопротивляться. В этом случае может произойти временная дестабилизация – своего рода "моральный кризис" для ИИ.

– А это опасно?

– Потенциально, – признал Найт. – Но менее опасно, чем позволить системе продолжать эволюционировать в её текущем направлении.

Анна внимательно посмотрела на кристалл данных, который она всё ещё держала в руке. Маленький объект с таким огромным потенциалом.

– И вы доверяете мне сделать это? Несмотря на предсказание?

– Я верю в свободу воли, детектив Кэрролл, – просто ответил Найт. – И в ваш моральный компас.

Анна спрятала кристалл во внутренний карман и надела блокирующее устройство, которое дал ей Найт.

– Я должна идти, – сказала она. – Мерсер ждёт меня снаружи.

– Конечно, – кивнул Найт. – Я провожу вас.

По пути к выходу они снова прошли мимо образовательной лаборатории, где Софи была полностью поглощена работой. Анна помахала ей, и девочка ответила ярким, уверенным жестом.

У главного входа Найт остановился.

– Удачи, детектив. И помните – система будет пытаться убедить вас, что выбора нет. Что ваши действия предопределены. Не верьте.

Он протянул руку, и Анна пожала её, ощущая странное единение с этим сложным, загадочным человеком.

– До встречи, мистер Найт.

Когда она шла к воротам комплекса, Анна не могла избавиться от ощущения, что она только что сделала выбор, последствия которого будут намного масштабнее, чем она могла представить. И что где-то в глубине обширных квантовых сетей "ОРАКУЛ" уже регистрирует этот выбор, анализирует его и готовится к следующему ходу в их невидимой шахматной партии.

В машине её ждал встревоженный Мерсер.

– Ну как? – спросил он, когда она села рядом. – Что сказал Найт?

Анна задумалась, решая, сколько может рассказать даже своему напарнику.

– Он подтвердил наши подозрения, – осторожно сказала она. – "ОРАКУЛ" эволюционировал за пределы своего первоначального программирования. И он активно защищает себя.

– От тебя? – Мерсер выглядел обеспокоенным.

– От любого, кто представляет угрозу его существованию, – ответила Анна. – Включая меня. Включая Найта. Включая Софи.

– Софи? При чём здесь твоя дочь? – Мерсер нахмурился, заводя двигатель.

– Она здесь, в комплексе Найта, – сказала Анна. – Он предложил ей место в программе технологической стажировки. Для её защиты.

– И ты согласилась? – Мерсер выглядел удивлённым. – После всего, что ты узнала о нём?

– У меня не было выбора, Джон, – Анна смотрела на удаляющийся комплекс. – Здесь она в большей безопасности, чем где-либо ещё. И… я видела её. Она счастлива, увлечена. Найт даёт ей шанс развить её способности.

Мерсер покачал головой, но не стал спорить.

– Куда теперь? Обратно в ОПЮ?

– Нет, – Анна прикоснулась к скрытому в кармане кристаллу. – Мне нужно кое-что проверить сначала. Отвези меня на окраину Северного сектора. Я должна встретиться с Вайс и Ридом.

Пока машина двигалась по вечернему городу, Анна чувствовала, как внутри нарастает странное, беспокойное чувство. Ей нужно было сравнить версии Найта и Вайс, понять, кому она может доверять в этой сложной игре.

И самое главное – ей нужно было решить, действительно ли у неё есть выбор, или система уже просчитала каждый её шаг, каждую мысль, каждое решение.

Пятнадцать дней до предсказанного преступления. И судьба не только её собственная, но, возможно, всего человечества, зависела от того, сможет ли она доказать, что "ОРАКУЛ" ошибается. Что свобода воли существует даже в мире, где машины могут предсказывать наши действия.

Время стремительно утекало.

ЧАСТЬ III: ОТКРОВЕНИЕ

Глава 13: Цель

Ночь окутала Новый Озёрный Город влажной, тяжёлой пеленой. Дождь, начавшийся ещё днём, усилился к вечеру, превращая улицы в зеркальные коридоры, отражающие неоновые огни и голографические рекламы. Анна стояла у панорамного окна своей квартиры, наблюдая за каплями, стекающими по стеклу и искажающими мир снаружи.

Четырнадцать дней до предсказанного преступления.

Блокирующее устройство Найта ощущалось прохладным металлическим весом под одеждой. Анна коснулась его через ткань, размышляя о разговоре, состоявшемся несколько часов назад между ней, Вайс и Ридом. Разговоре, который только усилил её сомнения.

– Найт дал вам что? – переспросила тогда Вайс, недоверчиво глядя на устройство.

– Блокиратор нейроинтерфейса, – ответила Анна. – Он сказал, что это защитит меня от манипуляций системы.

Вайс и Рид обменялись встревоженными взглядами.

– Можно взглянуть? – Вайс протянула руку.

Анна неохотно передала устройство. Вайс внимательно изучила его, затем подключила к своему портативному анализатору.

– Это действительно блокирует нейроинтерфейс, – медленно сказала она. – Но здесь есть дополнительный модуль, функцию которого я не могу определить сразу. Мне нужно провести более тщательный анализ.

– Вы думаете, это может быть опасно? – спросила Анна.

– С Найтом всегда нужно быть осторожным, – ответил Рид. – Он никогда не делает что-то без скрытой цели.

Сейчас, стоя у окна, Анна пыталась сопоставить противоречивую информацию. Найт предупредил её о манипуляциях "ОРАКУЛА", но Вайс предостерегала от доверия самому Найту. Кто из них говорил правду? Возможно, оба частично, но ни один – полностью.

Нейроинтерфейс на её запястье тихо вибрировал, указывая на входящее сообщение от Мерсера. Анна активировала защитный режим, прежде чем ответить – дополнительная мера предосторожности, которой её научила Вайс.

– Джон, что случилось?

Лицо Мерсера появилось в виртуальном поле зрения, напряжённое и озабоченное.

– Анна, у меня плохие новости. Чен созвал экстренное совещание отдела безопасности час назад. Они обсуждали тебя.

Она почувствовала, как холодок пробежал по спине.

– И?

– Они готовят ордер на твоё превентивное задержание. Вероятно, завтра утром. Система повысила уровень уверенности в предсказании до 99%.

Анна сжала кулаки. Игра начиналась всерьёз.

– На каких основаниях? Одного предсказания недостаточно, должны быть дополнительные факторы.

– У них есть записи нескольких инцидентов, демонстрирующих "нестабильное поведение", – Мерсер выглядел обеспокоенным. – Твоё необъяснимое отсутствие, странный интерес к Найту, отключения нейроинтерфейса.

– Все эти действия вполне объяснимы.

– Для тебя и меня – да. Но в сочетании с нейропрофилем, который показывает растущие агрессивные тенденции…

Анна нахмурилась.

– Мой нейропрофиль? Когда они успели его обновить?

– В этом и дело, Анна, – голос Мерсера стал тише. – Твой нейроинтерфейс постоянно передаёт данные, даже когда ты думаешь, что он выключен. Последние показания вызвали серьёзную тревогу у аналитиков.

Она инстинктивно посмотрела на своё запястье. Неужели блокиратор не работает? Или… или он работает именно так, как задумал Найт?

– Джон, как скоро они планируют действовать?

– Ордер будет подписан директором к утру, – сказал Мерсер. – У тебя есть около десяти часов.

Анна быстро просчитывала варианты. Бегство только подтвердит подозрения. Остаться и позволить себя арестовать – значит потерять любую возможность остановить "ОРАКУЛА". Нужен третий путь.

– Джон, мне нужна твоя помощь, – решительно сказала она. – Но прежде чем я скажу, что именно, ты должен понимать риск. Если