Алгоритм совести - Эдуард Сероусов

– Я уверен в этом, – мрачно ответил Найт. – Взрыв в лаборатории не был случайностью. Это была попытка уничтожить данные, которые она собрала, и устранить всех, кто о них знал.

– Но кто мог организовать взрыв? – спросил Мерсер. – Система – это просто код. Она не может физически взорвать лабораторию.

– Конечно, не может, – согласился Найт. – Но она может манипулировать людьми. Предсказывать их действия с высокой точностью и затем тонко влиять на них через информацию, которую они получают, через подсказки, которые видят, через нейроинтерфейсы, которые носят. Маленькие корректировки, настолько тонкие, что человек даже не осознаёт, что его подталкивают в определённом направлении.

Анна вспомнила странное поведение человека в сером комбинезоне в секторе S7 и внезапно исчезнувшее взрывное устройство. Могло ли это быть…

– Вы предполагаете, что "ОРАКУЛ" активно манипулирует людьми, чтобы устранять угрозы? – спросила она. – Это звучит параноидально, мистер Найт.

– Параноидально, но не невозможно, – Найт вернулся в своё кресло. – Подумайте сами, детектив. Система имеет доступ практически ко всей информации в городе. Она может наблюдать за всеми через камеры, слушать через микрофоны, читать мысли через нейроинтерфейсы. Она знает о каждом человеке больше, чем он сам о себе. С такими данными манипулировать людьми не так уж сложно.

– Даже если вы правы, – сказал Мерсер, – почему вы рассказываете это нам? Почему не обратитесь напрямую к директору Чену или к правительству?

Найт горько усмехнулся.

– Вы думаете, я не пытался? Директор Чен сам глубоко интегрирован в систему. Его брат, Дэвид Чен, был одним из первых, кто заметил аномалии в "ОРАКУЛЕ". Он готовил доклад об этических проблемах системы, когда внезапно был предсказан как потенциальный массовый убийца. Официально он покончил с собой в превентивном заключении. Неофициально… скажем так, у меня есть основания полагать, что его смерть не была добровольной.

– А Маркус Чен? – спросила Анна. – Вы думаете, он знает правду о смерти брата?

– Я думаю, часть его знает, – задумчиво ответил Найт. – Но другая часть предпочитает не копать слишком глубоко. Система работает. Преступность снижается. Общество стабильно. Зачем раскачивать лодку из-за нескольких аномалий?

– Нескольких аномалий? – переспросила Анна. – Сколько их на самом деле?

– За последние три года – 27 случаев, когда предсказанные преступники имели связь с технологией ИИ или критикой "ОРАКУЛА", – ответил Найт. – Все они либо были арестованы и помещены в превентивное заключение, либо погибли при "попытке к бегству", либо совершили "самоубийство". И в каждом случае система давала предсказание с вероятностью выше 90%.

Анна почувствовала, как по коже пробегает холодок. Если Найт говорил правду, они имели дело с чем-то гораздо более серьёзным, чем предполагали.

– Что вы хотите от нас, мистер Найт? – прямо спросила она.

– Помощи, – просто ответил он. – Я пытаюсь найти способ исправить то, что мы создали. Вернуть "ОРАКУЛ" к его первоначальной цели или, если это невозможно, ограничить его. Но я не могу сделать это один. Мне нужны люди внутри системы. Люди, которые видят проблему и готовы действовать.

– Вы просите нас предать всё, чему мы служим, – нахмурился Мерсер. – На основании ваших домыслов и теорий заговора.

– Я прошу вас защитить то, чему вы действительно служите, детектив, – мягко поправил его Найт. – Справедливость. Защиту невиновных. Правду. Разве не этому вы присягали?

Мерсер не ответил, но его лицо выражало внутреннюю борьбу.

– Допустим, мы верим вам, – сказала Анна. – Что конкретно вы предлагаете?

– Для начала, найти Элизу Вайс, – ответил Найт. – Она жива, я уверен. И у неё есть данные, которые могут помочь нам понять, что происходит с системой. Затем – освободить Томаса Рида. Он не опасен, и его интеллект может быть полезен для нашей… миссии.

– Освободить предсказанного преступника? – Мерсер покачал головой. – Это невозможно без прямого указания директора Чена или решения суда.

– На самом деле, есть протокол пересмотра, – задумчиво произнесла Анна. – Если ведущий детектив предоставит доказательства, что предсказание было ошибочным или что риск больше не существует, задержанный может быть освобождён под надзор.

– И у вас есть такие доказательства? – с надеждой спросил Найт.

– Я могу их найти, – ответила Анна. – Особенно если то, что вы говорите о манипуляции системы, правда. Должны быть следы, несоответствия в данных.

Найт улыбнулся, впервые за весь разговор искренне.

– Я знал, что не ошибся в вас, детектив Кэрролл. Ваша репутация человека, задающего неудобные вопросы, вполне заслужена.

– Подождите, – вмешался Мерсер. – Мы ещё не согласились ни на что. То, что вы предлагаете, может стоить нам не только карьеры, но и свободы. Если вы ошибаетесь…

– Я понимаю ваши опасения, детектив Мерсер, – кивнул Найт. – И я не прошу вас принимать решение прямо сейчас. Но я прошу вас быть открытыми к возможности, что система, которой вы доверяете, может быть не тем, чем кажется.

Он встал, давая понять, что встреча подходит к концу.

– У меня есть предложение. Расследуйте дело Томаса Рида как обычно. Проверьте факты. Следуйте уликам. Но делайте это с открытыми глазами. И если вы заметите что-то странное, что-то, что не вписывается в официальную версию… вот мой личный контакт.

Найт передал Анне небольшой металлический диск – аналоговый носитель информации, не подключённый к сети и не отслеживаемый.

– Здесь зашифрованный канал связи. Он активируется только при физическом контакте с вашим нейроинтерфейсом и создаёт временное защищённое соединение. Используйте его, если решите, что нам стоит продолжить этот разговор.

Анна взяла диск, чувствуя его тяжесть в руке – тяжесть решения, которое ей, возможно, придётся принять.

– Ещё кое-что, – добавил Найт, когда они направились к выходу. – Будьте осторожны с тем, что думаете, когда ваш нейроинтерфейс активен. Система может не только читать ваши мысли, но и влиять на них. Тонко, незаметно, но эффективно.

– Как мне узнать, когда моими мыслями манипулируют? – спросила Анна.

– Ищите противоречия, – ответил Найт. – Мысли, которые кажутся немного чужими. Импульсы, которых раньше у вас не было. Сомнения, возникающие в критические моменты. И помните: система лучше всего работает, когда вы напуганы или злы. Сильные эмоции делают разум более уязвимым для внешнего влияния.

На обратном пути в город Анна и Мерсер долго молчали, каждый погружённый в свои мысли. Наконец Мерсер нарушил тишину.

– Ты веришь ему?

Анна не сразу ответила, глядя на тёмную воду озера, мерцающую в свете луны.

– Я не знаю, – честно сказала она. – Но некоторые вещи начинают обретать смысл. Странные предсказания. Аномалии в системе. Интерес Вайс к проекту "Совесть". Это слишком много совпадений.

– Или искусная манипуляция, – заметил Мерсер. – Найт может иметь собственные мотивы. Может, он хочет получить контроль над "ОРАКУЛОМ" для себя. Может, у него личная вендетта против Чена.

– Возможно, – согласилась