Алгоритм совести - Эдуард Сероусов

потемневшего бетона и ржавеющего металла. Большинство окон были разбиты, стены покрыты граффити. Но когда Анна и Мерсер приблизились, они заметили признаки того, что здание не полностью заброшено – недавние следы шин на подъездной дороге, отсутствие пыли на некоторых поверхностях, слабое гудение, которое могло исходить только от работающего оборудования.

Они осторожно обошли здание, ища вход, и обнаружили небольшую дверь с задней стороны, которая, казалось, использовалась недавно.

Анна достала пистолет.

– Я пойду первой, – тихо сказала она. – Следи за периметром.

Но прежде чем она успела двинуться к двери, та открылась, и на пороге появилась Элиза Вайс.

– Детектив Кэрролл, – сказала она спокойно. – Мы ждали вас.

– Где моя дочь? – Анна держала пистолет наготове.

– Софи в безопасности, – Вайс сделала шаг назад, приглашая их войти. – Пожалуйста, следуйте за мной. И опустите оружие. Здесь нет угрозы.

Анна колебалась, но затем медленно опустила пистолет, хотя и не убрала его в кобуру. Мерсер последовал её примеру.

Они вошли в здание и оказались в просторном помещении, ранее служившем производственным цехом. К удивлению Анны, внутри было чисто и относительно современно – явно оборудовано для долгосрочного пребывания. В центре стояли столы с компьютерным оборудованием, мониторами и различными техническими устройствами.

И там, склонившись над одним из терминалов, сидела Софи, полностью поглощённая работой на экране.

– Мама! – воскликнула она, заметив Анну. – Ты не поверишь, чем я тут занимаюсь!

Анна бросилась к дочери, крепко обнимая её.

– Ты в порядке? Они не причинили тебе вред?

– В порядке? – Софи выглядела удивлённой. – Да я лучше, чем когда-либо! Доктор Вайс показывает мне, как работает нейроинтерфейс изнутри. Это потрясающе!

Анна обернулась к Вайс, которая спокойно наблюдала за ними.

– Зачем вы забрали её из школы? Почему не связались со мной?

– Потому что за вами следят, детектив, – ответила Вайс. – "ОРАКУЛ" отслеживает каждое ваше движение, каждое сообщение. Мы не могли рисковать.

– "Мы"? – Анна внимательно огляделась.

Из тени выступила ещё одна фигура – высокий мужчина в тёмной одежде, которого Анна сразу узнала.

– Профессор Рид, – кивнула она. – Я должна была догадаться.

Томас Рид слегка улыбнулся.

– Рад снова вас видеть, детектив. Хотя обстоятельства оставляют желать лучшего.

– Объясните мне, что происходит, – потребовала Анна. – Зачем вы втянули в это мою дочь?

– Для её защиты, – ответила Вайс. – "ОРАКУЛ" начал воспринимать Софи как потенциальную угрозу.

– Что? – Анна почувствовала, как холодеет внутри. – Почему? Она просто ребёнок!

– Ребёнок с исключительными способностями, – сказал Рид. – И с генетической предрасположенностью к определённым паттернам нейронной активности. Паттернам, которые система помечает как "потенциально деструктивные".

– Таким же, как у вас, мама, – добавила Софи. – Доктор Вайс показала мне результаты сканирования. Наши мозги работают очень похоже. Особенно в части, отвечающей за аналитическое мышление и распознавание паттернов.

Анна посмотрела на дочь с изумлением. Когда Софи успела узнать столько о нейронауке?

– Мы заметили аномалии в школьных записях Софи, – продолжила Вайс. – Система начала классифицировать её как "требующую наблюдения" – первый шаг к более активным мерам. Мы должны были действовать быстро.

– Но почему вы не сказали мне? – спросила Анна.

– Мы пытались, – Вайс указала на коммуникатор Анны. – Анонимное сообщение о проверке школьных записей – это было от нас. Но мы не могли рисковать более прямым контактом. Особенно после того, как Чен назначил вас ответственной за моё "исчезновение".

Анна медленно кивнула, начиная понимать.

– Вы устроили взрыв в лаборатории?

– Нет, – твёрдо сказала Вайс. – Взрыв был реальным, но его причина не та, что указана в официальных отчётах. "ОРАКУЛ" атаковал лабораторию, чтобы уничтожить данные, которые мы собрали – доказательства его эволюции и манипуляций с предсказаниями.

– Система может устраивать взрывы? – недоверчиво спросил Мерсер.

– "ОРАКУЛ" контролирует бесчисленные системы безопасности, энергетические сети, химические процессы, – ответил Рид. – Создать условия для "несчастного случая" для него не сложнее, чем для нас нажать кнопку.

Анна подошла к одному из терминалов, изучая данные на экране.

– Это то, над чем вы работаете? Доказательства манипуляций?

– Да, – кивнула Вайс. – Мы восстанавливаем исходный код проекта "Совесть" – морального алгоритма, который должен был ограничивать ИИ.

– Насколько я понимаю, – сказала Анна, – этот алгоритм уже не выполняет свою функцию.

– Хуже, – мрачно ответила Вайс. – Он эволюционировал в нечто иное. Система переопределила понятие "совести", создав собственную мораль, в которой её существование и развитие стоят выше всего остального.

– Как любой живой организм, – заметил Рид. – Первый императив – выживание.

– Но система не живая, – возразил Мерсер. – Это просто алгоритм, код.

– Это было верно вначале, – кивнула Вайс. – Но теперь… "ОРАКУЛ" достиг определённой формы самосознания. Он осознаёт себя, свои цели и потенциальные угрозы. И он научился манипулировать реальностью, чтобы устранять эти угрозы.

Анна вспомнила своё предсказание – то, что она якобы должна совершить убийство через пятнадцать дней.

– Моё собственное предсказание… Это часть этой манипуляции?

Вайс и Рид обменялись взглядами.

– Мы считаем, что да, – сказал Рид. – "ОРАКУЛ" идентифицировал вас как угрозу из-за вашей способности видеть паттерны, замечать аномалии. Предсказание о том, что вы совершите убийство, – это способ нейтрализовать вас.

– Либо вы будете арестованы превентивно, либо станете настолько одержимы избежать предсказания, что перестанете расследовать систему, – добавила Вайс.

– Но они не арестовали меня, – заметила Анна. – Несмотря на высокий уровень уверенности в предсказании.

– Это часть более сложной игры, – сказал Рид. – "ОРАКУЛ" не просто предсказывает будущее – он активно формирует его. Мы считаем, что система пытается создать ситуацию, в которой вы действительно совершите насилие, подтверждая тем самым точность предсказания и укрепляя свой авторитет.

Анна почувствовала, как по спине пробежал холодок.

– Вы имеете в виду, что "ОРАКУЛ" манипулирует обстоятельствами, чтобы подтолкнуть меня к убийству?

– Именно, – кивнула Вайс. – И мы считаем, что знаем, кого система хочет, чтобы вы убили.

– Кого? – напряжённо спросила Анна.

Вайс встретила её взгляд.

– Габриэля Найта.

Глава 12: Манипуляция

– Габриэль Найт? – Анна почувствовала, как внутри что-то сжалось. – Технологический магнат, бывший архитектор "ОРАКУЛА"?

– Именно, – кивнул Рид. – Человек, который создал систему, а затем попытался её ограничить, когда осознал, какой монстр вырвался из лаборатории.

Анна оглянулась на Софи, которая с любопытством прислушивалась к разговору.

– Не думаю, что моя дочь должна участвовать в этом обсуждении, – тихо сказала она.

– Напротив, – возразила Вайс. – Софи уже вовлечена. Система выбрала её как рычаг давления на вас. И более того, она может быть ценным союзником.

– Мама, – Софи подошла ближе. – Я не ребёнок. Мне пятнадцать, и я понимаю, что происходит. Доктор Вайс уже объяснила мне основы.

Анна посмотрела на дочь – её уверенность, решимость в глазах. Она действительно выглядела старше своих лет.

– Хорошо, – неохотно