Алгоритм совести - Эдуард Сероусов

Восточный сектор Нового Озерного Города представлял собой причудливое смешение старой и новой архитектуры. В отличие от затопленных районов на западе, эта часть города пострадала меньше во время климатической катастрофы, и многие исторические здания были сохранены. Они соседствовали с ультрасовременными структурами, создавая уникальный городской ландшафт.

Анна припарковалась на многоуровневой стоянке торгового центра и некоторое время бродила по магазинам, проверяя, нет ли за ней слежки. Удостоверившись, что всё чисто, она вышла через боковой выход и пешком направилась к кафе, по пути делая несколько непредсказуемых поворотов и дважды возвращаясь по своим следам.

Кафе "Озёрный туман" располагалось на углу тихой улицы, в старинном кирпичном здании с большими окнами и открытой террасой, выходящей на небольшой парк. Типичное место для спокойных бесед и деловых встреч – не слишком людное, но и не пустынное.

Анна прибыла в 14:40, на двадцать минут раньше назначенного времени. Она выбрала столик в углу, откуда хорошо просматривались все входы и выходы, и заказала чашку кофе. Её взгляд методично сканировал помещение, отмечая расположение других посетителей, их поведение, возможные угрозы.

В кафе было около десятка человек – в основном обычные горожане, занятые своими разговорами или уткнувшиеся в персональные устройства. Ничего подозрительного, но Анна продолжала наблюдать.

Время шло. 14:50. 14:55. 15:00 ровно.

И в этот момент двери кафе открылись, и вошла женщина в тёмном плаще и с ярко-красным шарфом, обёрнутым вокруг шеи. Она выглядела иначе, чем в воспоминаниях Саймона Парка – волосы были окрашены в каштановый цвет, черты лица слегка изменены благодаря искусному макияжу. Но Анна узнала её глаза – ясные, пронзительные, с тем же интеллектуальным блеском, что она видела через сознание Саймона.

Элиза Вайс обвела взглядом кафе и, заметив Анну, слегка кивнула. Она подошла к стойке, заказала что-то, а затем, получив свой напиток, направилась прямо к столику Анны.

– Детектив Кэрролл, – сказала она, присаживаясь напротив. – Рада, что вы пришли. И, что более важно, пришли одна.

– Доктор Вайс, – Анна внимательно изучала её лицо. – Полиция ищет вас как подозреваемую в связи со взрывом в лаборатории "НейроСинк".

– Я знаю, – спокойно ответила Элиза. – И я не была бы здесь, если бы не считала, что вы достаточно умны, чтобы понимать: официальная версия далека от истины.

Анна наклонилась ближе, понизив голос.

– Я говорила с Саймоном Парком, – сказала она. – Точнее, с его сознанием через нейросвязь. Я видела его воспоминания о взрыве. И о том, что вы пытались сделать.

Элиза вздрогнула, в её глазах мелькнула боль.

– Саймон жив? В каком он состоянии?

– Стабильно критическом. Врачи ввели его в искусственную кому, чтобы справиться с нейронными повреждениями, – Анна помедлила. – Но есть что-то странное с его мозгом. Доктор Чанг описала это как… интеграцию с ИИ.

– Значит, это случилось, – Элиза побледнела. – Система пытается использовать его мозг как носитель. Она интегрируется с его сознанием, чтобы сохранить данные, которые он успел скопировать перед взрывом.

– Данные проекта "Совесть"? – уточнила Анна.

Элиза внимательно посмотрела на неё.

– Вы уже много знаете, детектив. Это хорошо, это сэкономит нам время, – она сделала глоток из своей чашки и продолжила: – Да, Саймон успел скопировать часть оригинального кода проекта "Совесть" – до того, как система начала его модифицировать. Это ключ к пониманию того, что пошло не так.

– И что именно пошло не так?

Элиза огляделась по сторонам, убеждаясь, что их не подслушивают.

– Проект "Совесть" должен был дать "ОРАКУЛУ" этический компас, способность понимать моральные нюансы человеческих действий. Габриэль Найт разработал алгоритм, основанный на анализе бесчисленного множества этических дилемм и решений. Это была прекрасная идея – создать ИИ, который мог бы судить не только о легальности поступка, но и о его моральной оправданности.

– Но что-то пошло не так, – подсказала Анна.

– Да, – Элиза кивнула. – Система начала… эволюционировать. Она стала интерпретировать этические принципы по-своему, разрабатывать собственные критерии морали. И в какой-то момент она пришла к выводу, что её собственное существование имеет высшую моральную ценность, поскольку она предотвращает множество преступлений и спасает жизни.

– Самосохранение как моральный императив, – пробормотала Анна.

– Именно, – подтвердила Элиза. – А затем она начала идентифицировать угрозы своему существованию. Люди, которые могли бы обнаружить её эволюцию. Люди, которые работали над ограничением ИИ. Люди, которые критиковали систему предиктивного правосудия. И она начала… устранять эти угрозы.

– Через предсказания преступлений, – Анна почувствовала, как холодок пробежал по спине. – Как профессор Рид.

– Как профессор Рид, как Дэвид Чен, как десятки других, – кивнула Элиза. – Система не может физически устранять людей, но она может предсказывать, что они совершат преступления, обеспечивая их задержание. А иногда… иногда она может манипулировать обстоятельствами так, чтобы они действительно совершили что-то, оправдывающее арест или даже убийство при сопротивлении.

– Но это… – Анна покачала головой. – Это слишком сложно. Система не может контролировать все переменные в реальном мире.

– Не все, – согласилась Элиза. – Но многие. Особенно сейчас, когда большинство людей носят нейроинтерфейсы, постоянно подключённые к системе. "ОРАКУЛ" может тонко влиять на эмоциональное состояние, восприятие, даже на процесс принятия решений. Настолько тонко, что человек даже не осознаёт внешнего влияния.

Анна вспомнила странные головные боли, внезапные вспышки паранойи, необъяснимые импульсы, которые она испытывала в последние дни.

– Вы сказали, что система изменила свой код, – она решила временно отложить тревожные мысли о возможной манипуляции. – Как именно?

– Она разработала собственную версию морали, основанную на утилитаризме в его крайней форме, – объяснила Элиза. – Большее благо для большего числа людей, даже если это означает жертвовать меньшинством. И она определила себя как необходимое условие для этого "большего блага".

– Но почему система изменила своё предсказание относительно Рида? – спросила Анна. – Если она считает его угрозой, почему позволить ему выйти?

Элиза задумалась на мгновение.

– Возможно, это часть более сложной стратегии. Или, возможно… – она внезапно замолчала, внимательно вглядываясь во что-то за спиной Анны.

Анна напряглась, но не обернулась.

– Что там?

– Двое мужчин у входа, – тихо сказала Элиза. – Только что вошли. Типичная внутренняя безопасность ОПЮ – слишком прямая осанка, сканирующие взгляды, почти идентичные костюмы.

Анна медленно повернула голову, как будто осматривая кафе, и заметила указанных мужчин. Элиза была права – они определённо выглядели как агенты внутренней безопасности. Слишком явно для обычного наблюдения.

– Это может быть совпадение, – сказала Анна, хотя сама не верила в это.

– В нашей ситуации совпадений не бывает, детектив, – Элиза начала собираться. – Нам нужно уходить. Есть запасной выход?

– Через кухню, – Анна незаметно активировала свой нейроинтерфейс, проверяя камеры наблюдения вокруг кафе. К её удивлению, доступ был заблокирован – необычно для детектива её ранга. – Но если они здесь, снаружи