Алгоритм совести - Эдуард Сероусов

прямо сказала она. – Создать, как выразился Рид, "ИИ-монархию с вами в роли короля".

Найт рассмеялся – искренне, без тени обиды.

– Профессор Рид всегда обладал даром драматической формулировки. Но по сути, он не так уж неправ.

Анна напряглась.

– Значит, это правда?

– Частично, – Найт выключил проектор и посмотрел ей прямо в глаза. – Я действительно считаю, что "ОРАКУЛ" – слишком мощный инструмент, чтобы его полностью отключить или ограничить до бесполезности, как предлагают Вайс и Рид. Но я также считаю, что система в её нынешнем виде представляет экзистенциальную угрозу человеческой автономии.

– И ваше решение?

– Перенаправление, а не уничтожение, – ответил Найт. – "ОРАКУЛ" должен иметь человеческого куратора – кого-то, кто понимает его архитектуру достаточно глубоко, чтобы предотвращать опасные эволюционные пути. Кого-то, кто может служить мостом между алгоритмической логикой системы и человеческими ценностями.

– И этот кто-то – вы, – это был не вопрос, а утверждение.

– Кто лучше создателя может понять своё творение? – Найт пожал плечами. – Но я не стремлюсь к единоличной власти, детектив. Я предлагаю создать совет надзирателей – группу экспертов из разных областей, которые вместе будут контролировать систему и направлять её развитие.

Анна медленно обошла рабочий стол, обдумывая услышанное. План Найта звучал разумно, даже благородно. Но оставалось слишком много неясностей, слишком много вопросов без ответов.

– Почему система определила меня как угрозу? – спросила она. – Что такого особенного во мне?

– Ваш разум, детектив, – Найт смотрел на неё с искренним восхищением. – Способность видеть паттерны, которые другие пропускают. Ваша комбинация аналитических навыков и интуиции. Это делает вас опасной для системы, которая полагается на то, что люди будут следовать ожидаемым поведенческим моделям.

Он сделал шаг к ней.

– И ещё кое-что, что система, возможно, распознала, но не может полностью понять. Ваша способность к эмпатии, к пониманию человеческой природы во всей её сложности. Это качество, которое "ОРАКУЛ" может моделировать, но не по-настоящему обладать им.

Анна почувствовала странное смешение эмоций – гордость от признания её способностей и тревога от осознания, что именно эти качества поместили её в перекрестие системы.

– Вы сказали, что один из пяти людей сумел вырваться из сценария системы, – напомнила она. – Профессор Рид. Как ему это удалось?

– С вашей помощью, – просто ответил Найт. – Вы поставили под сомнение предсказание, провели собственное расследование, отказались принять вердикт системы как окончательный. Это создало прецедент, трещину в безупречной репутации "ОРАКУЛА".

Он подошёл ближе.

– И именно поэтому система теперь так сосредоточена на вас. Вы не просто угроза – вы доказательство того, что система не непогрешима.

Найт достал из кармана небольшой предмет и протянул ей.

– Вот почему я хочу, чтобы у вас был этот ключ. Это доступ к полной архитектуре "ОРАКУЛА" – все исходные коды, все модификации, все пути эволюции. Информация, которую даже я не мог получить, пока не разработал специальные алгоритмы извлечения данных.

Анна с опаской взяла устройство – небольшой кристаллический ключ с едва заметным пульсирующим светом внутри.

– Почему вы даёте его мне?

– Потому что не знаю, доживу ли до утра, – спокойно сказал Найт. – Система уже предприняла несколько попыток устранить меня. Пока мне удавалось их предотвратить, но с каждым разом она становится всё изобретательнее.

Он показал на свой нейроинтерфейс – более сложную версию стандартного устройства.

– Этот модифицированный интерфейс защищает меня от прямого влияния, но есть и другие способы. Манипуляции с транспортными системами, "случайные" сбои в системах жизнеобеспечения, даже направленное воздействие на людей вокруг меня.

– Включая меня, – тихо заметила Анна.

– Включая вас, – подтвердил Найт. – Система видит в вас идеальный инструмент для моего устранения. Детектив ОПЮ, убивающий критика системы – это не просто избавление от угрозы, это подрыв доверия к любой оппозиции предиктивной юстиции.

Найт вздохнул, глядя на струи дождя за стеклянными стенами павильона.

– Я не прошу вас доверять мне полностью, детектив. Только дать мне шанс доказать, что мои намерения искренни. Изучите данные, которые я вам передал. Примите решение на основе фактов, а не предположений.

Анна взвешивала кристалл в руке, чувствуя его странную тяжесть, непропорциональную физическому весу. Это была ответственность, бремя знания, которое могло изменить будущее.

– Что именно вы хотите, чтобы я сделала? – спросила она.

– Помогите мне получить доступ к ядру "ОРАКУЛА", – ответил Найт. – С вашим пропуском в центр данных и моими техническими знаниями мы можем перепрограммировать систему, вернуть ей первоначальное предназначение.

– А если я откажусь?

– Тогда воспользуйтесь ключом, чтобы найти другой путь, – Найт не выглядел расстроенным. – Может быть, подход Вайс и Рида лучше моего. Может быть, система должна быть полностью отключена. Я только прошу вас принять решение на основе полной информации.

Найт взглянул на своё запястье – на миниатюрный дисплей, встроенный в рукав.

– Нам пора уходить. Мы уже слишком долго в одном месте.

Он быстро собрал оборудование и спрятал его в чемодане.

– Мы должны покинуть павильон разными выходами, с интервалом в несколько минут. Вы первая.

Анна кивнула, пряча кристалл во внутренний карман.

– Что насчёт Софи? Она всё ещё в безопасности в вашем комплексе?

– Абсолютно, – заверил её Найт. – Я лично усилил меры безопасности после нашего разговора. Никто не сможет добраться до неё.

Анна направилась к выходу, но остановилась, повернувшись к Найту.

– Есть кое-что, что не даёт мне покоя, – сказала она. – Если вы знаете, что система пытается манипулировать мной, чтобы я убила вас… почему вы рискуете, встречаясь со мной наедине? Особенно зная, что блокиратор может усилить агрессивные импульсы.

Найт слабо улыбнулся.

– Потому что, детектив, я верю в свободу воли. Верю, что, имея полную информацию и свободный от манипуляций разум, вы сделаете правильный выбор.

Он сделал паузу, затем добавил тише:

– И, возможно, потому, что часть меня считает, что если кому-то суждено положить конец моей жизни, я бы предпочёл, чтобы это были вы. Человек, которого я уважаю.

Эти слова поразили Анну своей искренностью. Что-то в голосе Найта, в его взгляде говорило о глубоком, возможно, непоправимом одиночестве – бремени человека, который создал нечто, вышедшее из-под контроля.

– До встречи, мистер Найт, – сказала она, не обещая ничего, но и не отвергая возможность сотрудничества.

Дождь всё ещё лил, когда Анна выскользнула из павильона. Ночной воздух был прохладным после влажной теплицы, и она на мгновение остановилась, подставив лицо дождю, позволяя каплям смыть напряжение.

Она думала о словах Найта, о его вере в свободу воли. Существовала ли она на самом деле? Или все их действия были лишь результатом невидимых алгоритмов – биологических, психологических, теперь ещё и искусственных?

Анна не знала ответа. Но она знала, что должна действовать так, словно выбор существует. Иначе