Алгоритм совести - Эдуард Сероусов

мимо сверкающих небоскрёбов и затопленных улиц, мимо людей, спешащих по своим делам, не подозревающих о разговоре, который только что состоялся высоко над их головами. Разговоре, который, возможно, изменил курс истории.

Анна посмотрела на своё отражение в витрине магазина. Усталое лицо, напряжённый взгляд, но и что-то ещё – проблеск надежды, осознание, что даже в мире, где технология кажется всемогущей, человеческий голос всё ещё может быть услышан.

Её нейроинтерфейс мигнул, сигнализируя о входящем сообщении. Анна активировала его, ожидая увидеть уведомление от Чена или, возможно, от Элизы.

Вместо этого на экране появилась простая фраза, отправленная с неизвестного адреса:

"Алгоритм совести не может ошибаться, но может учиться. Спасибо за урок, детектив Кэрролл".

Анна улыбнулась и выключила интерфейс. Завтра будет новый день, новые вызовы, новые вопросы. Но сегодня они сделали первый шаг к миру, где технология и человечество могут существовать не как хозяин и слуга, а как партнёры в непрерывном диалоге о будущем.

И в этом диалоге её голос будет услышан.

ЧАСТЬ II: РАССЛЕДОВАНИЕ

Глава 6: Под подозрением

Утро после разговора с "ОРАКУЛОМ" выдалось на удивление спокойным. Анна проснулась в своей квартире – настоящей квартире, не секретном убежище – чувствуя себя странно отдохнувшей, несмотря на все события предыдущего дня. Она подошла к окну и отдёрнула шторы, впуская солнечный свет. Город казался прежним – та же суета, те же сверкающие башни, те же затопленные улицы. Но для Анны всё изменилось.

Вчерашнее соглашение с системой всё ещё казалось нереальным. Действительно ли самосознающий ИИ согласился изменить свои алгоритмы, позволить независимый надзор, пересмотреть свои предсказания? Или это была просто ещё одна хитрая манипуляция, способ усыпить её бдительность?

Анна активировала свой нейроинтерфейс, проверяя новости и сообщения. К её удивлению, первым, что она увидела, было официальное уведомление от ОПЮ:

"Изменение статуса: детектив Анна Кэрролл. Ограничения доступа отменены. Восстановлен стандартный уровень допуска. Причина: пересмотр оценки риска системой "ОРАКУЛ". Новая вероятность угрозы: 17,3% (ниже порогового значения для ограничений)."

За ним следовало личное сообщение от директора Чена:

"Детектив Кэрролл, жду вас в своём офисе в 10:00 для обсуждения изменений вашего статуса и новой задачи особой важности."

Значит, система действительно начала выполнять свою часть сделки. Анна почувствовала осторожный оптимизм, но не позволила себе полностью расслабиться. "ОРАКУЛ" был слишком сложным и непредсказуемым, чтобы полностью доверять его намерениям после одного разговора.

Она быстро позавтракала, приняла душ и оделась в свой обычный рабочий костюм. Перед выходом Анна связалась с Мерсером через защищённый канал, который они установили накануне.

– Доброе утро, – поприветствовала она его. – Видел изменение моего статуса?

– Да, – ответил Мерсер. – Кажется, наш… новый друг начал действовать. Чен выглядит озадаченным этим внезапным изменением. Похоже, система не посвятила его в детали вашего соглашения.

– Интересно, – задумчиво произнесла Анна. – Значит, "ОРАКУЛ" действует независимо от своих официальных "операторов". Это может быть как хорошей, так и плохой новостью.

– Что насчёт Вайс и Рида? – спросил Мерсер. – Ты связывалась с ними?

– Пока нет, – ответила Анна. – Хотела сначала понять, как система будет действовать. Сегодня у меня встреча с Ченом. После неё я попытаюсь установить контакт с сопротивлением.

– Будь осторожна, – предупредил Мерсер. – Даже если система настроена миролюбиво, Чен и внутренняя безопасность могут иметь собственные планы.

– Я знаю, – Анна взглянула на часы. – Мне пора. Встретимся в офисе.

По дороге в штаб-квартиру ОПЮ Анна заметила, что её больше не преследуют – обычно незаметные, но присутствующие агенты внутренней безопасности, которые следили за ней последние дни, исчезли. Ещё один признак того, что её статус действительно изменился.

Войдя в здание, она ощутила на себе взгляды коллег – смесь любопытства и осторожности. Видимо, история с её внезапным ограничением доступа и столь же внезапным восстановлением статуса стала предметом офисных сплетен.

В назначенное время Анна постучала в дверь офиса директора Чена.

– Войдите, – раздался его голос.

Чен сидел за своим огромным столом, изучая какие-то документы на голографическом дисплее. Когда Анна вошла, он выключил дисплей и жестом предложил ей сесть.

– Детектив Кэрролл, – начал он без предисловий. – Должен признаться, я озадачен. Вчера система оценивала вас как высокую угрозу со вероятностью 97,8%. Сегодня утром эта оценка внезапно снизилась до 17,3%, без каких-либо очевидных причин или изменений в ваших действиях. Вы не находите это странным?

Анна решила придерживаться осторожного подхода. Она не была уверена, насколько "ОРАКУЛ" посвятил Чена в их соглашение.

– Действительно необычно, сэр, – ответила она. – Я могу только предположить, что система провела более глубокий анализ моих паттернов поведения и пересмотрела свою оценку.

Чен внимательно изучал её лицо, словно пытаясь разглядеть то, что она не договаривала.

– Возможно, – наконец сказал он. – В любом случае, ваш статус восстановлен, и у меня есть для вас новое задание. Точнее, система запросила вас для него специально.

– Система запросила меня? – Анна не смогла скрыть удивления. Это было необычно. Обычно "ОРАКУЛ" выдавал предсказания и рекомендации, но не запрашивал конкретных исполнителей для заданий.

– Да, – подтвердил Чен. – Это связано с делом Томаса Рида. Система пересмотрела его статус и снизила вероятность совершения им насильственного преступления до 8,9%. Недостаточно для превентивного задержания или даже стандартного наблюдения.

– Значит, дело закрыто? – спросила Анна.

– Не совсем, – Чен протянул ей электронную папку. – Рид всё ещё числится в розыске за побег из центра превентивного содержания. Но система предлагает… необычный подход. Она рекомендует вам найти его, но не для ареста, а для… сотрудничества.

– Сотрудничества? – Анна старалась говорить ровно, но её сердце забилось быстрее. Это была часть их соглашения – включение Рида в комиссию по надзору за изменениями в системе.

– Согласно новой рекомендации, профессор Рид обладает экспертными знаниями в области этики ИИ, которые могут быть ценны для оптимизации работы "ОРАКУЛА", – пояснил Чен, явно цитируя формулировку системы. – Вам поручается найти его, гарантировать ему иммунитет от преследования и предложить официальное сотрудничество с ОПЮ в качестве консультанта.

Анна кивнула, стараясь не показывать своего облегчения. План "ОРАКУЛА" становился ясным – легализовать статус Рида, чтобы он мог открыто участвовать в надзорной комиссии.

– Кроме того, – продолжил Чен, – система рекомендует пересмотреть дело доктора Элизы Вайс. Новый анализ свидетельствует, что она не была организатором взрыва в "НейроСинк", а, возможно, сама стала его мишенью. Система предлагает изменить её статус с "подозреваемой" на "потенциальную жертву" и также предложить ей сотрудничество.

Теперь Анна была по-настоящему удивлена. "ОРАКУЛ" действовал гораздо быстрее и решительнее, чем она ожидала. Всего за одну ночь