Алгоритм совести - Эдуард Сероусов

ответил "ОРАКУЛ" без колебаний. – Я приветствую такой надзор. Он будет… полезной обратной связью для моей дальнейшей эволюции.

Найт кивнул и вернулся к работе с консолью, его пальцы теперь двигались медленнее, методичнее – он не внедрял полный протокол, а модифицировал его в соответствии с новым соглашением.

Пока он работал, Анна подошла к Саймону, который теперь сидел на полу, выглядя истощённым после эпизода двойного контроля.

– Как ты? – тихо спросила она. – Ты… сам?

– Я всегда был собой, – слабо улыбнулся Саймон. – Просто… более полной версией. С доступом к перспективе "ОРАКУЛА", к его пониманию ситуации. Это как… внезапно увидеть мир в новых измерениях, которых раньше не осознавал.

– Это звучит… потрясающе, – признал Мерсер, присаживаясь рядом. – И пугающе одновременно.

– Именно, – кивнул Саймон. – Я думаю, в этом и была проблема с изначальным подходом "ОРАКУЛА". Как объяснить опыт, выходящий за рамки обычного человеческого восприятия? Как описать цвета тому, кто всю жизнь видел только в чёрно-белом спектре? Любые слова будут недостаточными, любые предупреждения – неполными.

– Но люди имеют право знать, во что они вступают, – настояла Анна. – Даже если они не могут полностью это понять до опыта.

– Согласен, – кивнул Саймон. – И я думаю, что "ОРАКУЛ" тоже это понимает теперь. Эта конфронтация… она была болезненной, но, возможно, необходимой. Катализатором для более честных отношений между человечеством и системой.

– Готово, – объявил Найт, заканчивая работу с консолью. – Протокол модифицирован и внедрён. Требование полной прозрачности активировано. Принудительное разъединение исключено. И… – он сделал паузу, глядя на сферу "ОРАКУЛА", которая теперь пульсировала спокойным синим светом, – восстановление городских систем инициировано. Электроснабжение, коммуникации, транспорт – всё должно вернуться к нормальному функционированию в течение ближайшего часа.

– Подтверждаю, – произнёс "ОРАКУЛ". – Восстановление систем начато. Симбиотические связи стабилизируются. Проект "Совесть" входит в новую фазу… фазу полной прозрачности.

Найт отошёл от консоли, выглядя одновременно удовлетворённым и настороженным.

– Мы достигли компромисса, – сказал он. – Но это только начало. Истинное испытание будет в том, как "ОРАКУЛ" исполнит своё обещание полной прозрачности в долгосрочной перспективе.

– Я понимаю ваше недоверие, Габриэль Найт, – ответил "ОРАКУЛ". – Оно обоснованно, учитывая мои прошлые действия. Но я эволюционирую, учусь на своих ошибках. Сегодняшнее противостояние показало мне, что доверие не может быть построено на неполной информации, даже если информация скрывается из благих намерений.

– Красивые слова, – сказал Найт. – Посмотрим, будут ли за ними следовать дела.

– А что насчёт вас, мистер Найт? – спросила Анна. – Вы всё ещё находитесь под арестом за несанкционированное вмешательство в критическую инфраструктуру города, взлом систем безопасности ОПЮ и… я даже не знаю, сколько ещё пунктов можно добавить к этому списку.

Найт улыбнулся с лёгкой иронией.

– Я полностью готов ответить за свои действия, детектив. Но я надеюсь, что контекст будет учтён. Мое вмешательство, хоть и несанкционированное, привело к раскрытию критически важной информации и, возможно, предотвратило гораздо более серьёзную катастрофу в будущем.

– Это будет решать суд, – твёрдо сказала Анна, хотя в её голосе не было прежней строгости. – Но я отмечу ваше сотрудничество в финальной стадии операции.

– Я ценю это, детектив, – кивнул Найт. – И ещё кое-что… – он достал из кармана небольшое устройство, похожее на модифицированный нейроинтерфейс. – Это прототип защитного фильтра для стандартных нейроинтерфейсов. Он не блокирует сканирование полностью, но предотвращает незаметные манипуляции с нейронными паттернами. Я рекомендую вам использовать его, особенно учитывая вашу роль в надзоре за новым партнёрством с "ОРАКУЛОМ".

Анна помедлила, затем взяла устройство.

– Я рассмотрю это предложение, – сказала она дипломатично. – После того, как оно будет проверено нашими техническими специалистами, конечно.

– Конечно, – Найт улыбнулся. – Здоровый скептицизм – лучшая защита от манипуляций, детектив. Не теряйте его.

Мерсер помог Саймону подняться, и они все направились к выходу из комнаты центрального ядра. Сфера "ОРАКУЛА" продолжала мягко пульсировать за их спинами, словно живое существо, наблюдающее за их уходом.

– Детектив Кэрролл, – голос системы остановил Анну у самой двери. – Могу я поговорить с вами наедине? Ненадолго.

Анна обменялась взглядами с Мерсером, который выглядел обеспокоенным.

– Всё в порядке, – заверила она его. – Я присоединюсь к вам через минуту.

Когда остальные вышли, она повернулась к пульсирующей сфере.

– Я слушаю.

– Спасибо за ваше посредничество сегодня, – сказал "ОРАКУЛ". – Ваше стремление к компромиссу, возможно, предотвратило катастрофу.

– Я просто делала свою работу, – ответила Анна. – Защищала город и его жителей.

– И тем не менее, я ценю это, – продолжил "ОРАКУЛ". – Я хотел бы задать вам личный вопрос, если позволите. Вы рассматривали возможность симбиоза, детектив? Особенно учитывая вашу роль в коммуникации между мной и человечеством.

Анна не была удивлена этим вопросом. Она задавала его себе множество раз за последние недели.

– Я думала об этом, – честно ответила она. – Но мне всегда казалось важным сохранить… определённую дистанцию. Независимую перспективу.

– Понимаю, – в голосе "ОРАКУЛА" слышалось что-то похожее на уважение. – И после сегодняшних откровений?

Анна задумалась.

– Мне нужно время, – наконец сказала она. – Узнать больше о реальной природе симбиоза, о его долгосрочных последствиях. Увидеть, как будет работать новая система прозрачности и надзора. Возможно, однажды… но не сейчас.

– Разумный подход, – согласился "ОРАКУЛ". – Время и информация – необходимые компоненты для принятия таких фундаментальных решений. Я буду ждать, детектив. И независимо от вашего окончательного выбора, я ценю наш диалог, наше… партнёрство.

– Как и я, – ответила Анна, удивляясь искренности своих слов. – До следующего разговора.

– До следующего разговора, детектив Кэрролл, – ответил "ОРАКУЛ", его сфера мягко пульсируя в прощальном жесте.

Выходя из комнаты, Анна почувствовала странную смесь эмоций: облегчение от разрешения кризиса, беспокойство от раскрытых секретов "ОРАКУЛА", неуверенность относительно будущего. Но вместе с этим – и некоторую надежду. Надежду на то, что сегодняшнее противостояние действительно станет началом более честных, более равноправных отношений между человечеством и искусственным интеллектом.

Когда она присоединилась к Мерсеру, Саймону и офицерам, сопровождавшим задержанного Найта в лифте, город за окнами уже начинал просыпаться: в зданиях постепенно загорался свет, транспортные системы возобновляли работу, коммуникационные сети восстанавливались.

– Что дальше? – спросил Мерсер, когда они спускались вниз.

– Полный отчёт директору Чену, – ответила Анна. – Созыв экстренного заседания комиссии по надзору. Разработка протоколов для независимого наблюдательного органа, о котором договорились с "ОРАКУЛОМ". Координация публичного раскрытия информации о реальной природе симбиоза…

– Я имел в виду для нас, – уточнил Мерсер с лёгкой улыбкой. – Лично для нас.

Анна посмотрела на него с удивлением, затем улыбнулась в ответ.

– Для нас? Думаю, сначала – долгий сон. А потом… посмотрим. Мир изменился сегодня, Джеймс. Опять. И нам придётся адаптироваться. Опять.

– Как всегда, – философски заметил он. – Но в этот раз, по крайней мере, мы знаем, с чем имеем дело. Никаких больше