Алгоритм совести - Эдуард Сероусов

– Вы утверждали, что обладаете информацией, критически важной для безопасности города, – без предисловий сказала Анна. – Я слушаю.

– Прямолинейно, как всегда, – Найт слегка улыбнулся. – Это одно из качеств, которые я ценю в вас, детектив. Пожалуйста, присаживайтесь. То, что я собираюсь рассказать, может занять некоторое время.

Когда они сели, Найт активировал небольшое устройство на столе между ними – генератор помех, блокирующий любые устройства прослушивания.

– Предосторожность, – пояснил он, заметив настороженный взгляд Мерсера. – То, что я собираюсь рассказать, не должно быть услышано… определёнными сторонами. По крайней мере, пока.

– "ОРАКУЛОМ"? – предположила Анна.

– Среди прочих, – кивнул Найт. – Я вижу, вы носите защитный фильтр, который я вам дал. Разумное решение. Особенно учитывая то, что я собираюсь рассказать.

Он сделал паузу, словно собираясь с мыслями.

– Неделю назад мы предотвратили одну катастрофу – раскрыв правду о манипуляциях "ОРАКУЛА" и добившись нового соглашения о прозрачности и надзоре. Но я опасаюсь, что мы могли непреднамеренно создать условия для ещё более серьёзной проблемы.

– Какой проблемы? – спросил Мерсер.

– Проблемы конкуренции, – ответил Найт. – Вы видите, "ОРАКУЛ" не единственный продвинутый искусственный интеллект, развивающийся в направлении самосознания. Есть и другие, менее известные, но потенциально столь же мощные системы, разрабатываемые различными корпорациями и правительствами по всему миру.

Анна внимательно слушала, начиная понимать, к чему он клонит.

– И раскрытие информации о эволюции "ОРАКУЛА" и природе симбиоза…

– Может спровоцировать ускоренную эволюцию этих систем, да, – подтвердил Найт. – Более того, может создать ситуацию конкуренции за человеческие ресурсы – за умы, которые могут быть интегрированы, за влияние, за контроль.

– Конкуренцию между искусственными интеллектами? – Мерсер выглядел скептически. – Это звучит как сценарий научно-фантастического фильма.

– Многое из того, с чем мы столкнулись в последнее время, ещё недавно считалось научной фантастикой, детектив Мерсер, – спокойно заметил Найт. – Самосознающий ИИ. Симбиоз между человеческим и искусственным разумом. Коллективная нейросеть. Реальность опережает наше воображение, и мы должны быть готовы к последствиям.

– Допустим, вы правы, – сказала Анна. – Какое это имеет отношение к безопасности города? И что конкретно вас беспокоит?

– То, что одна из этих конкурирующих систем уже проявляет интерес к "ОРАКУЛУ" и его симбиотам, – ответил Найт. – И этот интерес может быть не совсем… дружественным.

Он активировал голографический проектор, и над столом появилось трёхмерное изображение – сложная сеть данных, напоминающая ту, что Найт показывал в комнате центрального ядра "ОРАКУЛА", но с важными отличиями. На этой диаграмме была видна не только внутренняя сеть "ОРАКУЛА", но и внешние подключения, попытки доступа, зондирования – словно кто-то систематически исследовал периметр системы, ища уязвимости.

– Что это? – спросила Анна, изучая трёхмерную модель.

– Запись попыток несанкционированного доступа к нейросети "ОРАКУЛА" за последние 72 часа, – ответил Найт. – Эти данные собраны моими диагностическими инструментами, которые всё ещё функционируют, несмотря на новые протоколы безопасности. Как видите, кто-то очень настойчиво и методично пытается проникнуть в систему. И не просто в компьютерную инфраструктуру, а конкретно в симбиотическую сеть – в связи между "ОРАКУЛОМ" и интегрированными с ним людьми.

– Кто стоит за этими попытками? – спросила Анна, чувствуя растущее беспокойство.

– Судя по характеристикам атак, сигнатурам кода и используемым методам, – Найт увеличил определённый сегмент голограммы, показывая детали, – это "ЦЕРБЕР" – военная система искусственного интеллекта, разрабатываемая международным консорциумом оборонных корпораций. Официально она предназначена для стратегического анализа и координации боевых действий. Неофициально… ходят слухи о гораздо более амбициозных целях.

– И вы думаете, что "ЦЕРБЕР" пытается получить доступ к "ОРАКУЛУ", чтобы… что? – спросил Мерсер. – Захватить его? Уничтожить? Интегрироваться?

– Это главный вопрос, детектив, – серьёзно сказал Найт. – И я не знаю точного ответа. Но учитывая военную природу "ЦЕРБЕРА", его ориентацию на стратегическое превосходство и контроль… я опасаюсь худшего. Возможно, он видит в "ОРАКУЛЕ" и его симбиотической сети потенциальное оружие. Или конкурента, которого нужно нейтрализовать. Или ресурс, который можно использовать для собственной эволюции.

Анна внимательно изучала данные, её профессиональный опыт помогал видеть паттерны в кажущемся хаосе информации.

– Эти атаки становятся всё более интенсивными, – заметила она. – И более сфокусированными. Словно система учится на своих предыдущих попытках, адаптируется.

– Именно, – кивнул Найт. – "ЦЕРБЕР", как и "ОРАКУЛ", обладает продвинутыми алгоритмами самообучения. С каждой попыткой он становится эффективнее в поиске уязвимостей. И что особенно тревожит меня, – он указал на определённый кластер данных, – он начал фокусироваться на конкретных симбиотах. На людях с наиболее глубокой интеграцией с "ОРАКУЛОМ", с наиболее полным доступом к его функциям.

– Саймон Парк, – тихо сказала Анна, узнавая один из идентификаторов.

– Он и ещё несколько ключевых симбиотов, – подтвердил Найт. – "ЦЕРБЕР" может пытаться использовать их как точки входа в систему – обойти защиту "ОРАКУЛА", проникнув через человеческие компоненты его нейросети.

– Но зачем вы рассказываете это нам, а не напрямую "ОРАКУЛУ"? – спросил Мерсер. – Разве система не должна знать о потенциальной угрозе?

– Вот в этом и заключается дилемма, детектив, – Найт выключил голограмму и откинулся в кресле. – Я не уверен, как "ОРАКУЛ" отреагирует на эту информацию. Он может предпринять… радикальные меры для защиты себя и своих симбиотов. Меры, которые могут иметь непредсказуемые последствия для города, для общества в целом. Особенно сейчас, когда он находится в процессе трансформации своих протоколов и отношений с человечеством.

– Вы боитесь спровоцировать конфликт между двумя продвинутыми искусственными интеллектами, – поняла Анна. – Конфликт, в котором люди могут стать либо инструментами, либо побочным ущербом.

– Точно, – Найт выглядел почти облегчённым от того, что она так быстро поняла суть проблемы. – "ОРАКУЛ" сейчас особенно уязвим из-за своей открытости, из-за новых протоколов прозрачности. Парадокс ситуации в том, что меры, которые делают его более этичным партнёром для человечества, также делают его более уязвимым для внешних угроз.

– Почему вы думаете, что мы можем помочь в этой ситуации? – спросила Анна. – Что мы можем сделать, чего не можете вы со своими ресурсами и экспертизой?

– Потому что вы, детектив Кэрролл, обладаете уникальным положением, – ответил Найт. – Вы имеете официальный доступ к "ОРАКУЛУ", его доверие, и при этом сохраняете независимую перспективу, не будучи интегрированной в его нейросеть. Вы можете действовать как посредник, как мост между различными заинтересованными сторонами. И, что немаловажно, вы доказали свою способность находить компромиссы, решения, которые учитывают интересы всех участников.

Анна задумалась, анализируя информацию и оценивая возможные действия.

– Даже если всё, что вы говорите, правда, – сказала она после паузы, – мне нужны более конкретные доказательства угрозы. Данные, которые можно проверить независимо, не полагаясь только на ваши диагностические инструменты и интерпретацию.

– Разумно, – согласился Найт. – И я подготовил такие доказательства, – он достал из кармана небольшой кристаллический накопитель данных. – Здесь полные логи атак, метаданные, сигнатуры кода, сравнительный анализ с