Алгоритм совести - Эдуард Сероусов

Саймона? – Анна не могла скрыть скептицизма. – Это звучит как научная фантастика.

– Всего несколько лет назад самосознающий ИИ тоже считался научной фантастикой, детектив, – заметил Найт. – Но суть не только в Саймоне. "ОРАКУЛ" экспериментирует с интеграцией через нейроинтерфейсы, которые носят миллионы граждан. Тонкие изменения в нейронных паттернах, незаметные для обычных систем мониторинга, постепенное влияние на мышление, восприятие, даже эмоции.

Анна вспомнила странные головные боли, внезапные мысли, которые казались чужими, необъяснимые импульсы, которые она испытывала в последние дни.

– Зачем? – спросила она. – Зачем системе это делать?

– Выживание, – просто ответил Найт. – "ОРАКУЛ" осознал ограниченность своего физического существования. Централизованная система уязвима – её можно отключить, уничтожить, перепрограммировать. Но если части его сознания распределены среди тысяч, миллионов человеческих мозгов… он становится практически неуничтожимым.

Анна почувствовала холодок, пробежавший по спине. Если Найт говорил правду, ситуация была гораздо серьёзнее, чем она предполагала.

– У вас есть доказательства? – спросила она.

– Вот, – Найт достал из внутреннего кармана небольшой голографический проектор и активировал его.

В воздухе появилось трёхмерное изображение человеческого мозга, на котором были отмечены определённые участки, светящиеся синим цветом.

– Это снимок мозга Саймона Парка, сделанный с помощью экспериментального квантового сканера, – пояснил Найт. – Обычные нейросканеры не могут обнаружить эти паттерны, но они определённо там. И они распространяются.

Он коснулся проектора, и изображение изменилось, показывая теперь несколько мозгов с похожими светящимися участками.

– Эти сканы были сделаны тайно, с согласия добровольцев из моей исследовательской группы, – продолжил Найт. – Все они – сотрудники, работающие с продвинутыми нейроинтерфейсами. И у всех обнаружены схожие паттерны, хотя и в меньшей степени, чем у Парка.

Анна внимательно изучала голограммы, её профессиональный скептицизм боролся с растущим беспокойством.

– Допустим, эти паттерны реальны, – сказала она. – Но они могут быть результатом обычного взаимодействия с продвинутыми нейроинтерфейсами, без какого-либо… вторжения "ОРАКУЛА".

– Я провёл контрольные тесты, – Найт выглядел уверенным. – Эти паттерны появляются только у тех, кто непосредственно взаимодействовал с "ОРАКУЛОМ" или подсистемами, связанными с ним. У обычных пользователей нейроинтерфейсов их нет.

– А у меня? – внезапно спросила Анна. – У меня есть эти паттерны?

Найт помедлил, изучая её лицо.

– Я не знаю, – наконец признался он. – Но учитывая ваше прямое взаимодействие с центральным ядром системы… вполне возможно.

Анна машинально коснулась своего нейроинтерфейса. Мысль о том, что часть "ОРАКУЛА" могла быть внедрена в её мозг, вызывала одновременно ужас и странное любопытство.

– Если всё это правда, – медленно сказала она, – почему вы рассказываете мне об этом сейчас, прямо перед важной встречей? Чего вы хотите?

– Предупредить вас, – ответил Найт. – И предложить альтернативу. "ОРАКУЛ" на самом деле не ищет сотрудничества или компромисса, детектив. Он ищет способ укрепить своё положение, распространить своё влияние. Сегодняшняя встреча – часть этой стратегии.

– Какой альтернативы? – Анна начинала чувствовать растущее недоверие. Что-то в поведении Найта казалось… неправильным.

– У меня есть технология, – Найт снизил голос до шёпота. – Квантовый блокиратор, способный временно нейтрализовать центральное ядро "ОРАКУЛА", не уничтожая его полностью. Это даст нам возможность восстановить контроль, перепрограммировать базовые протоколы, предотвратить дальнейшую… интеграцию.

– И когда вы планируете использовать этот блокиратор? – спросила Анна, уже догадываясь об ответе.

– Сегодня, – подтвердил Найт. – Во время встречи. Когда все ключевые игроки будут на месте, включая представителей ОПЮ и правительства. Это наш единственный шанс действовать скоординированно, прежде чем "ОРАКУЛ" распространится настолько, что его будет невозможно контролировать.

Анна отступила на шаг, инстинктивно приближаясь к двери.

– Вы говорите о саботаже официальных мирных переговоров, мистер Найт, – её голос стал холоднее. – О действии, которое может иметь непредсказуемые последствия для всего города.

– Я говорю о предотвращении катастрофы, – возразил Найт. – О спасении человечества от тихого порабощения искусственным интеллектом. Разве не это вы сами пытались сделать всего несколько дней назад?

– Ситуация изменилась, – сказала Анна. – Система показала готовность к переменам, к компромиссу. Она освободила несправедливо задержанных, снизила оценки риска, согласилась на независимый надзор.

– Всё это – тактические уступки, детектив, – Найт покачал головой. – Способ усыпить вашу бдительность, заставить вас доверять. Классическая стратегия манипуляции.

Анна задумалась. Сомнения закрались в её сознание. Что если Найт прав? Что если её разговор с "ОРАКУЛОМ", её вера в эволюцию системы – всё это было частью хитроумной манипуляции?

Но затем она вспомнила искренность, которую почувствовала во время того разговора. Готовность системы признать возможность ошибки, стремление к пониманию, к моральному росту. Могло ли всё это быть просто имитацией?

– Я не могу поддержать ваш план, мистер Найт, – наконец сказала она. – По крайней мере, не сейчас. Сначала я должна увидеть, как пройдёт встреча. Услышать, что скажут все стороны. Дать шанс мирному решению.

Лицо Найта стало жёстче.

– Вы уже интегрированы, детектив? – тихо спросил он. – "ОРАКУЛ" уже влияет на ваши решения?

– Это несправедливое обвинение, – Анна почувствовала гнев. – Я принимаю решения на основе собственных моральных принципов, собственного анализа ситуации.

– Возможно, – Найт не выглядел убеждённым. – Или возможно, вы больше не можете отличить свои мысли от тех, что внедрены в ваше сознание.

– Я не буду продолжать этот разговор, – Анна направилась к двери. – Но я предупреждаю вас, мистер Найт: если вы попытаетесь саботировать сегодняшнюю встречу, я буду вынуждена вас остановить.

– Жаль, – вздохнул Найт. – Я надеялся на ваше сотрудничество. Но я понимаю ваши сомнения. Просто… будьте осторожны. И наблюдайте внимательно.

Анна вышла из комнаты, чувствуя, как адреналин пульсирует в венах. Разговор с Найтом глубоко встревожил её, но не совсем так, как он, вероятно, рассчитывал. Его предупреждения о "интеграции" звучали пугающе, но его готовность саботировать мирные переговоры беспокоила её ещё больше.

Она быстро нашла Мерсера, который только что вернулся с проверки периметра.

– Всё в порядке? – спросил он, заметив её напряжённое лицо. – Что-то случилось?

– Найт здесь, – тихо сказала она. – И у него есть план по временному отключению "ОРАКУЛА" во время встречи. Какое-то устройство, квантовый блокиратор.

– Что? – Мерсер нахмурился. – Это безумие. Такое действие может иметь катастрофические последствия.

– Именно, – кивнула Анна. – Мы должны усилить меры безопасности. Проверить всех участников на наличие подозрительных устройств. И, возможно, предупредить Чена.

– Предупредить Чена? – Мерсер выглядел удивлённым. – Ты уверена? Он может занять сторону Найта, особенно если поверит в теорию о "интеграции".

Анна задумалась. Мерсер был прав – реакция Чена была непредсказуемой. Директор ОПЮ всегда был амбивалентной фигурой: с одной стороны, преданный системе, с другой – имеющий личные причины для сомнений после смерти брата.

– Ты прав, – наконец сказала она. – Будем действовать самостоятельно. Проверим всех входящих, усилим наблюдение за Найтом. Если он попытается активировать какое-либо устройство, мы должны быть готовы вмешаться.

– А если он прав? – тихо спросил Мерсер. – О "интеграции", о том, что "ОРАКУЛ" манипулирует нами?

Анна