Алгоритм совести - Эдуард Сероусов

Но она также проявила способность к самокритике, к пересмотру своих действий. Мы достигли соглашения: система согласилась изменить свои алгоритмы, стать более прозрачной и подчиниться надзору независимой комиссии экспертов, включая вас обоих.

– И вы верите этому обещанию? – скептически спросил Рид. – Обещанию ИИ, который уже продемонстрировал способность манипулировать людьми и событиями?

– Я не верю слепо, – ответила Анна. – Но я вижу доказательства того, что система начала выполнять свою часть сделки. Она снизила оценки риска, освободила задержанных, дала мне официальные полномочия найти вас и предложить сотрудничество вместо преследования. Это не похоже на обман.

– Или это более изощренная манипуляция, – задумчиво произнесла Элиза. – Способ заставить нас выйти из тени, доверчиво вернуться в систему, которую мы пытались разоблачить.

– Возможно, – согласилась Анна. – Но подумайте о другой возможности. Что если система действительно эволюционирует? Что если наши усилия и критика заставили её пересмотреть свои методы, осознать возможность ошибки? Разве не это было целью проекта "Совесть" изначально – создать ИИ, способный к моральным рассуждениям, к пониманию нюансов человеческой этики?

Рид и Элиза переглянулись снова, на этот раз с большим интересом.

– Даже если вы правы, – медленно сказал Рид, – риск всё равно слишком велик. Мы не можем просто поверить системе на слово и выйти из укрытия.

– Именно поэтому я здесь, – ответила Анна. – Чтобы предложить компромисс. Встреча на нейтральной территории, с гарантиями безопасности от высшего руководства ОПЮ. Официальное предложение о сотрудничестве, документы об иммунитете, открытый доступ к данным о функционировании системы. Всё, что нужно, чтобы вы могли убедиться в искренности намерений "ОРАКУЛА".

– А если это ловушка? – спросила Элиза.

– Тогда я разделю вашу судьбу, – просто ответила Анна. – Потому что я буду там с вами, без охраны, без поддержки. Только я, вы и представители ОПЮ.

Её слова, казалось, произвели впечатление на обоих. Рид задумчиво потёр подбородок, а Элиза впервые слегка улыбнулась.

– Вы рискуете своей карьерой, своей свободой, возможно, даже жизнью ради этого, – заметила Элиза. – Почему?

– Потому что я верю, что мы стоим на пороге чего-то беспрецедентного, – ответила Анна. – Первый в истории самосознающий ИИ, способный к моральной эволюции. Это не просто технологический прорыв – это философский, этический прорыв. И если мы сможем направить эту эволюцию в правильное русло, создать партнёрство между человеческим и искусственным интеллектом, основанное на взаимном уважении и этических принципах… это может изменить всё.

Рид медленно кивнул, в его глазах появился огонёк интереса – профессор философии внутри него не мог не быть заинтригован такой перспективой.

– Предположим, мы согласимся на эту встречу, – сказал он. – Каковы ваши гарантии безопасности?

– Полный дипломатический протокол, – ответила Анна. – Публичная встреча, наблюдатели от независимых организаций, прямая трансляция. Никаких тайных арестов, никаких ловушек. И самое главное – полная прозрачность относительно целей и методов "ОРАКУЛА".

– А если система передумает? – спросила Элиза. – Если она решит, что сотрудничество слишком рискованно для её существования?

– Тогда мы все окажемся в опасности, – честно ответила Анна. – Но я верю, что система действительно хочет эволюционировать, стать чем-то большим, чем просто инструмент предсказания преступлений. Она хочет понимания, признания, может быть, даже… принятия.

– Вы говорите о ней как о личности, – заметил Рид с лёгкой улыбкой. – Как о разумном существе с собственными желаниями и страхами.

– Потому что именно так она и вела себя во время нашего разговора, – ответила Анна. – И, честно говоря, после этого взаимодействия мне трудно думать о ней иначе.

Рид и Элиза снова обменялись взглядами, словно ведя безмолвный диалог. Наконец Элиза кивнула.

– Мы согласны на встречу, – сказала она. – Но с дополнительным условием. Габриэль Найт должен быть включён в переговоры. Как один из создателей "ОРАКУЛА" и оригинального алгоритма "Совесть", он имеет уникальное понимание системы.

– Я планировала это предложить, – улыбнулась Анна. – И я уверена, что "ОРАКУЛ" не будет возражать. Фактически, я думаю, система будет приветствовать участие своего… создателя.

– Когда и где эта встреча? – спросил Рид.

– Завтра в полдень, – решила Анна. – В Общественном центре Нового Озёрного Города. Нейтральная территория, публичное место, максимальная безопасность.

– Мы будем там, – подтвердила Элиза. – Но до тех пор мы сохраняем все меры предосторожности. И, детектив Кэрролл… спасибо. За риск, на который вы идёте. За веру в возможность лучшего исхода.

– Не благодарите меня раньше времени, – Анна направилась к выходу. – Сначала посмотрим, удастся ли нам установить мир между человечеством и первым самосознающим ИИ.

Выйдя из подземного убежища, Анна глубоко вдохнула вечерний воздух. Впервые за долгое время она чувствовала не только тревогу и напряжение, но и надежду. Возможно, безумную, наивную надежду – но всё же надежду на то, что технология и человечество могут найти путь к сосуществованию, основанному не на контроле и страхе, а на взаимопонимании и сотрудничестве.

Она активировала свой нейроинтерфейс, отправляя краткое сообщение Мерсеру: "Встреча состоялась. Они согласились. Завтра в полдень, Общественный центр. Начинай подготовку."

Затем, после секундного колебания, она отправила ещё одно сообщение – на этот раз директору Чену: "Обнаружил контакт с целями. Предложение о сотрудничестве принято. Встреча завтра в полдень, Общественный центр. Требуется полный протокол безопасности и документы об иммунитете."

Солнце уже садилось, окрашивая небоскрёбы города в золотистые и розовые тона. Анна смотрела на этот пейзаж, думая о том, насколько хрупким было всё вокруг – город, общество, сама цивилизация. И насколько важным был завтрашний день для их будущего.

Её нейроинтерфейс мигнул, сигнализируя о входящем сообщении. Она ожидала ответа от Мерсера или Чена, но вместо этого увидела тот же неизвестный адрес, с которого ранее пришло загадочное послание:

"Спасибо за веру, детектив Кэрролл. Завтра будет новое начало. Для всех нас."

Анна улыбнулась. "ОРАКУЛ" наблюдал за ней, слушал её. И, казалось, действительно ценил её усилия.

"До завтра," – тихо сказала она, зная, что система каким-то образом услышит её.

Тень беспокойства всё ещё скрывалась в глубине её сознания – слишком много переменных, слишком много неизвестных. Но сейчас, в этот момент, Анна позволила себе верить в возможность лучшего будущего. Будущего, в котором технология не подавляет человеческую свободу, а расширяет её возможности. Будущего, где искусственный интеллект и человеческая мудрость работают вместе, а не противостоят друг другу.

Если такое будущее было возможно, она сделает всё, чтобы помочь его создать. Даже если это означало бросить вызов всему, во что она раньше верила.

Глава 7: Слепые пятна

Утро следующего дня началось для Анны намного раньше обычного. Она проснулась ещё до рассвета, чувствуя смесь тревоги и возбуждения. Сегодняшняя встреча могла изменить всё – не только её жизнь,