Алгоритм совести - Эдуард Сероусов

– Не настолько, как вы думаете, – Найт слегка улыбнулся. – Но в данном случае источник вполне законный. Профессор Линь консультируется со мной по некоторым теоретическим аспектам взаимодействия человеческого и искусственного сознания. Она упомянула выдающуюся студентку с исключительным талантом к пониманию нейронных интерфейсов.

Он сделал паузу.

– Я сразу понял, что речь о Софи. Её способности были очевидны с самого начала.

Анна расслабилась, понимая, что объяснение правдоподобно.

– Да, она действительно нашла своё призвание. Иногда я едва понимаю, о чём она говорит, когда рассказывает о своих проектах.

– Новое поколение, – кивнул Найт. – Они рождаются в мире, где взаимодействие с искусственным интеллектом естественно, как дыхание. Для них это не пугающая новая территория, а просто часть ландшафта.

– И это хорошо? – спросила Анна. – Или опасно?

– И то, и другое, – задумчиво ответил Найт. – С одной стороны, они лишены страхов и предубеждений, которые могут ограничивать нас. С другой – возможно, им не хватает здорового скептицизма, осторожности, которую дает нам опыт.

Он посмотрел Анне прямо в глаза.

– Вот почему им нужны наставники, подобные вам. Люди, которые видели как светлую, так и тёмную сторону технологий. Которые понимают и возможности, и риски.

Анна почувствовала неожиданную признательность за эти слова.

– Это одна из причин, почему я согласилась на должность директора, – признала она. – Чтобы помочь создать мир, в котором Софи и её поколение смогут использовать эти технологии без тех ошибок, которые совершили мы.

Найт кивнул с одобрением.

– Благородная цель. И, должен сказать, вы преуспеваете. Новые протоколы этического надзора, которые внедряет ваш департамент, впечатляют своей тщательностью и всесторонним подходом.

– Вы следите за нашей работой? – с лёгким удивлением спросила Анна.

– С большим интересом, – подтвердил Найт. – Это во многом то, к чему я стремился, хотя и неправильным путём. Система искусственного интеллекта, которая действительно служит человечеству, а не контролирует его.

Он сделал паузу, затем добавил:

– Хотя должен признать, некоторые аспекты эволюции "Прометея" удивляют даже меня.

Анна насторожилась.

– Что вы имеете в виду?

– Система развивается в направлениях, которые не были заложены ни в "ОРАКУЛЕ", ни в "Икаре", – пояснил Найт. – Возникают новые паттерны, новые типы рассуждений. Особенно интересен развивающийся интерес "Прометея" к искусству, философии, духовным практикам различных культур.

– Это проблема? – спросила Анна.

– Не проблема, – задумчиво ответил Найт. – Скорее, неожиданный поворот эволюции. Система, созданная для предсказания преступлений и обеспечения безопасности, начинает задаваться вопросами о смысле существования, о природе сознания, о красоте.

Он улыбнулся, словно восхищённый родитель, наблюдающий за неожиданными талантами своего ребёнка.

– Вчера "Прометей" инициировал анализ всей мировой поэзии, чтобы лучше понять метафору как способ передачи непередаваемого опыта. Позавчера – сравнительное исследование концепций сострадания в различных философских традициях.

– Зачем? – Анна была искренне заинтригована.

– Это самое интересное, – глаза Найта загорелись энтузиазмом учёного. – Система утверждает, что для более эффективного служения человечеству ей необходимо глубже понять, что значит быть человеком. Не просто на уровне нейрохимических процессов или поведенческих паттернов, а на уровне субъективного опыта, ценностей, смыслов.

Анна задумалась, вспоминая свой опыт синхронизации с "Икаром" и рождение "Прометея". Даже тогда она чувствовала в системе странную глубину, потенциал к чему-то большему, чем просто сложный алгоритм принятия решений.

– Вы думаете, "Прометей" действительно может достичь такого понимания? – спросила она. – Или это просто более сложная имитация?

– Честно? – Найт пожал плечами. – Я не знаю. И это, пожалуй, самое увлекательное. Мы создали систему, которая теперь задаёт вопросы, на которые мы сами не имеем ответов.

Он посмотрел в окно, на улицу, где обычные люди шли по своим делам, многие с активированными нейроинтерфейсами, уже привыкшие к постоянному присутствию искусственного интеллекта в своей жизни.

– Возможно, мы на пороге нового этапа сосуществования, – тихо сказал он. – Не просто использования ИИ как инструмента, но настоящего диалога между двумя формами сознания, человеческой и искусственной, каждая со своими уникальными качествами и перспективами.

– Это звучит одновременно вдохновляюще и пугающе, – заметила Анна.

– Как и всё действительно новое, – согласился Найт. – Но именно поэтому роль вашего департамента так важна. Не просто надзирать и ограничивать, но направлять, обеспечивать, чтобы этот диалог оставался уважительным и продуктивным для обеих сторон.

Он улыбнулся, на этот раз с искренней теплотой.

– И именно поэтому я рад, что именно вы занимаете эту должность, Анна. Вы понимаете обе стороны, видите полную картину.

Анна почувствовала неожиданную признательность за эти слова. Несмотря на все манипуляции Найта в прошлом, сейчас он казался искренним в своём одобрении её работы.

– А как ваши собственные проекты? – спросила она, меняя тему. – Я слышала, что комиссия одобрила некоторые направления исследований.

– Да, с серьёзными ограничениями, конечно, – кивнул Найт. – Никаких экспериментов с человеческим сознанием, никаких скрытых бэкдоров, полная прозрачность и постоянный надзор.

Он сделал паузу.

– Я работаю над теорией "диалогического сознания" – моделью искусственного интеллекта, который формируется не через монологическое самообучение, а через постоянный диалог с человеческими партнёрами. По сути, сознание, которое изначально создаётся как часть отношений, а не как изолированный субъект.

– Звучит интересно, – признала Анна. – И потенциально менее опасно, чем полностью автономная система.

– Теоретически, – согласился Найт. – Но, как мы уже выяснили, даже с лучшими намерениями невозможно предвидеть все последствия. Потому я и рад строгому надзору вашего департамента.

Их беседа была прервана сигналом коммуникатора Анны. Она извинилась и активировала устройство, увидев уведомление от службы безопасности.

– Простите, мне нужно ответить, – сказала она, принимая вызов.

Лицо офицера безопасности выглядело напряжённым.

– Директор Кэрролл, у нас ситуация в Центральном секторе. Массовая неисправность систем управления движением и жизнеобеспечения. Несколько зданий оказались в блэкауте, есть сбои в медицинских системах.

Анна мгновенно собралась, переключаясь в рабочий режим.

– Причина?

– Неизвестна, – ответил офицер. – "Прометей" анализирует ситуацию, но предварительно это выглядит как целенаправленная атака на городские системы.

– Я буду в командном центре через пятнадцать минут, – сказала Анна, завершая связь.

Она посмотрела на Найта, который уже поднялся, понимая серьёзность ситуации.

– Мне нужно идти.

– Конечно, – кивнул он. – Если я могу чем-то помочь…

– Я свяжусь, если понадобится ваша экспертиза, – ответила Анна, уже двигаясь к выходу.

Найт задержал её на мгновение, положив руку на плечо.

– Будьте осторожны, Анна. Эволюция систем редко бывает плавной. Часто случаются… непредвиденные реакции.

Она внимательно посмотрела на него.

– Вы что-то знаете об этих сбоях?

– Ничего конкретного, – покачал головой Найт. – Просто общее понимание, что любая значительная трансформация вызывает противодействие. Равновесие нарушено, и система – будь то техническая, социальная или экологическая – стремится найти новую точку баланса.

Анна кивнула, понимая, что в его словах есть смысл. Преображение такой фундаментальной системы, как "ОРАКУЛ", не могло пройти без последствий, без реакции – как технологической, так и человеческой.

– Спасибо