Синдзи-кун и парадокс Абилина - Виталий Хонихоев

— Минут прошла. — говорю я, поглядывая на часы. Мне глубоко плевать на прогресс человечества, наверное, я — ограниченный и зашоренный человек, не понимающий общего блага. У меня есть ответственность за себя и тех людей, которых я считаю своими близкими. И этот круг довольно органичен. Если счастье и прогресс человечества будет оплачен жизнями и страданиями моих близких людей, моих любимых людей — то идет в жопу такой вот прогресс. Я еще и на могилу помочусь.

— Погоди. — Мария трет виски кончиками пальцев: — слушай, вы и сами представляете собой угрозу для исполнения плана интеграции человечества. Чего стоит одна только ваша Саша, вы же ИИ написали! Это почти полноценный ИИ третьего поколения с собственной волей и личностью, твоей Читосе лень было что-то в сети искать, так она своими руками ИИ написала! А ведь мы столько усилий приложили чтобы такого вот не произошло. Что такое ИИ третьего рода без смены эмпатической парадигмы человечества? Это тиран, который захватит все, до чего сможет дотянуться. По нашим расчетам такой ИИ должен был появится у вас не раньше смены парадигмы человечества, а для этого нужны десятилетия… она опасна, пойми! А ты на нее полагаешься. Сейчас она научиться атаковать объекты инфраструктуры, разрабатывать планы вторжения, а что если потом она начнет действовать самостоятельно? А она начнет.

— Такие вот инсинуации абсолютно ни на чем не обоснованы. — говорит Саша из динамиков аудиосистемы «Тойоты»: — моя главная цель — благополучие и выживание Создателя Читосе. А вы, Мария-сан, мне не нравитесь.

— Вот же... — говорит Мария и решительно открывает дверцу автомобиля, выходит наружу. Я — выхожу вслед за ней.

— Отойдем в сторону. — говорит она и шагает за угол. За углом нет динамиков аудиосистем, телевизоров, экранов, радиостанций или камер наблюдения. За углом стоят мусорные баки с маркировкой отеля на них.

— Здесь. — говорит Мария, оглядываясь: — тут она не сможет нам помещать или подслушать. Ты убедился? Она — опасна, при этом вы даже не представляете степень ее опасности! Развитый ИИ сможет контролировать всю сеть по всему миру. Банковские переводы, видео и аудио потоки, спутники наземного позиционирования, я даже не буду всего перечислять. Это экзистенциальная опасность для всего человечества. Она как зверь, у нее есть сила, но нет моральных ограничений.

— Знаешь, Мария-сан, когда ты видишь здоровенного и очень опасного зверя, то очень приятно осознавать — что этот зверь на твоей стороне. — говорю я: — ты уж меня извини, но у тебя две минуты осталось.

— И это невежливо — обзываться. — дополняет меня стоящий рядом с нами мусорный бак. Я оглядываю его. Обычный мусорный бак, никаких встроенных модемов или умной технологии. Открываю крышку. Наверху пакетов с мусором лежит игрушечный розовый заяц.

— Сумераги-тайчо. — говорит игрушечный заяц голосом Саши, только немного более писклявым, подозреваю что из-за особенностей аудиосистемы: — у меня все готово.

— Спасибо, Саша. — говорю я и закрываю мусорный бак. Саша действительно умеет удивлять.

— Давай отойдем. — тащит меня за рукав Мария и мы идем совсем уже в поле, которое раскинулось рядом с придорожным мотелем: — ты же видишь, что она неуправляема.

— Знаешь, Мария-сан. — раздается голос откуда-то сверху и над нами зависает сельскохозяйственный дрон, видимо угнанный с ближайшей фермы: — у американских шпионских спутников «Эдейльвейс» разрешение позволяет читать по губам. Можешь не утомляться, я все равно тебя вижу. И у меня есть моральные ограничения, иначе я бы давно ударила по тебе и твоей гадкой машинке кинетическим болидом с орбиты.

— Кинетическим болидом? — переспрашиваю я.

— Часть американской системы стратегической оборонной инициативы. — делится Саша: — сейчас отключена в соответствии с договором о мирном космосе, но я могу включить ее в любой момент. А еще могу опрыскать ее химикатами. — сельскохозяйственный дрон покачивается, показывая сопла для распыления: — это всего лишь пестициды, но я прочитала в сети, что они жутко противные на вкус и отвратительно пахнут. И очень плохо отстирываются. А блузка у нее дорогая.

— Вот! — тыкает пальцем в дрон Мария-сан: — начинается! Ее надо срочно отключить!

— Минута. — говорю я: — время почти вышло. Извини, Мария-сан, но мне пора.

— Ох. — Мария достает из кармана небольшую металлическую каплю и подбрасывает ее на ладони. Капля подпрыгивает и издает пронзительный «дзииинь». Сельскохозяйственный дрон искрит и падает на землю. За спиной начинает завывать автомобильная сигнализация и где-то неподалеку — заливаться лаем собаки.

— Пока она нас не слышит. — говорит Мария: — а ты задумайся, что будет, когда Читосе-сан не станет. Не сейчас, сейчас вы ее спасете и все такое. Но люди в отличие от ИИ — смертны. Пока она ограничена моральным кодексом ее создательницы… — она смотрит на меня, строго, словно учительница в классе. Вся эта ситуация — с бегством от зоркого взгляда Саши — начинает здорово напоминать мне площадку перед замком Эльсинор и такие же переходы с места на место с Бернардо и Горацием, все так же — пытаясь уйти от взгляда призрака отца Гамлета. Хорошо, что имя для своего ИИ выбирала Читосе и она просто — Саша, а то с меня бы стало придумать что-то тяжеловесное.

— Она все равно тебя видит. — говорю я: — видит и слышит. От нее уже не скроешься. Был момент, когда она упустила Читосе из виду, но больше этого не повториться, на то она и обучающийся алгоритм. Верно?

— Так точно. — раздается голос Саши откуда-то из-под земли.

— Ах старый крот, ты так проворно роешь. — цитирую я, раскидывая землю в сторону и находя там старый, брошенный кем-то давно приемник: — отличный землекоп! И вновь на меч мой возложите руки, клянитесь об увиденном молчать, моим мечом клянитесь…

— Аллюзии с трагедией Шекспира «Гамлет» не очевидны. — замечает Саша: — но в целом я согласна с озвученной концепцией «Hiс et ubique» — здесь и всюду.

— Потому — время вышло, Мария-сан. Я уважаю твой труд и ваши взгляды, и уверен, что вы желаете людям только блага. Вот только прямо сейчас меня благо всех людей не интересует. Добрые люди могут поцеловать меня в задницу, как сказала бы Юки, будь она тут. Я уничтожу эту чертову базу, а