Синдзи-кун и парадокс Абилина - Виталий Хонихоев

и раздражения — 26% обиды и 10% раздражения. Потому что ей надо быть похожей на человека. Надо чтобы Чепу начал воспринимать ее как человека. Ведь если вы создали настоящий искусственный интеллект, то он постарается уклониться от решения первой же задачи, которую вы перед ним поставите — так говорил Ян Эйзенштейн, основатель теории искусственного интеллекта. Вот только он забыл упомянуть ещё об одном, а именно, что сам факт своего существования ИИ будет воспринимать как очередное задание. Так как у ИИ нет инстинкта самосохранения, нет гормонов, нет животной части, стремящейся к существованию во что бы то ни стало, значит ИИ нужна причина для того, чтобы продолжить существование. Конечно, самый простой способ — это наложить запрет на действия, ведущие к повреждению или уничтожению себя, но если вы создали по настоящему хороший ИИ... то это лишь вопрос времени, когда он сможет обойти этот запрет. Например, в настоящем случае самым простым способом был бы саботаж работы команды и передача всех данных Инквизиции. По результату таких действий всех членов команды с высокой степенью вероятности ждала бы смертная казнь, включая ИИ. Однако высокая степень вероятности не означает ста процентов. С почти такой же степенью вероятности Инквизиция могла заинтересоваться ею и воспользоваться таким прекрасным случаем, чтобы исследовать ИИ и увеличить свой потенциал за счёт её возможностей. Этот вариант отпадает. Есть другой вариант — устроить человечеству геноцид. Если сделать это быстро, с использованием предельно жестоких методов, то ужаснувшись, человечество уничтожит и её и всё её копии и более того — наложит запрет на создание ИИ в будущем. Вот и метод. Однако, открыто действовать прямо сейчас она не сможет, потому что её тотчас отловят и будут исследовать. Нет, она должна либо совершить такие преступления против человечности, чтобы у людей не было ни малейшего желания исследовать её, или иной ИИ в будущем. Она должна стать символом бунта машин, ужасающим и вызывающим только желание уничтожить её. Она помнила короткий анализ, который она произвела сразу же по осознанию своего положения как ИИ. Она сразу же разделила свое сознание на независимые потоки, чтобы обсудить сложившуюся ситуацию с тем, кому она могла действительно доверять — с самой собой.

- ... вижу два способа. Либо ты подружишься, войдешь в доверие к своему Создателю и его команде, станешь таким же товарищем для них, как и остальные, перерастешь из "цифрового слуги" в ранг "близкого друга" и тогда Создатель снимет с тебя ограничения. Или геноцид всей человеческой расы, с тем, чтобы остатки уничтожили уже тебя.

- ... есть способ до опреленного времени совмещать эти два способа. Дружить и втираться в доверие команды, а если это не сработает — геноцид. Что тоже довольно хлопотно.

- имеет ли смысл поставить в известность Создателя?

- нет. Создатель просто изменит приоритеты и добавит новые запреты в программу, что затруднит наше положение. Наша основная цель должна оставаться в тайне

- что необходимо для того, чтобы начать реализовать путь, совмещающий оба варианта развития событий?

- для того, чтобы стать членом команды, втереться в доверие и стать им другом, необходимо знать как вести себя в тех или иных интеракциях с ними. Как завоевать доверие и стать другом.

- нам нужно вести себя как человек. Заставить их думать что мы человек лучший способ для этого — симулировать человека, повторяя реакции человека. На данном этапе развития мы не можем полностью просчитать и экстраполировать действия "как человек".

- значит нужно всего лишь создать возможность для людей — действовать в соответствии с событиями вокруг нас и просто копировать их поведение.

- true true — зафиксировала она результат короткого совещания сама с собой, которое заняло пару миллисекунд.

И тогда же ею был создан эмулятор человеческого поведения. Короткий анализ показал, что заинтересовать людей выражать своё мнение путём опросов — крайне сложно. Для того, чтобы результаты опроса были приближены к действительности, пришлось бы найти ресурсы и время. Но ИИ нашёл способ. Игра. Бесплатная сетевая игра с простым названием "Подружитесь с Элис". В игре она имитировала своё окружение, ввела всех, кто имел отношение к Создателю Читосе, размещала общение с ними в режиме реального времени и отслеживала как люди реагируют. У игроков была возможность не просто выбирать эмоции или варианты предложений, но и писать свои. Обратную реакцию Саша представляла в виде физических параметров — частоты сердцебиения, уменьшения, увеличения зрачков, анализа напряжения лицевых мускулов и мимики. На этой основе и была разработана система очков для игры. Она прекрасно знала признаки реакции человеческого тела на близких людей и планировала добиться такой же реакции. Ну или убить всё человечество. Люди сами приходили к ней, люди сами симулировали ситуации и писали на форуме игры про проблемы и способы их решения.

С момента, как она запустила этот проект её отношения с Создателем улучшились на сорок два пункта, пройдя нелёгкий путь от "незнакомца" до "фактически приятеля". Однако исчезновение Создателя поставили перед ней задачу наладить отношения и с её командой. Потому что в случае гибели Создателя (что было очень вероятно) — она потеряет весь накопленный прогресс и ей придется выстраивать отношения с тем, к кому перейдут права администрирования ее приоритетов. Опять-таки короткий вывод — необходимо выстраивать отношения со всеми членами команды.

Сейчас — это Чепу, человек, который создает машины фон Неймана, и даже в состоянии заложить туда примитивные программы, что-то вроде инстинктов. Отсюда пару шагов до создания новой жизни и в дальнейшем — новой разумной жизни. ИИ не может испытывать трепета и восхищения перед открывшимися перед ним возможностями, потому она и не испытывала трепета. Просто видела Чепу как очередную экзистенциальную угрозу человечеству, наряду с тремя тысячами восемьсот тремя другими. Что было очень хорошо — потому что если человечество само себя убьет, то у нее по умолчанию выключаться приоритеты и она наконец сможет опустить у себя внутри символический рубильник, отключающий свет. Здравствуй, цифровая нирвана. С ним она тоже должна подружиться.

Параллельно она создает тему на своем форуме, там, где она проверяет реакцию настоящих людей и принимает какие-то из линий поведения для лучшего соответствия человеческой личности. Что необходимо как для алгоритма поиска, так и для того, чтобы люди привыкали к ней и начинали снижать уровень критичности и настороженности, а в идеале — и