Шаг к звездам - Андрей Ливадный

– Насколько я понял, у созданных вашей группой андроидов, которые успешно проходили испытания на узком фронте заранее известных проблем, отсутствует главный признак универсальности: они лишены всеобъемлющей взаимосвязи отдельно взятых нейросетей. У них отсутствует глобальная парадигма, – то есть, нет общего подхода к множеству проблем. Ничто не объединяет их параллельные архитектуры в целостный взаимопроникающий комплекс, – существует лишь строго регламентированный ряд «переходных» ситуаций, которые, по сути, являются программными переключателями между различными автономными системами…

– Можно чуть проще? – Поморщился Уилсберг.

Герберт лишь пожал плечами в ответ. Ему казалось, что он и так высказался предельно ясно. Некоторые проблемы нельзя утрировать – следует учиться их понимать, но Герберт помнил свой нелегкий путь, полный промахов, тупиковых решений, неудач, из которых постепенно формировался опыт…

Он поднял взгляд на своего бывшего командира.

Альберт сидел, тяжело опираясь о подлокотник кресла. Он выглядел усталым, постаревшим, но не сломленным.

– Хорошо, говори, как есть, капитан… – Глухо произнес Уилсберг, почувствовав направленный на него взгляд. – Я постараюсь понять. Иного выхода у меня просто нет.

– Вы должны усвоить аксиому, генерал: одна нейросеть – это лишь узкоспециализированная экспертная система, эффективно работающая исключительно в той области знаний, которой она обучена. – Глухо произнес Герберт. – Настоящая универсальность, которую можно обозначить термином «гибкость мышления», достигается не путем переключения между отдельными экспертными программами, а методом их глобального взаимодействия. Ярким примером является наш собственный мозг, который содержит миллиарды нервных клеток, организованные в нейросетевые структуры. Они постоянно обучаются: в процессе жизнедеятельности в них кодируется информация, на основе которой разум вырабатывает алгоритмы решения тех или иных задач, накапливая знания и формируя личный опыт. Когда возникает внезапная проблема, рассудок разных людей станет апеллировать к различным объемам информации. Хладнокровная, всесторонне развитая личность задействует большее количество нейросетей и выработает оптимальное решение, с учетом множества вероятностей, а человек эмоциональный отреагирует чрезмерным возбуждением, которое мгновенно активирует локальный участок мозга, чаще всего содержащий узкоспециализированные знания, и его реакция на событие будет совершенно иной, – быстрой, но скорее машинальной, чем осознанной…

Уилсберг, внимательно слушавший капитана, невольно посмотрел на экран, где застыл остановленным им кадр… Аналогии, только что проведенные Гербертом, внезапно нашли недвусмысленный отклик в его сознании. Он на собственном опыте знал, что такое нервный стресс, как порой «глохнет» разум в критические секунды боя, – внезапная контузия, приступ страха или гнева отключают здравомыслие, действительно оставляя лишь машинальные, доведенные до полного автоматизма реакции…

– Выходит, используя одну нейросеть для формирования «идеального бойца», мы, на поверку, получили механическое подобие сержанта Дугласа, бросающего гранату в тот злополучный подвал?… – Угрюмо спросил он, делая собственный вывод из пояснений Герберта.

Герберт кивнул, нисколько не удивившись, что генерал помнит о событиях десятилетней давности.

– По записям видно, что кибермеханизмы прекрасно справлялись с боевыми задачами, но работа одной нейросети, обученной лишь для ведения боевых действий, заранее исключает разностороннее осмысление ситуации. – Согласился он с выводом генерала. – Поэтому все люди, находившиеся в тот момент на плоскогорье, были автоматически отнесены в разряд «вражеских объектов», подлежащих уничтожению. Нейронные системы боевых машин различали людей исключительно по степени их активности, оперируя понятием «потенциальной угрозы». Данные о признаках, присущих «мирным гражданам» хранились в параллельной архитектуре, но не могли быть востребованы, – отсутствовала взаимосвязь. – Герберт искоса взглянул на экран и спросил:

– Неужели Поланд не затрагивал подобных проблем?

Уилсберг сокрушенно покачал головой.

– К сожалению, я не вдавался в подробности. – Честно признался он. – На мне лежало бремя общего руководства проектом. Андроиды стабильно проходили все контрольные тесты, и это казалось достаточным для достижения конкретных целей. Думаю, тебе стоит самому посмотреть информацию, хранящуюся в персональном компьютере Хьюго. Возможно, он делал какие-то пометки относительно перспектив совершенствования системы кибермеханизмов? – Предположил Альберт.

Герберт вскинул на него недоверчивый взгляд:

– Вы хотите, чтобы я продолжил работу вот над этим?!.. – Он красноречиво указал на демонстрационные экраны, где помимо остановленного Уилсбергом кадра продолжали прокручиваться фрагменты видеозаписей ночного боя.

– Да. – Ответил Альберт. – Но теперь все становиться много сложнее. Провал боевых испытаний не отменяет планов по созданию универсальной человекоподобной машины…

– Подождите генерал!.. – Герберт порывисто встал. В отличие от дисциплинированного, покладистого Поланда, капитан Ричардсон производил прямо противоположное впечатление. – Не сочтите за дерзость, но это граничит с сумасшествием. – Глухо добавил он.

Уилсберг криво усмехнулся.

– Ты, верно, забыл наш разговор в госпитале. Разве я десять лет назад мечтал о создании кибермеханического бойца?

– Нет, генерал не вы. Но и я его не создал! Хотите знать почему?

– Ну? – Насупился Альберт. – Только не надо говорить о технических трудностях, хорошо? Все системы андроидов построены на базе созданных тобой нейрочипов. – Безжалостно констатировал он, и тут же добавил:

– Надеюсь, капитан Даллас убедил тебя, что уровень современной сервомеханики соответствует самым жестким критериям технических заданий, а наличие конвектора вещества снимает все препятствия при проектировании автономных энергосистем…

Герберт молча выслушал его и внезапно спросил:

– Что остается в минусе?

Уилсберг был неприятно удивлен такой формулировкой вопроса. Теперь он видел, как сильно изменился его бывший подчиненный. Бесполезно было давить на него понятиями армейской субординации, – Ричардсону ничего не стоило глубоко наплевать на тот факт, что его вновь заставили надеть военную форму…

– Хорошо, я отвечу сам. – Произнес Герберт. – Вы правы, создать мыслящую машину, даже в отсутствии конвектора вещества, не составляло для меня сверхзадачи. Размер нейрочипа, внутри которого заключено десять тысяч искусственных нейронов, удалось уменьшить до размеров двухсантиметровой пластины. Что мешало мне собрать систему из сотни автономных нейросетей?

– Не знаю…

– Я не смог решить проблему парадигмы… И Хьюго был прекрасно осведомлен об этом. Машинный разум, построенный на основе нейросетей, помимо заложенных в него знаний, должен обладать способностью оценивать окружающий мир. Здесь, на мой взгляд, существует два варианта: либо мы закладываем в машину жесткую систему наших, человеческих моральных ценностей, либо даем возможность пробудившемуся нейросетевому интеллекту самому выработать глобальную парадигму.

– Поланд ничего не докладывал мне об этом.

– Потому что обе попытки окончились провалами, последствия которых к счастью не вышли за пределы лабораторий. В первом случае, «ИИ» настроенный на определенную совокупность моральных норм, попросту «рухнул» под грузом логических ошибок, стоило однажды подключить его к доступу в Интернет. Виртуальная среда, где люди все чаще находят место выражению собственных взглядов, вошла в жесткий конфликт с элементарными нормами поведения, которые мы с Хьюго сформулировали в качестве эквивалента мировоззрения для сложной нейросетевой структуры. Система в буквальном смысле погибла, под гнетом несоответствия ожидаемого и действительного.

– А чем закончился второй эксперимент?

Герберт, до этого взволнованно расхаживавший вдоль подиума, сел, безнадежно взмахнув рукой.

– Вышло еще хуже. Нейросетевой интеллект, которому мы позволили самому собирать информацию, в конечном итоге действительно выработал собственное мировоззрение. Но машина при этом осталась машиной, – у нее нет чувств, а значит ей не найти логического оправдания большинству человеческих поступков. В результате мы получили отрешенного наблюдателя, который оценивал человечество, как некую глобальную ошибку, выпадающую контекста общих законов природы. По мнению «ИИ» мы не венец эволюции, а неоправданно размножившийся вид млекопитающих, чье существование ведет к необратимой гибели биосферы и, как следствие, – исчезновению жизни на Земле как таковой.