Роботы-убийцы против человечества. Киберапокалипсис сегодня - Елена Ларина

«Фаланга» обеспечивает самостоятельный поиск, обнаружение, идентификацию, сопровождение и поражение воздушной цели (противокорабельной ракеты или самолета) огнем скорострельных мелкокалиберных пушек. Наземная версия «Фаланги» использовалась США в 2005 г. в Ираке. По сообщениям, 22 такие системы сбили более чем 100 воздушных целей (ракет, артиллерийских и минометных снарядов). Согласно одной американской армейской публикации, после того, как система обнаруживает угрозу, «оператор должен идентифицировать цель почти мгновенно, чтобы уничтожить воздушную цель вовремя, но он это не способен сделать». Поэтому функции обнаружения и поражения воздушных целей полностью возложены на автоматизированную систему.

Другие страны разработали похожие системы оборонительного оружия. Израиль развернул свою ракетную систему «Железный Купол» около границы с Сектором Газа и в Эйлате около Синайского полуострова. При помощи радара система обнаруживает и идентифицирует ракеты малой дальности и 155-миллиметровые артиллерийские снаряды на расстоянии до 70 километров. «Железный Купол» вооружен 20-ю ракетами-перехватчиками «Tamir». Израиль заявил, что у «Железного Купола» более чем 80-процентный показатель успешности поражения целей: «Она сбила множество ракет, которые убили бы израильские гражданские лица так, как это было в апреле 2011 г.». В долю секунды после обнаружения поступающей угрозы «Железный Купол» показывает рекомендуемый ответ на угрозу оператору. Оператор должен немедленно решить, дать ли команду на поражение воздушной цели.

Другой пример системы оборонительного автоматического оружия – «Богомол NBS», Германия, предназначенной для защиты своих военных объектов в Афганистане. В течение 4,5 секунд после обнаружения целей на расстоянии примерно в три километра система открывает огонь из шести 35-миллиметровых автоматических пушек со скорострельностью в 1000 выстрелов в минуту. Система имеет очень высокую степень автоматизации, включая автоматическое обнаружение и сопровождение целей. Эти процессы оператор может только наблюдать (источник информации не сообщает, может ли оператор прервать эти процессы). У данных систем оборонительного оружия уже есть существенная степень автономии, потому что они могут обнаружить, сопровождать и поражать цели с минимальным человеческим участием. Но военные эксперты вообще подвергают сомнению эффективность и необходимость человеческого наблюдения и участия при использовании оборонительного оружия этого типа (для скоротечного ближнего боя). «Человек, конечно, участвует в принятии решения, но главным образом во время начального программирования робота. Во время эксплуатации системы оператор действительно может только отвергнуть решение робота. Но это решение оператор должен принять за промежуток времени менее одной секунды. Когда оператор сталкивается с такой ситуацией, он склонен доверить принятие решения на поражение цели автоматике (несмотря на возражения, что система ненадежна, и т. п.).

Здесь отметим, что оборонительное автоматическое оружие против воздушных целей представляет не очень большую опасность для гражданских лиц, потому что оно разработано для того, чтобы уничтожить беспилотные воздушные цели, и не живую силу противника на поле боя.

2.2. Другие предшественники полностью автономного оружия

Другие «автоматизированные системы оружия, которые еще сохраняют людей в «петле принятия решений», также являются потенциальными предшественниками полностью автономного оружия. Вооруженные силы некоторых стран уже развернули наземных военных роботов. Эти системы представляют значительно большую угрозу гражданским лицам, чем рассматриваемые ранее системы оборонительного автоматического оружия. У систем, которые будут обсуждаться ниже, мишенью является человек.

Южная Корея разработала и начала использовать сторожевых наземных роботов. В 2010 г. Южная Корея установила стационарных сторожевых роботов SGR-1 (ценой 200.000 долл. каждый), вдоль демилитаризированной зоны для того, чтобы обнаруживать появление в демилитаризованной зоне людей. Роботы обнаруживают людей при помощи инфракрасных датчиков и датчиков движения и посылают предупредительный сигнал и изображение цели в центр управления.

Из центра управления оператор принимает решение, стрелять или нет по цели из 5,5-миллиметрового пулемета или 40-миллиметрового автоматического гранатомета. Датчики SGR-1 могут обнаруживать людей на расстоянии в две мили днем и на расстоянии в одну милю ночью Оружие робота может поражать цели на расстоянии в две мили. Сейчас у робота есть и автономные возможности наблюдения, но он не может стрелять без человеческой команды. Однако имеются сообщения (журнал Institute of Electrical and Electronics Engineers), что у этого робота есть автоматический режим, в котором он сам принимает решение о применении оружия. Правда, наверное, оператор может удаленно отключить автоматический режим работы робота.

Израиль тоже развернул другую полуавтономную наземную систему «Guardium», которая, по сообщениям, используется для того, чтобы патрулировать границу Израиля с Сектором Газа. «Guardium» разработан для того, чтобы выполнять обычные для охраны границы задачи, такие как патрулирование границы по запрограммированному маршруту. Но система может самостоятельно реагировать на незапланированные события, в соответствии с рекомендациями, запрограммированными с учетом особенностей местности и доктрины безопасности. У «Guardium» может быть режим «автономного выполнения миссии».

Беспилотные самолеты, такие как американский «Х-478», имеют большую степень автономии, чем широко рекламируемые «дроны». Оператор миссии следит за самолетом, но активно не управляет им, как в настоящее время это делается для дронов. Х-478 самостоятельно взлетает, выполняет запрограммированное задание и возвращается на базу после команды оператора миссии.

В 2010 г. Великобритания представила опытный образец своего боевого самолета «Taranis». Разработчики описали его как автономный и невидимый беспилотный самолет стратегической авиации. «Taranis», как ожидают, пока сохранит человека в петле принятия решения, но подразумевается возможность его большей автономии в будущем.

Другие страны также разрабатывают или выпускают беспилотные самолеты, которые являются предшественниками полностью автономного оружия. Израильская «Гарпия», например, была охарактеризована как «комбинация беспилотного самолета и крылатой ракеты». Ее задача – самостоятельно долететь до запрограммированной зоны патрулирования, обнаружить там сигналы вражеских радаров и затем уничтожить цель (систему, на которой установлен радар).

Теперь расскажем о «роях». Американские вооруженные силы планируют массовое использование автономных самолетов большими группами («роями»). Самолеты сами распределяют между собой цели, а диспетчер управляет ими как единой группой, а не индивидуально каждым самолетом. В случае использования «роев», человеческое участие в работе системы минимальное, потому что оператор физически не в состоянии отследить большое количество целей и очень быстро принять решение по каждой из них.

Поскольку люди все еще сохраняют контроль над решением использовать летальное оружие, вышеупомянутые системы оружия еще не полностью автономны, но они развиваются быстро в этом направлении. Сторонники полностью автономного оружия рекламируют его военные преимущества, такие как сокращение численности войск, требуемых для военных операций, высокой «бдительности» и мгновенной реакции часовых, не подверженных страху. Критики полностью автономного оружия в первую очередь беспокоятся о безопасности мирного населения в зоне военных действий.

3. Роботы-убийцы и международное гуманитарное право

Цивилизованное общество выработало законы и нормы гуманного ведения войны, юридически закрепленные в документах международного гуманитарного права. Существует оружие (в частности, химическое оружие и противопехотные мины), применение которого запрещено международным гуманитарным правом. И государства, подписавшие Конвенцию о запрещении химического оружия и о запрещении противопехотных мин, или уже уничтожили запасы такого оружия либо приступили к его уничтожению.

А как обстоят дела с полностью автономным оружием?

Смогут ли роботы-убийцы выполнять требования международного гуманитарного права, минимизировать потери гражданского населения в зоне военного конфликта? Критики полностью автономного оружия приводят множество убедительных доводов, что это невозможно, а его сторонники предлагают различные способы, как сделать роботов-убийц гуманнее.

3.1. Доводы критиков против полностью автономного оружия

«Роботы-убийцы» не смогут соблюдать международное гуманитарное право» – считают противники полностью автономного оружия.