Симулятор безумия. Как Четвертая промышленная революция превратит Homo Sapiens в Homo Servus? - Вадим Юрьевич Панов

– это вопрос квалификации преступников. Однако вероятность стать жертвой похитителей будет значительно ниже, чем вероятность погибнуть или пострадать в результате террористической атаки. Интеллектуальной террористической атаки.

Огромные агломерации будущего станут зонами, свободными от оружия, нелепо и небезопасно насыщать средствами уничтожения клочки суши, на которых проживают миллионы разных – в самом широком смысле слова – людей. Под запрет в обязательном порядке попадёт огнестрельное, травматическое и газовое оружие, и, естественно, взрывчатые вещества. Производства, как военные, так и химические, продукцию которых можно использовать в качестве оружия или для его создания, например, тех же взрывчатых веществ, выведут за пределы агломераций и установят за ними строжайший контроль.

Устройство свободных от оружия зон необходимо как в целях безопасности, для предотвращения массовых жертв в случае возможных столкновений, так и по той причине, что…

Безоружный человек полностью зависим

Мы всегда, на протяжении всей своей истории, делегировали и будем делегировать государству право на насилие в целях обеспечения всеобщей безопасности. Но всегда оставляли за собой «последний рубеж обороны» – личное оружие, которое выручает нас в те моменты, когда полицейские или военные не успевают или физически не могут успеть прийти на помощь: например им неизвестно о совершаемом преступлении. С помощью личного оружия мы защищаем от посягательств свою жизнь, свой дом и свою собственность, однако чётко работающие системы «умного» города сделают «последний рубеж обороны» ненужным. Видеокамеры, дроны и постоянное пребывание в Сети поднимут систему общественной безопасности на невероятно высокий уровень, и главная роль в ней будет отведена дронам – многочисленным, мобильным, не знающим страха и всегда готовым действовать. В большинстве своём они будут представлены автономными устройствами, способными принимать самостоятельные решения и, в зависимости от обстоятельств, применять оглушающее или летальное оружие. Полицейских дронов потребуется очень много, ведь нужно держать под контролем гигантскую территорию, и именно поэтому они будут автономными, чтобы решения принимались как можно быстрее, а муниципальная казна была избавлена от расходов на содержание большого числа операторов.

Будут ли автономные дроны успевать на все поступающие вызовы? Без сомнения. Будут ли они ошибаться? Без сомнения, но ошибаются все. Как показало проведённое порталом «The Intercept» расследование операций армии США против «Аль-Каиды» и «Талибана», применение боевых дронов всегда приводили к жертвам среди мирного населения, несмотря на то что все боевые вылеты проходили под контролем операторов, а решение об атаке принимал человек. А раз ошибки неизбежны, логично сделать машину автономной – так получится дешевле.

Если ИИ управляет жизнью гигантского города, почему бы ИИ не принимать решение о применении летального оружия против некоторых его обитателей?

Кроме того, система общественной безопасности агломерации будет обладать колоссальными возможностями не только по расследованию уже совершённых преступлений, вычислению, преследованию и наказанию злоумышленников, но и в деле предупреждения противоправных действий. Вычислительные мощности ИИ позволят держать под контролем поведение всех подозрительных лиц, в число которых внесут не только бывших заключённых, но и тех, кто проходил по административным делам, отделываясь штрафом или общественными работами, против кого выдвигались обвинения, снятые затем за недоказанностью или недостаточностью улик, а также люди, на которых донесёт система мониторинга психического здоровья, – уверен, поступившая от медицинского приложения информация поможет вовремя вычислять и обезвреживать маньяков и опасных психопатов, сберегая множество человеческих жизней.

Особенно хорошо ИИ проявит себя во время массовых беспорядков, поводом для которых может стать всё что угодно: временные перебои с доставкой продовольствия, blackout, громкое, вызывающее яростные эмоции преступление, техногенная катастрофа с многочисленными жертвами и с последующим обвинением властей в несоблюдении правил безопасности, повышение цен на энергию или продовольствие, национальные и религиозные распри… Чем больше людей, тем больше противоречий и взаимных обид, и это правило, к сожалению, будет работать ещё долго, поджигая агломерации и провоцируя соседей громить друг друга. В будущем самообучающийся ИИ научится с высокой точностью прогнозировать вероятность возникновения беспорядков – на основании анализа высказываний в Сети, агентурных данных, изучения факторов, способных вызвать бунт, – и предотвращать их тем или иным способом, включая превентивные аресты подстрекателей и лидеров мятежа. А до тех пор справляться с массовыми беспорядками придётся полицейским частям: с помощью традиционного насилия и современных технологий. И основное преимущество «умного» города – его идеальная управляемость – поможет решить эту непростую задачу. При планировании агломераций инженеры обязаны будут предусмотреть различные варианты блокирования районов как раз на такие случаи. Охваченные беспорядками территории будут лишены трафика и, возможно, отрезаны от подачи электроэнергии и отключены от Сети. А наземные полицейские отряды и автономные дроны обеспечат необходимое воздействие на участников мятежа, преимущественно с применением специальных средств, не влекущих летальный исход.

Но все эти картины, больше подходящие для дорогостоящего боевика, будут возможны лишь до массового внедрения вживлённых чипов. А если мы заглянем в будущее победившего нейроинтерфейса, то увидим совсем другую картину. Во-первых, массовых беспорядков станет значительно меньше: тот факт, что система отслеживает и записывает все перемещения и, возможно, все совершаемые действия, без сомнений, охладит пыл потенциальных бунтовщиков, ведь в этом случае наказание неотвратимо. Во-вторых, предупреждения о готовящихся беспорядках будут поступать намного раньше. В-третьих, для нейтрализации бунтовщиков ИИ сможет блокировать и отключать их нейроинтерфейсы, прерывая электронные каналы связи с внешним миром и даже с управляемыми через вживлённый чип имплантами.

В эпоху прямого и постоянного подключения к Сети каждый человек станет не более чем терминалом, управлять которым извне не составит особого труда.

* * *

Итак, ради общественной безопасности мы наполним агломерации будущего автономными боевыми системами (АБС) – воздушными дронами и самоходными роботами, которые будут выполнять полицейские функции. Но в этом случае власти будут обязаны создать необычайно мощную систему защиты коммуникаций, поскольку управление такими полицейскими подразделениями станет постоянной, а главное – излюбленной мишенью для хакерских атак.

Для террористов-интеллектуалов.

«Умные» города станут для них вызовом одним лишь своим существованием, первый управляющий агломерацией ИИ попытаются взломать через минуту после официального запуска. Или раньше. И атаки будут продолжаться постоянно: все хакеры планеты пожелают унизить ИИ, на деле доказав своё превосходство. Но помимо соревновательного, у киберпреступников будут и другие мотивы. Некоторые из них попытаются взломать ИИ ради денег, но они, как и любые уголовники, не представляют особенной угрозы по той причине, что с ними можно договориться: любого бандита можно умиротворить золотом, заплатить выкуп, а потом найти и наказать. Цифровой мир станет очень маленьким, поэтому скрыться от упорного преследования в нём будет негде. Намного большую опасность будут представлять апологеты бесцельного террора.

Aimlesst – идея не нужна, просто убивай

Террористов aimlessT можно будет разделить на две большие группы.

Первые –