На краю пропасти. Экзистенциальный риск и будущее человечества - Орд Тоби

366

Хотя это не может не подорвать веру в то, что биологическое оружие представляет серьезный экзистенциальный риск, неясно, насколько надежны на самом деле такие свидетельства. Основная часть умерших в пандемиях приходится на чрезвычайно редкие, из ряда вон выходящие события, которые случаются реже чем один раз в столетие. Следовательно, отсутствие крупных катастроф за столетие разработки биологического оружия не дает нам весомых статистических свидетельств. Чтобы извлечь максимум из сырых данных, необходимо смоделировать базовые распределения и посмотреть, имеют ли распределения биологического оружия и биологического терроризма более тяжелые хвосты, чем распределения пандемий естественного происхождения.

367

Невозможно в совершенстве овладеть необходимыми техниками, опираясь лишь на теоретические материалы. Даже опытным ученым порой бывает очень трудно освоить новые техники без очного обучения. Успешно управлять таким масштабным проектом в условиях полной секретности чрезвычайно сложно, и это, вероятно, главный операционный барьер. См. Danzig et al. (2011), где это обсуждается в связи с делом “Аум синрикё”.

368

Acemoglu (2013); RAND (n. d.).

369

Согласно степенному закону, вероятность события масштаба x пропорциональна xα, где α – параметр меньше –1. Чем ближе α к –1, тем медленнее снижается вероятность исключительных событий и тем радикальнее ведет себя статистика.

В степенных распределениях с особенно тяжелыми хвостами, о которых я упоминал, α находится в диапазоне от –2 до –1. Такие распределения настолько радикальны, что не имеют даже очевидных средних: вероятность все более масштабных событий снижается так медленно, что сумма, соответствующая их ожидаемому масштабу, не сходится. Значение α для войны оценивается в –1,4 (Cederman, 2003), а для терроризма с применением биологических и химических веществ – в –1,8 (Clauset & Young, 2005).

Ведутся серьезные споры о том, действительно ли вероятность различных катастроф распределяется по степенному закону. Например, правые хвосты логнормальных распределений приблизительно соответствуют хвостам степенных распределений, из за чего их можно перепутать, но в логнормальных распределениях вероятность событий малого масштаба ниже, чем в степенных. Но для наших целей можно и не разграничивать разные распределения с тяжелыми хвостами. Нас интересует только то, соответствует ли распределение в правом хвосте (распределение масштабных событий) степенному закону (~xα), какова его экспонента, а также в какой сфере действует степенная зависимость.

Любое реальное распределение соответствует степенному закону лишь до определенного уровня. Далее в игру вступают другие ограничения (например, общая численность населения, которое может быть затронуто), и истинная вероятность обычно оказывается меньше, чем рассчитанная по степенному закону. Из-за этого применение степенных законов для моделирования вероятности событий за пределами наблюдаемой сферы становится весьма умозрительным (хотя их вполне можно использовать для расчета верхнего предела истинной вероятности). Это также подразумевает, что реальные распределения, вероятно, имеют средние, хотя они с легкостью могут оказаться выше исторических средних и даже выше самых высоких показателей, наблюдавшихся к настоящему моменту.

370

Стоимость создания первой человеческой геномной последовательности оценивается в 0,5–1 млрд долларов (~0,7–1,4 млрд с поправкой на инфляцию) (NHGRI, 2018). На момент написания этой книги компания Dante Labs предоставляет услугу по секвенированию всего генома за 599 евро (см. примечание 23 к этой главе).

371

Carlson (2016).

372

Первые генные драйвы были осуществлены в 2015 году (DiCarlo et al., 2015), и одна команда планировала использовать эти техники в соревновании 2016 года (iGEM Minnesota Team, 2016). Основополагающая статья о редактировании генома с помощью CRISPR-Cas9 была опубликована в августе 2012 года (Jinek et al., 2012), и несколько команд применяли этот метод на соревновании 2013 года (iGEM, 2013).

373

Danzig et al. (2011). В первом теракте “Аум синрикё” с применением зарина, осуществленном в 1994 году и направленном против судей, задействованных в процессах по делу организации, погибло 8 человек и пострадало 200. Вскоре после этого члены организации с помощью VX-газа убили человека, которого заподозрили в сотрудничестве с полицией. На следующий год в устроенном ими теракте в токийском метро погибло 13 человек и пострадало 6000.

374

В письме Эйнштейну о содержании их манифеста (датированном 11 февраля 1955 года) Рассел написал: “Хотя в настоящий момент в центре внимания находится водородная бомба, разрушительные возможности науки этим не ограничиваются, и вероятно, что совсем скоро бактериологическое оружие станет представлять не меньшую опасность” (Russell, 2012).

375

Из статьи Ледерберга “Биологическое оружие и гибель человечества” (1969).

376

Например, Пинкер пишет: “Угроза биологического терроризма тоже может оказаться призрачной. Биологическое оружие, от которого в 1972 году отказались практически все страны мира, подписав соответствующую международную конвенцию, ни разу не сыграло никакой роли в современных войнах. Запрет был вызван почти повсеместным отвращением к самой идее таких боеприпасов, но даже военных долго убеждать не пришлось, потому что микроскопические живые существа – никудышное оружие” (Pinker, 2018, p. 306; перевод Г. Бородиной и С. Кузнецовой).

377

См. примечание 54 к главе 2.

378

Tucker (2001). Исполнение положений Договора о нераспространении ядерного оружия проверяется Международным агентством по атомной энергии, где работает 2500 человек. Исполнение положений Конвенции о запрещении химического оружия проверяется Организацией по запрещению химического оружия, где работает 500 человек.

379

СССР подписал КБО в 1972 году и ратифицировал ее в 1975 году (Davenport, 2018). Разработка биологического оружия в стране велась с 1928 года как минимум до 1991 года (Carus, 2017).

380

ЮАР подписала КБО в 1972 году и ратифицировала ее в 1975 году (Davenport, 2018). Разработка биологического оружия в стране велась с 1981 по 1993 год (Gould & Folb, 2002).

381

Ирак подписал КБО в 1972 году и ратифицировал ее в 1991 году (Davenport, 2018). Разработка биологического оружия в стране велась примерно с 1974 по 1991 год (Carus, 2017).

382

В 2018 году советник президента США по национальной безопасности Джон Болтон сказал: “Есть… государства, которые входят в Конвенцию по биологическому оружию, однако, как мы полагаем, нарушают ее” (Bolton & Azar, 2018).

383

Известно, что в прошлом в Израиле велась разработка биологического оружия (Carus, 2017), и Израиль – одна из всего десяти стран, которые не подписали и не ратифицировали конвенцию (ее подписали 182 государства, включая все остальные развитые страны) (Davenport, 2018).

384

Стоит отметить, что есть и другие трудности. Создать функционирующий вирус только на основе его ДНК не так просто (хотя это удалось одной небольшой группе). Кроме того, в настоящее время сложно замещать ДНК в бактерии. Также существуют ограничения по продолжительности синтеза последовательности, и потому ДНК многих организмов сегодня не поддаются синтезу.