На краю пропасти. Экзистенциальный риск и будущее человечества - Орд Тоби

Давайте назовем то, что повышает экзистенциальный риск, фактором экзистенциального риска (ради краткости можно опускать слово “экзистенциальный”, поскольку нас в любом случае интересует только этот тип факторов риска)[482]. Если разбивку общего риска на отдельные составляющие можно сравнить с выделением отдельных вертикальных ячеек, то факторы экзистенциального риска разрезают эти ячейки поперек. Понятие фактора экзистенциального риска имеет общий характер и может применяться на любом уровне, но больше всего оно пригодится при анализе связанных факторов, оказывающих существенное влияние на экзистенциальный риск. Если выделение отдельных рисков в главах 3–5 было попыткой разбить общий риск на набор рисков, которые не накладываются друг на друга, то с факторами риска таких ограничений нет: они могут накладываться друг на друга, а один из них может даже включать в себя другой – главное, чтобы они оставались полезными для нас. Следовательно, вклад отдельных факторов в экзистенциальный риск даже примерно не “складывается” в общий риск.

Простой способ найти факторы экзистенциального риска – изучить факторы стресса для человечества и нашей способности принимать взвешенные решения. К ним относятся глобальная экономическая стагнация, экологическая катастрофа и разрушение миропорядка[483]. Действительно, даже угроза таких вещей может считаться фактором экзистенциального риска, поскольку может посеять в мире хаос и вызвать панику.

Многие риски, которые грозят нам (неэкзистенциальной) глобальной катастрофой, также выступают факторами экзистенциального риска, поскольку после глобальной катастрофы человечество может стать более уязвимым. Аналогична ситуация со многими экзистенциальными угрозами: если они способны вызвать глобальные катастрофы, повышающие нашу уязвимость для последующих экзистенциальных рисков, то они также выступают в качестве факторов риска[484]. Иногда они представляют значительно больший косвенный риск, чем прямой.

В четвертой главе мы видели, что ядерной зиме или изменению климата сложно полностью уничтожить потенциал человечества. Но они вполне могут вызвать серьезные катастрофы, после которых мы станем более уязвимыми для других экзистенциальных рисков. В четвертой главе ядерная война и изменение климата рассматривались в качестве экзистенциальных рисков (поскольку очень важно понять, способны ли они действительно стать механизмами разрушения нашего потенциала), но, возможно, они играют даже более важную роль в качестве факторов риска. Весьма полезно изучить, как именно они повышают другие риски, поскольку в конечном счете нам необходимо понять, насколько они повышают общий риск[485].

Математика факторов риска

Мы можем точнее описать факторы риска, пользуясь языком теории вероятностей. Пусть F – это фактор риска (например, изменение климата или война великих держав), а f – количественная мера этого фактора риска (например, количество градусов, на которое теплеет климат, или вероятность войны между великими державами). Обозначим ее минимально достижимое значение fmin, текущее значение – fsq, а максимально достижимое значение – fmax.[486] Как мы помним, Pr (P) – это вероятность того, что событие P случится, а Pr (P|Q) – вероятность того, что событие P случится, если случится событие Q. Наконец, обозначим Х экзистенциальную катастрофу.

Разницу между Pr (X|f = fsq) и Pr (X|f = fmin) можно назвать вкладом, который F вносит в экзистенциальный риск. Она показывает, насколько снизился бы общий экзистенциальный риск при устранении этого фактора. Этот показатель позволяет в сопоставимых величинах сравнить размер факторов риска и размер экзистенциального риска. По аналогии разницу между Pr (X|f = fsq) и Pr (X|f = fmax) можно назвать потенциалом F. Она показывает, насколько мог бы возрасти экзистенциальный риск при усугублении этого фактора[487].

При приоритизации факторов риска нам особенно важна крутизна кривой на отметке fsq. Она дает нам понять, какую защиту мы можем обеспечить путем незначительного изменения фактора риска[488].

* * *

Дискуссия о факторах риска поднимает вопрос о возможности существования других факторов, которые снижают риск[489]. Их можно назвать факторами экзистенциальной безопасности[490]. К ним относятся, например, функционирование хорошо развитых институтов для снижения экзистенциального риска, повышение нравственного уровня цивилизации и мир между великими державами. Как показывает последний пример, если что-то считается фактором риска, то противоположное ему будет фактором безопасности.

Многое из того, что мы привыкли считать общественным благом, вероятно, можно отнести к факторам экзистенциальной безопасности. Такие вещи, как образование, мир и процветание, возможно, помогут нас защитить. Многие болезни общества могут оказаться факторами экзистенциального риска. Иными словами, стремление снизить экзистенциальный риск может стать стимулом для проведения политики, основанной на знакомых принципах здравого смысла.

Но я хочу подчеркнуть, что в этом наблюдении таится опасность. Дело в том, что так можно ненароком скатиться к благостной самоуспокоенности и заменить защиту будущего другими целями, возможно лишь условно с нею связанными. Если экзистенциальный риск снижается при движении к другой цели, это не значит, что такая стратегия – самый надежный способ сберечь наше будущее. Если эта другая цель важна с точки зрения здравого смысла, то вполне вероятно, что на ее реализацию уже выделяется гораздо больше ресурсов, чем на непосредственную работу с экзистенциальным риском. В таком случае у нас гораздо меньше возможностей сдвинуться с мертвой точки. На мой взгляд, вполне вероятно, что существует лишь несколько факторов экзистенциального риска и экзистенциальной безопасности (таких как война великих держав), которые действительно сопоставимы с самыми значимыми экзистенциальными рисками с точки зрения того, насколько эффективно дополнительная работа с ними помогает нам сберечь свое будущее. Очень важно выявить эти факторы.

Какие риски?

Как ни печально, большинству экзистенциальных рисков, которые мы рассмотрели, уделяется гораздо меньше внимания, чем они заслуживают. Хотя ситуация меняется, скорее всего, пройдет не один десяток лет, прежде чем на борьбу с серьезными рисками будут выделены достаточные ресурсы. Тем из нас, кто хочет сберечь наше будущее, необходимо расставлять приоритеты, то есть определить, на что именно направлять свои ограниченные силы и ресурсы.

Для этого логично было бы сравнивать риски по вероятности их наступления, а точнее, по размеру их вклада в общий риск. Поскольку ставки по большинству экзистенциальных рисков примерно равны (бо́льшая часть потенциальной ценности будущего), можно подумать, что этим дело и ограничивается: приоритетность рисков следует определять по тому, насколько они повышают общий риск.

Но это не так. Дело в том, что работать с некоторыми рисками проще. Например, мы можем снизить небольшой риск с 5 до 1 %, задействовав те же ресурсы, которые понадобились бы, чтобы снизить более серьезный, но более неподатливый риск с 20 до 19 %[491]. В таком случае, направив эти ресурсы на меньший риск, мы смогли бы снизить общий экзистенциальный риск сильнее.

Наша конечная цель – потратить ресурсы, выделенные на работу с экзистенциальным риском, таким образом, чтобы снизить общий риск как можно сильнее. Можно представить распределение ресурсов, имеющихся у человечества, как портфель инвестиций, состоящий из вложений в разные способы предотвращения разнообразных рисков. Сформировать весь портфель очень сложно, и часто мы в силах лишь вносить незначительные коррективы в распределение мировых ресурсов, поэтому для простоты представим, что мы вносим незначительные изменения в существующий портфель. Учитывая всю остальную работу, которая ведется для предотвращения рисков в настоящее время, какую задачу следует считать самой неотложной? Куда следует направить дополнительные ресурсы (например, время и деньги), чтобы сильнее всего снизить общий риск?