На краю пропасти. Экзистенциальный риск и будущее человечества - Орд Тоби

Настало время обратить свой взор к горизонту и посмотреть, какие возможности сулит нам грядущий век. Разглядеть эти возможности в туманной дали нелегко, поскольку нам чрезвычайно сложно сказать, какие новые технологии появятся, какую форму они примут, когда достигнут зрелости, и каким будет мир, в который они придут. Не исключено, что мы узнаем о новых технологиях, только когда они окажутся у нас перед носом. Дело в том, что серьезные сдвиги порой становятся неожиданностью даже для лучших специалистов и самих изобретателей технологий.

Однажды вечером в 1933 году ведущий мировой эксперт по атомной науке Эрнест Резерфорд назвал мысль о приручении атомной энергии “вздором”. На следующее утро Лео Силарду пришла в голову идея цепной реакции. Энрико Ферми в 1939 году сказал Силарду, что цепная реакция “маловероятна”, а четыре года спустя Ферми уже лично курировал первый в мире ядерный реактор. Огромный список видных ученых, которые полагали, что полеты на аппаратах тяжелее воздуха невозможны или не будут реализованы еще много десятков лет, приводится так часто, что успел набить оскомину. Но мало кто знает, что даже сам Уилбур Райт полагал, что такой полет не случится еще по меньшей мере лет пятьдесят, а сам осуществил его всего через два года[325].

В связи с этим нам стоит не забывать, как быстро могут появляться новые технологии, и не слишком доверять заявлениям о том, что некоторые технологии невозможны или настолько далеки, что у нас нет поводов для беспокойства. Если видные ученые с уверенностью развенчивают те или иные идеи, у нас есть повод относиться к этим технологиям скептически, но не стоит биться об заклад, что такие технологии не появятся никогда, ведь ученые ошибались и раньше[326].

Разумеется, есть и множество примеров того, как ученые и инженеры заявляли, что новая технология появится со дня на день, но она либо входила в нашу жизнь лишь через несколько десятилетий, либо не входила вообще, либо в итоге существенно отличалась от заранее описанного варианта. Суть не в том, что технологии обычно появляются раньше, чем ожидается, суть в том, что такое может случиться, и потому не стоит опрометчиво исключать какие-либо возможности или считать, что времени у нас достаточно.

Впрочем, нельзя совершать и обратную ошибку, а именно полагать, что не стоит задумываться о будущем, раз мы не в силах в него заглянуть. Кое-что мы можем спрогнозировать. Так, было бы странно, если бы давняя тенденция разработки технологий возрастающей мощности не сохранилась в текущем столетии. А поскольку именно наше беспрецедентное могущество привело к возникновению антропогенных рисков XX века, было бы удивительно, если бы в грядущем столетии не наблюдался сходный или более высокий риск.

Хотя эта глава посвящена будущему, мы не станем заниматься прогнозами – по крайней мере, в привычном смысле, предсказывая, какие и когда появятся технологии. Вместо того мы изучим горизонт на предмет правдоподобности и вероятности. Существуют ли правдоподобные будущие технологии, сопряженные с экзистенциальными рисками? Настолько ли вероятно их появление, что необходимо начать готовиться к нему? Для этого нам не нужно ни заглядывать в будущее, ни знать точную вероятность того, что может случиться. Нам достаточно провести оценку этой вероятности в верном диапазоне, увидеть общие очертания угроз. Это даст нам примерное представление о том, что ждет нас впереди и как к этому подготовиться.

Многое из того, что принесут с собой новые технологии, будет, несомненно, полезным, а порой и чудесным. Технологический прогресс – один из главных источников современного процветания и долголетия и одна из главных причин, по которым крайняя нищета стала исключением, а не правилом, а ожидаемая продолжительность жизни со времен промышленной революции увеличилась вдвое. Очевидно, что на протяжении столетий все риски, с которыми человечество сталкивалось из-за использования технологий, перевешивались благами, которые технологии приносили людям[327]. Дело в том, что столь большие завоевания в сфере здоровья и богатства – это совокупные завоевания с учетом всех негативных эффектов.

По крайней мере, так происходит с большинством рисков – с теми рисками, которые достаточно серьезны и достаточно привычны, чтобы закон больших чисел одерживал верх и превращал непредсказуемость малого масштаба в показательное долгосрочное среднее. Мы знаем, что эти ежедневные риски более чем перевешиваются. Неясно, однако, не объясняется ли этот положительный баланс тем, что удача несколько раз улыбнулась нам в ключевые моменты. Например, вполне можно допустить, что риск начала ядерной войны был достаточно велик, чтобы перевесить все блага современных технологий.

Именно это должно в наибольшей степени интересовать нас, когда мы смотрим на грядущий век. Нам важны не каждодневные риски и не подводные камни, сопряженные с технологиями, а то, возникнут ли случаи, когда под угрозой окажется само наше существование и нам не представится возможности восполнить потери.

В детстве я всегда был убежденным сторонником технологического развития. Если бы не вероятность этих пока еще не оформившихся рисков, я бы и остался им. Но теперь я склоняюсь к половинчатой позиции. Я далек от мысли, что технический прогресс нужно остановить: если бы какой-нибудь режим, действуя из лучших побуждений, навсегда заморозил технологии, это, вероятно, само по себе стало бы экзистенциальной катастрофой, поскольку лишило бы человечество надежды когда-либо реализовать свой потенциал.

Однако необходим зрелый поход к техническому прогрессу[328]. Мы должны продолжать развивать технологии, чтобы воспользоваться их плодами. Но важно проявлять огромную осторожность и при необходимости пускать значительную долю получаемых выгод на решение потенциальных проблем, чтобы баланс оставался положительным. Самое главное – заглядывать вперед и выявлять потенциальные опасности на горизонте.

Пандемии

В 1347 году в Европу пришла чума. Она проникла через Каффу, крымский город, куда попала вместе с осадившей местную крепость монгольской армией. Убегающие купцы, сами того не подозревая, принесли ее в Италию. Оттуда она распространилась во Францию, Испанию и Англию. Затем она добралась до Норвегии, пересекла Европу и дошла до самой Москвы. За шесть лет черная смерть захватила весь континент[329].

Десятки миллионов человек страдали от тяжелой болезни, которая проявлялась по-разному. У одних появлялись болезненные бубоны на шее, под мышками и на бедрах, у других тело чернело из-за подкожных кровотечений, третьи кашляли кровью из-за некротического воспаления в горле и легких. В любой форме болезнь сопровождалась жаром, изнеможением и невыносимой вонью, исходящей от всех телесных выделений[330]. Жертв было так много, что приходилось выкапывать братские могилы, и все равно на кладбищах не хватало места для новых тел.

Черная смерть разорила Европу. За эти шесть лет умерло от четверти до половины всех европейцев[331]. Опустошен был и Ближний Восток, где чума убила примерно каждого третьего египтянина и сирийца. Возможно, она прошлась и по ряду регионов Центральной Азии, Индии и Китая. Поскольку сведений с XIV века сохранилось немного, мы никогда не узнаем истинное число потерь, однако, по наиболее точным оценкам, от 5 до 14 % населения планеты погибло в одной из величайших катастроф на памяти человечества[332].

Можно ли сказать, что сегодня нам такое не грозит? Или же мы стали уязвимее? Может ли пандемия угрожать будущему человечества?[333]

Черная смерть не единственная биологическая катастрофа, оставившая след в человеческой истории. Это даже не единственная великая эпидемия бубонной чумы. В 541 году нашей эры Византийскую империю охватила Юстинианова чума, которая за три года унесла жизни примерно 3 % населения планеты[334].